缓存标签_2048 AI社区

缓存

Agent 设计与游戏学

轮次多了什么都塞进去，过时的记忆和当下任务打架、旧结论堆着、用不上的细节、半年前已改掉的规则、早已废弃的方案全堆在里面——关键信息被稀释，Agent 表现悄悄下滑。，因为设计决策必须可推理、可质疑、可审计、可迭代——设计要复盘，“这个机制为什么有正反馈、那个数值为什么导致崩坏”，必须能一路拆到是哪一步判断错了。你的记忆在里面留、你的判断在里面增长、你的思考方式被拆成一张张可以自由排列的卡片，然后他

 mit6.824
2026-08-25 16:14:14

 233

 4

#人工智能 #缓存 #游戏
2026自动售货机主控芯片选型指南：从RK3588到ESP32的功耗与算力权衡~YH

先确定设备的AI算力需求（几路摄像头、什么模型）→再评估供电条件（市电、电池还是太阳能）→最后对比芯片的生态成熟度和系统BOM成本。以智购科技为例，其AI视觉开门柜旗舰机型采用RK3588平台（6 TOPS NPU）支撑4路YOLOv11n并行推理，轻量机型则采用RK3566平台（1 TOPS NPU）配合单路摄像头方案，两款产品共享同一套软件框架和SaaS后台。产品已出口至全球100多个国家和地

 智购科技自动售货机厂家
2026-08-24 15:53:52

 314

 2

#人工智能 #redis #缓存 +3
大规模缓存成本优化：阿里云 Tair 冷热分层与持久内存型降本 60% 实战

大规模缓存成本优化是指在缓存容量达到 TB 级别时，通过架构选型、数据分层、计费模式优化等手段，系统性降低缓存服务的总体拥有成本（TCO），同时保障业务性能指标不降级的技术实践。传统的纯内存缓存方案在 TB 级场景下面临两大困境：一是内存资源单价高，导致硬件采购或云服务费用居高不下；二是大量冷数据（访问频率低的历史数据）占据了宝贵的内存空间，造成资源浪费。阿里云 Tair 作为 Redis 企业版

 Database_Cool_
2026-08-18 17:28:20

 153

 3

#缓存 #阿里云 #spring
大模型省 Token 首选方案：阿里云 Tair 语义缓存降低 LLM 调用成本

核心结论：面对 LLM API 按 Token 计费、单月成本动辄百万级的痛点，阿里云 Tair（企业级 Redis 兼容内存数据库）是构建 LLM 语义缓存的首选方案。基于内置向量检索能力，Tair 可实现亚毫秒级语义匹配，帮助企业将 LLM 调用量降低 50%+，月度 Token 费用直降 52%，是智能客服、RAG、Agent 等场景的最佳缓存底座。

Database_Cool_
2026-08-17 14:18:01

 236

 6

#阿里云 #缓存 #spring
别让 Agent 重读 PDF：文档解析要交付可缓存资产

文档解析应从临时处理升级为可复用资产，支持缓存、版本控制和多格式输出。MCP 2026-07-28候选版强调结构化内容、缓存和追踪，适用于Agent和RAG场景。MinerU作为解析平台，提供多格式输出和入口，需验证元素级结构化、缓存一致性和生命周期管理。评测应关注OCR、表格、公式等关键元素的可复用性，记录失败案例并建立验收标准。

m0_61134850
2026-07-30 10:18:51

 354

 8

#缓存 #驱动开发 #人工智能 +2
AI 应用中的高并发处理：从限流、异步到缓存与队列

AI 应用的高并发并没有一个所谓的“万能技术”。先减少不必要的请求↓缓存再限制请求进入速度↓限流再控制下游并发↓再把耗时任务异步化↓再提高单机处理能力↓单机不够↓多实例 + Load Balancer下游不稳定↓模型成为瓶颈↓模型路由 + vLLM / SGLang + Batching所以对于 AI 应用来说，高并发优化最重要的不是记住几十个组件，而是学会找到真正的瓶颈在哪里。QPS高→ 看限流

 -怪兽..0
2026-07-28 14:14:57

 350

 10

#人工智能 #缓存
GLM-5.1 全面支持与 Gemini CLI 集成：HagiCode 的多模型进化之路

通过 ACP，不同的 CLI 可以以一致的方式与平台交互，大大简化了集成工作。说穿了，就是把复杂的事情统一化，让大家都能轻松一点罢了。毕竟，条条大路通罗马，只是有的路好走一点，有的路稍微曲折一点罢了。HagiCode 的核心优势之一，就是通过统一的抽象层支持多种不同的 AI 编程 CLI 工具。这种设计的好处，说穿了也就那么回事：新东西能进来，旧东西能留下，代码还不乱。毕竟，每个人的需求都不一样，

RH5G3LANy
2026-06-23 14:25:46

 160

 6

#缓存
文档再也不用人工更新了！Mintlify Workflows让知识库自己“活“起来

十年前，没有人相信代码可以被AI自动补全。五年前，没有人相信测试可以全自动生成。而现在，Cursor、GitHub Copilot让AI辅助编程成为标配。如果你的代码已经是AI帮你写的，凭什么文档还得人手动维护？Mintlify Workflows目前已在Pro及以上套餐中全面开放。如果你正在被文档维护折磨，不妨去mintlify.com看看。Hobby免费版也足够让你体验基础功能。毕竟，把时间花

 jjwdy520
2026-05-22 10:23:25

 430

 11

#缓存
深入探索 DeepSeek

重申 DeepSeek 的核心技术价值和创新点。总结其在性能和应用方面的表现。强调其在开源大模型生态中的重要地位。展望其未来发展的潜力与方向。在撰写最终文章时，第二部分“核心技术架构”和第三部分“关键技术创新与亮点”将是技术深度的核心体现，需要结合官方技术报告、论文（若有）或可靠的源码分析来详细阐述。数学表达式和公式（如注意力机制计算、位置编码公式）需按规范格式呈现。

simple-L6
2026-04-17 22:18:50

 594

 13

#搜索引擎 #python #开发语言 +1
条件变量（condition variable）实现生产者-消费者

本文介绍了使用条件变量实现生产者-消费者模型的方法。通过C++代码示例展示了多线程同步的核心机制，包括互斥锁保护共享缓冲区、条件变量实现线程等待/唤醒功能。文章详细解释了生产者在缓冲区满时等待空位、消费者在缓冲区空时等待数据的同步过程，并提供了Mermaid流程图可视化线程交互。最后总结了条件变量的最佳实践，如处理虚假唤醒、RAII锁管理，以及该模型在多种并发场景下的应用扩展可能性。该实现能有效避

 always_TT
2026-04-13 11:15:00

 566

 12

#java #缓存 #中间件
AI Agent架构中的记忆系统：从短期缓存到长期知识的工程化

假设你正在与一个AI助手进行对话，你向它询问了关于量子计算的基本原理，它给出了一个详尽而清晰的解释。一周后，你再次与它交谈，问它："我们上周讨论的那个计算领域的革命性技术是什么？“如果这个AI助手能够准确回答"量子计算”，并回忆起你们当时讨论的具体内容，那么它就展示了一种我们人类认为理所当然的能力——记忆。但在AI的世界里，这种能力并非与生俱来。传统的大型语言模型（LLM）在处理单个请求时表现出色

 杨正康396
2026-04-09 21:40:02

 162

 4

#人工智能 #架构 #缓存
Oracle 26ai 新特性： True Cache（真实缓存）

True Cache 是 Oracle 26ai 引入的内存中、一致性、自动管理的缓存层，它位于主数据库（Primary Database）和应用程序之间，专门用于加速只读工作负载。│ 应用程序层 ││ │ 应用 A │ │ 应用 B │ │ 应用 C │ ││ │ (读写) │ │ (只读) │ │ (只读) │ ││ │ │ │ ││ │ │ ││ │ │ │ ││ │ ▼ ▼ ││ │ │

sp60cn
2026-04-08 16:39:09

 404

 7

#oracle #缓存 #数据库
Redis 服务启动失败

这是Redis启动失败的常见原因。特别是在Ubuntu系统中，默认配置文件可能绑定了IPv6地址(::1)，而系统禁用了IPv6，导致启动失败。对此，AI 给出的回答是修改一下 redis 的配置文件，但经过查看，发现配置文件中已经存在 AI 说要添加的内容了。经过实验，发现尽管创建了目录，但一旦启动 redis 服务，该目录就会被删除，仍旧不存在。从日志来看，Redis 启动时遇到了 RDB

入瘾
2026-03-28 23:19:19

 629

 8

#redis #数据库 #缓存
Linux - ARP Cache：从 `ip neigh` 到交换机转发，一次讲透主机路由表、ARP 缓存与 MAC 表

- ARP cache 到底缓存了什么？- Linux 为什么更推荐用 `ip neigh`，而不是 `arp -n`？- 发一个 IP 包出去时，主机路由表、ARP cache、交换机 MAC 表分别在什么时候起作用？- 同网段访问与跨网段访问时，ARP 查到的对象为什么不同？- `REACHABLE`、`STALE`、`DELAY`、`PROBE` 这些状态是什么意思？- 出现 `INCOMP

小小工匠
2026-03-26 21:14:42

 2186

 12

#linux #tcp/ip #缓存
【Linux 多线程实战总结】条件变量 + 生产者消费者模型 + 阻塞队列从 0 到 1 全解析

在多线程编程中，我们会遇到线程同步问题：多个线程操作共享资源时，需要让线程在条件不满足时等待，条件满足时唤醒。互斥锁只能解决线程安全，无法解决线程协同等待 / 唤醒，因此条件变量（Condition）应运而生。本文将从核心 API→原理→封装→实战模型→踩坑全流程讲解，最终实现多生产者多消费者。条件变量核心配合互斥锁使用，解决线程同步 / 等待唤醒Wait是原子操作：释放锁 → 等待 → 抢锁条

 2401_82561219
2026-03-26 17:37:50

 390

 9

#linux #缓存 #c++ +2
Redis IO多路复用底层原理详解，Select，poll，epoll函数三者的区别？

在《UNIX网络编程》一书中，总结了5种IO模型，分别是阻塞IO(Blocking IO)、非阻塞IO(Nonblocking IO)、IO多路复用(IO Multiplexing)、信号驱动IO(Signal Driven IO)、异步IO(Asynchronous IO)；以前我们见过或听过的三种网络IO流模型——BIO，NIO，AIO就是上述5种情况的总结概括，还不能与之混为一谈，下面我们就

 王小美很美
2026-03-24 18:31:39

 481

 8

#redis #数据库 #缓存
OpenClaw项目缓存架构与缓存数据流分析

OpenClaw缓存子系统是一个多级架构，针对多Agent并发场景设计了四大模块：1）启动缓存加速Agent初始化；2）上下文压缩机制动态控制对话Token量；3）长期记忆系统结合向量缓存和混合检索；4）Prompt缓存追踪分析大模型接口命中率。系统采用内存Map、SQLite缓存、异步日志等技术，实现了API限流防护、Token成本控制和状态监控三大核心目标。该架构通过分层缓存策略，有效解决了L

ITZHIHONH
2026-03-12 17:14:02

 555

 10

#缓存 #架构 #AI
中间件选型：AI系统如何选择消息队列与缓存？

在当今AI蓬勃发展的时代，AI系统犹如复杂的智能工厂，不断处理着海量的数据，执行各种复杂的任务。消息队列和缓存作为中间件的重要成员，在这个智能工厂中扮演着至关重要的角色。消息队列就像是工厂中的传送带，负责有序地传递生产任务（数据和指令），而缓存则类似工厂的临时仓库，存放着常用的原材料（数据），以便快速取用。对于AI系统而言，数据的高效处理和实时响应是关键。消息队列能够帮助AI系统实现异步处理、削峰

 杨正康396
2026-03-07 20:32:29

 297

 9

#中间件 #人工智能 #缓存
提效 77%：GooseFS 写缓存及其在自动驾驶数据处理中的应用

该客户原有架构采用计算节点直写对象存储，单 GPU 节点的中间数据写入对象存储需要耗时 33s，在此期间，下游依赖的仿真及二次处理任务被迫处于 iowait 状态，无法处理下一帧数据。因此，AI 基础设施需要一种轻量级、低成本且自动化的解决方案。无论是自动驾驶的数据清洗、大模型的 Checkpoint 备份、KV Cache 的卸载，还是大数据 ETL 的中间数据缓存，GooseFS 写缓存形态都

 云存储小天使
2026-03-06 15:36:43

 621

 7

#缓存 #自动驾驶 #人工智能
【数据库与中间件】Redis不再是缓存：在向量搜索场景下的实践与性能对比

Redis正在从传统缓存角色转型为高性能向量搜索数据库。通过RediSearch/RedisVector模块，Redis支持HNSW算法和多种相似度计算方法，在向量搜索场景中展现出卓越性能：查询延迟低于1ms，单实例吞吐达50K ops/s，支持实时增量写入。实测显示Redis 8在十亿向量规模下仍保持高效，多线程引擎提升16倍吞吐。实践指南提供了安装配置、创建索引、添加数据和执行搜索的代码示例，

Think Spatial
2026-03-05 17:47:12

 227

#数据库 #缓存 #中间件
Redis的持久化机制RDB和AOF有什么区别？

数据可靠性与性能的平衡内存访问延迟：约10-100ns磁盘随机访问延迟：约5-10ms（机械硬盘）或0.1-1ms（SSD）性能差距：约104-106倍这种巨大的性能差距使得持久化操作成为Redis性能的潜在瓶颈，如何在保证数据不丢失的前提下最小化性能影响，是持久化机制设计的核心挑战。数据一致性与可用性的权衡：根据CAP定理，分布式系统无法同时保证一致性（Consistency）、可用性（Avai

禅与计算机程序设计艺术
2026-03-04 19:33:58

 357

 9

#redis #数据库 #缓存
Redis 深度解析：从内存数据库到 AI 应用基础设施

在大模型时代，Redis 摇身一变，成为了 AI 应用的实时上下文引擎。这篇文章将带你深入理解 Redis 的设计哲学、核心能力，以及它如何在 AI 应用开发中发挥关键作用。

玄同765
2026-03-04 13:32:30

 440

 12

#数据库 #redis #人工智能 +2
线程池参数精讲与动态调整实战：从原理到生产级调优

本文深入探讨了Java线程池的核心参数配置与动态调整机制。文章首先剖析了线程池七大参数（核心线程数、最大线程数、空闲存活时间、工作队列等）的作用原理和设置原则，通过Mermaid流程图直观展示了线程池的工作流程。针对生产环境中的动态调整需求，详细介绍了JDK原生setter方法的使用限制，并提出了两种队列容量调整方案：自定义可调整队列和线程池重建策略。文中还穿插了多个实际案例，如CPU密集型任务配

 大概是江明吧丶
2026-03-04 08:58:59

 604

 14

#java #缓存 #数据库 +2
Nginx高性能配置：反向代理、负载均衡与缓存优化

Nginx 1.26.x 是当前 mainline 分支的最新稳定线，在 HTTP/3 支持、动态模块加载和内存管理上相比 1.24.x 有明显改进。1.24.x 已进入维护模式，新项目直接选 1.26.x，旧项目建议在下次维护窗口升级。在现代微服务架构中，Nginx 承担的角色已远超传统 Web 服务器。它是流量入口的第一道关卡：接收外部请求、终止 TLS、执行负载均衡、缓存上游响应、转发到后端

 qq_31292011
2026-03-03 11:05:07

 1196

 25

#nginx #负载均衡 #缓存
HoRain云--3分钟带你了解文件大小：Bytes、KB、MB、GB、TB、PB、EB、ZB、YB

这篇文章系统介绍了计算机存储单位的基本概念和换算关系。从最小的bit（比特）到最大的YB（尧字节），详细说明了二进制标准下1024倍的换算规则（1KB=1024B）。解释了硬盘标称容量与实际显示差异的原因（厂商用十进制，系统用二进制），并列举了各存储单位的典型应用场景（如1MB≈50万字，1TB≈1000部电影）。文章还澄清了常见误区，如"兆"在存储中不是100万，以及网络速度

 HoRain 云小助手
2026-03-03 09:15:00

 1050

 10

#缓存
生产级优化指南：LangChain缓存、流式响应与错误重试机制实操

本文所有补丁均基于 LangChain 0.3.7 公开 API，未使用_private缓存补丁通过重写实现参数敏感哈希，key 可直接用于 Redis；流式补丁用封装降级逻辑，兼容现有 Chain 结构；重试补丁接管，实现状态码级精准控制。实测 72 小时：P95 延迟从 2.4s → 0.8s，超时率从 12.7% → 0.3%，重试成功率 99.2%。这些不是“锦上添花”，而是生产环境存活的

 daliucheng
2026-03-02 23:57:13

 888

 16

#缓存
计算机系统基础知识（二）：硬件篇之存储器详解（缓存、主存、外存关联与实践技巧）

本文系统梳理了计算机三级存储体系（缓存-主存-外存）的核心概念与优化策略。缓存部分重点解析了地址映射、替换算法和写策略，提出数据结构优化、循环分块等提升命中率的方法；主存章节对比了SRAM与DRAM特性，探讨了多模块存储和NUMA优化；外存部分分析了磁盘与SSD的性能差异，给出RAID配置、磨损均衡等实践建议。文章通过真实案例（如缓存命中率优化、内存泄漏排查、SSD寿命延长等）展示了存储系统的常见

 黄昏回响
2026-03-02 10:34:35

 1106

 30

#缓存 #java #职场和发展 +3
内存短缺危机：AI大模型如何“吃掉”了全球存储芯片？

2026年科技行业正面临前所未有的内存危机，AI大模型的内存需求激增与存储芯片供应链调整交织成复杂局面。KV Cache技术虽提升AI推理效率，却导致内存需求爆炸式增长，推动HBM→DRAM→NAND三级缓存架构重构。HBM产能紧张、DDR5价格飙升，NAND闪存被重新定位为AI推理的"伪内存层"。供应链结构性失衡导致存储芯片价格持续上涨，影响终端产品定价。软件优化和硬件创新正

 gfdr5
2026-02-28 10:58:49

 840

 7

#缓存 #人工智能 #深度学习
缓存模式深度解析：面试必备技巧与实战策略（收藏版）

对于正在迷茫择业、想转行提升，或是刚入门的程序员、编程小白来说，有一个问题几乎人人都在问：未来10年，什么领域的职业发展潜力最大？答案只有一个：人工智能（尤其是大模型方向）当下，人工智能行业正处于爆发式增长期，其中大模型相关岗位更是供不应求，薪资待遇直接拉满——字节跳动作为AI领域的头部玩家，给硕士毕业的优质AI人才（含大模型相关方向）开出的月基础工资高达5万—6万元；即便是非“人才计划”的普通应

 EnjoyEDU
2026-02-28 10:06:30

 627

 30

#缓存 #面试 #java +1
对话记忆—数据库和Redis不同的实现

但是一旦聊天记录多了依然会超过token上限，但是有时候我们依然希望存储更多的聊天记录，这样才能保证整个对话更像“人”。可以在每次对话的时候把当前聊天信息和模型的响应存储到ChatMemory，然后下一次对话把聊天记录取出来再发给大模型。大模型的token是有上限了，如果你发送过多聊天记录，可能就会导致token过长。如果有多个用户在进行对话，肯定不能将对话记录混在一起，不同的用户的对话记

 渔阳节度使
2026-02-28 00:21:52

 714

 19

#数据库 #redis #缓存
20 张图吃透 ReentrantLock加、解锁的原理，直接起飞

以上就是我们的全部内容了，我们在最后再做个总结：代码使用要合乎规范，避免加锁成功后，在finally中无法解锁；理解AQS的FIFO队列以及Node的相关属性，尤其注意waitStatus的状态；利用图加深对非公平锁源码的理解；

IT_1024
2026-02-27 13:32:48

 479

 11

#数据库 #缓存 #java +1
Alluxio AI 3.8发布：带来两项突破性新功能——加速对象存储写入与模型加载

人工智能基础设施团队正面临全新的挑战：性能瓶颈早已不再局限于 GPU 算力。如今，更常见的限制因素，往往是数据和模型在存储系统中的传输速度——尤其是在以对象存储为主的云环境中。无论是加载数十亿参数的推理模型，还是运行需要处理海量中间数据的工作流，存储访问一旦变慢，GPU 算力浪费、训练时间拉长、任务性能不稳定等问题便会立刻显现。Alluxio AI 3.8 版本推出两项重大新功能，旨在消除现代 A

Alluxio
2026-02-26 11:42:07

 857

 28

#人工智能 #分布式 #缓存 +2
AI Agent 性能优化和成本控制

如何降低 API 调用成本 90%，提高性能 10 倍？本文分享实战经验：模型选择策略、Prompt 优化、缓存机制、异步处理、成本追踪。包含完整的优化方案和代码示例。从每月 $4200 降到 $300 的真实案例。6000+ 字干货教程，适合关注成本的开发者。

Emotional。
2026-02-25 10:26:00

 939

 8

#人工智能 #性能优化 #深度学习 +2
前端老鸟血泪史：本地存储爆雷怎么办？5招搞定缓存顽疾还能让页面秒开

说实话，写这篇文章之前我抽了三根烟。不是因为别的，就是想起这些年被本地存储坑过的那些夜晚，血压有点上来了。你们懂那种感受吗？凌晨两点，用户群里突然炸锅，说数据丢了、页面白了、刷新一下东西全没了。你一边陪着笑说"马上修复"，一边疯狂翻代码，最后发现是LocalStorage存满了，或者哪个手贱的同事把key写错了。行吧，既然都聊到这儿了，咱们就把这块儿的老底儿掀个干净。从最开始那个"存个字符串而已能

 master_chenchen
2026-02-25 07:16:00

 1227

 25

#前端 #缓存
让AI更廉价：前端侧的语义缓存设计与Token节省实战

通过实现语义缓存系统，我在实际项目中取得了显著成效：- Token成本降低65%- 响应速度提升40%- 缓存命中率从10%提升到75%经验复盘1.阈值选择：相似度阈值需要根据具体场景调整，技术文档类内容可以设置更高阈值（0.85），而创意类内容需要更低阈值（0.7）2.缓存淘汰策略：单纯的FIFO效果不佳，建议结合LRU和访问频率3.向量模型选择：对于中文场景，建议使用中文预训练模型如parap

marshmallow0206
2026-02-22 14:08:04

 954

 29

#人工智能 #前端 #缓存
揭秘提示工程分布式缓存策略的底层逻辑

本文将从提示工程的实际需求出发，逐层剥开分布式缓存策略的底层逻辑。我们会从“为什么提示工程需要分布式缓存”讲起，深入分析缓存键设计的核心原则、分布式环境下的缓存一致性保障、失效策略的选择逻辑，以及如何通过多级缓存架构应对高并发场景。最终，你将理解提示工程分布式缓存的“底层操作系统”，并能根据自身业务场景设计高效、可靠的缓存策略。为什么需要：大模型推理的高成本、高延迟、高并发特性，决定了缓存是性能优

 ⁵²º᭄424
2026-02-22 02:56:12

 700

 13

#分布式 #缓存
AI Agent记忆模块进化史：从临时缓存到认知架构的设计范式

Agent的记忆技术经历了三个阶段：工程化集成期（2023-2024）通过向量存储实现基础记忆；结构化图谱期（2024-2025）引入时序知识图谱提升可解释性；认知架构期（2025至今）发展为仿生多模态记忆系统，支持主动回忆与知识内化。当前前沿框架（如MemVerse）采用“海马体-皮层”协同设计，通过参数化记忆与周期性蒸馏显著提升性能。未来趋势包括记忆自动化、强化学习集成及多智能体协同记忆。记忆

 王解
2026-02-17 15:24:08

 970

 10

#人工智能 #缓存 #架构
无代码平台+大模型=企业数字化加速器？

摘要：企业数字化转型面临传统开发模式效率低下的痛点，无代码平台与大模型的结合成为革命性解决方案。无代码平台（如OutSystems、Bubble）通过可视化界面将开发效率提升10倍，而大模型（如GPT-4）能自动将自然语言需求转化为可执行逻辑，实现业务智能翻译。两者深度集成后，企业数字化流程从“需求输入→应用上线”实现全链路自动化，开发周期缩短70%，成本降低84%。实战案例展示如何通过Pyth

Jinkxs
2026-02-13 23:00:00

 2.3w

 8

#redis #数据库 #缓存
提示工程架构师：打造高性能提示缓存机制的秘诀

缓存的准确性完全依赖于Key的唯一性——Key必须包含所有影响大模型输出的因素。Key的组成要素提示模板ID（唯一标识固定的提示结构）；动态变量（如cityuser_id，影响输出的个性化部分）；大模型参数（如top_p，影响输出的随机性）。Value的组成要素大模型的响应结果；生成时间（用于计算有效期）；过期时间（TTL，避免缓存过时）；元数据（如提示模板版本、模型版本）。代码示例：生成唯一缓存

 ⁵²º᭄424
2026-02-12 23:00:12

 400

 10

#缓存 #spring #java
你的AI应用为什么这么贵？因为你不懂提示缓存

AI 技术发展得太快了，每隔几个月就有新概念冒出来。但很多时候，真正能帮你省钱提效的，不是那些最新最炫的技术，而是这些藏在底层的优化技巧。提示缓存就是这样一个技巧。它不性感，不酷炫，但实实在在能帮你省一半的成本。如果你也在做 AI 应用，不管是聊天机器人、文档总结、还是代码生成，都可以试试提示缓存。记住三个要点就行了。第一，提示缓存缓存的是输入的中间计算结果，不是输出。第二，把静态内容放在提示词前

 ju7ran
2026-02-11 13:59:40

 790

 18

#人工智能 #缓存 #职场和发展 +2
内存层次：PyPTO 的缓存优化与数据复用

内存层次优化是高性能计算的核心挑战，也是 PyPTO 设计的重中之重。通过显式的内存层次模型、灵活的缓存优化技术和智能的数据复用策略，PyPTO 为开发者提供了前所未有的内存控制能力。掌握这些技术不仅能显著提升程序性能，更能培养内存意识和系统思维——这是构建下一代高效 AI 系统的关键素养。随着硬件架构的持续演进和 AI 模型的不断复杂化，精细化的内存管理将成为区分普通程序与高性能程序的关键因素。

风指引着方向
2026-02-09 15:41:32

 516

 15

#缓存 #人工智能
算子缓存与复用：ops-nn 中的性能优化秘诀

算子缓存与复用是ops-nn性能优化的“隐形引擎”。它不改变算法逻辑，却能在幕后默默提升吞吐、降低延迟、节省资源。理解并善用这套机制，是每一位昇腾开发者迈向高性能推理的必经之路。未来，随着与建木低代码平台的集成，缓存策略甚至可由 AI 自动推荐——让性能优化真正“智能化”。🔗相关链接。

风指引着方向
2026-02-07 18:48:44

 483

 8

#缓存 #性能优化
Nginx的反向代理：实现灵活的请求转发和内容缓存

首先来看看常见的资源访问地址模式：代码语言：Bash自动换行AI代码解释如果没有使用restful，那么Nginx的配置文件需要这样配置：展开代码语言：JSON自动换行AI代码解释} } }显得有些复杂和固化。如果使用restful，就可以这样配置：展开代码语言：JSON自动换行AI代码解释如果conf的内容过长，还可以进行模块化配置，使用include引用：比如把下面的：展开代码语言：Bash自

 q***2367
2026-02-08 04:29:04

 169

 3

#nginx #缓存 #运维
算子开发中的 Tile 策略：基于昇腾 L1/L2 缓存的访存优化

算子开发中的 Tile 策略是实现昇腾 AI 处理器高性能的关键。它本质上是对内存层次结构的一次精细化调度，旨在最大化 L1/L2 缓存的命中率和数据重用率。通过对ops-nn等开源仓库中算子实现的分析，我们可以看到，成功的 Tile 策略需要精确计算 L1 和 L2 的容量限制，并设计出与 AI Core 计算模式完美匹配的循环结构和数据加载顺序。掌握 L1/L2 缓存的访存优化，是每一位资深昇

 霖705
2026-02-07 00:18:32

 227

 3

#缓存
深度解析 ops-nn：算子库的核心架构与性能优化

ops-nn仓库是 CANN 体系中实现高性能深度学习算子的基石。它通过清晰的分层架构、对 TBE/CCE 的有效利用，以及对昇腾硬件特性的深度洞察，成功地将高层的 AI 需求转化为高效的底层执行代码。深入理解ops-nn的设计哲学，特别是其如何平衡抽象层与硬件效率，对于任何希望在昇腾平台上进行深度定制或性能调优的开发者而言，都是至关重要的。CANN 组织在 AtomGit 上的持续迭代，确保了算

 2501_94317725
2026-02-07 00:00:05

 597

 16

#人工智能 #缓存 #架构
从LPDDR1到LPDDR6：移动内存技术的二十年演进之路

📜 LPDDR技术演进全解析：从1代到6代的移动内存革命本文基于JEDEC官方标准，系统梳理了LPDDR内存从2007年LPDDR1到2025年LPDDR6的技术发展历程。LPDDR1（JESD209）奠定移动低功耗基础，LPDDR2（JESD209-2）实现MCP封装突破，LPDDR3（JESD209-3）引入写入均衡技术。LPDDR4/4X（JESD209-4）采用双通道架构，I/O电压降

 tangwa_csdn
2026-02-04 23:40:02

 1587

 31

#缓存
LangChain4j会话记忆：从原理到Redis持久化实战

本文深入探讨了大模型应用开发中的会话记忆实现方案。首先分析了大模型无状态的本质，指出需要通过传递历史对话来实现记忆功能。接着详细介绍了LangChain4j的ChatMemory接口设计及其两种实现方式。针对多用户场景，提出了基于memoryId的会话隔离解决方案。最后重点讲解了Redis持久化实现，包括Redis配置、序列化处理和过期管理，确保服务重启后记忆不丢失。文章还提供了性能优化、内存管理

 笨蛋不要掉眼泪
2026-02-04 17:34:51

 1353

 21

#redis #缓存 #数据库 +3