程序员必看!港中大&微信AI联合出品HGMEM,让大模型处理长文本像拥有“侦探思维“一样精准
HGMEM是由港中大和WeChat AI联合研发的新型多步RAG技术,通过将传统工作记忆升级为可动态生长的超图结构,解决了长文本中高阶关系建模难题。该技术支持实体间多元连接,结合自适应检索和记忆合并机制,在保持成本不变的情况下,显著提升了大模型在超长文档中的全局推理能力,在多个基准测试上取得SOTA成果。
https://github.com/Encyclomen/HGMemImproving Multi-Step RAG with Hypergraph-Based Memory for Long-Context Complex Relational Modeling https://arxiv.org/pdf/2512.23959
港中大 & WeChat AI 联合团队
一、RAG双重暴击:“超长+全局推理”
| 传统 RAG 的痛点 | 具体表现 |
|---|---|
| 单步检索 | 只能“点到点”找答案,跨章节、跨事件关联无力 |
| 工作记忆=简单摘要 | 用一段流水账 plain text 记录历史,丢细节、丢引用、丢结构 |
| 图记忆 | 最多二元关系(A→B),无法表达“三元及以上”高阶关联 |
结果:在 100k+ token 的金融/法律/小说类文档里,一旦问题需要“全局 sense-making”(例如“为什么 Xodar 被送给 Carter 当奴隶?”),现有方法就像拼图只拼边缘,中间永远缺一块。
二、HGMEM——把“记忆”升级成“超图”

图1:左侧为第 t 步交互流程;右侧为超图记忆的演化示意
2.1 核心思想
把“工作记忆”不再当成一块硬盘,而是一张可动态生长、可高阶连接的超图:
- 每个超边(hyperedge)= 一个“记忆点”,可一次性连接 ≥2 个实体
- 支持三种原子操作:Update ∣ Insert ∣ Merge
- 每一步先“自我检查”→ 决定局部深挖 or 全局探索 → 检索 → 用 LLM 把新证据合并成更高阶的超边
2.2 关键模块一览
| 模块 | 作用 | 与传统做法差异 |
|---|---|---|
| 超图存储 | 用 hypergraph-db 实时维护节点 & 超边 |
不再是 plain text 或二元图 |
| 自适应检索 | Local Investigation ↔ Global Exploration 切换 | 先“查周边”再“开新地图”,减少冗余 |
| 记忆合并 | 把多条低阶事实熔成一条高阶关系 | 二元图做不到 n-ary 融合 |
| 子查询生成 | LLM 基于当前超图拓扑自动出题 | 避免人工模板 |

图2 记忆演化案例
图2:Cowslip Moth 案例中,三条低阶事实被合并成一条“昆虫-植物共生”高阶关系
三、实验:成绩与成本双赢
3.1 主要结果
在 4 个超长文档基准(NarrativeQA / NoCha / Prelude / LongBench-V2)上,同样用 GPT-4o 或 Qwen-32B 做 backbone,HGMEM 全线 SOTA:

表1:↑ 表示合并操作带来的高阶关联对“sense-making”类问题尤为关键
3.2 成本对比
与同样带工作记忆的 DeepRAG / ComoRAG 相比,HGMEM 平均 token 消耗与延迟几乎持平,并未因“超图”而额外增负:

表5 在线开销对比
表5:合并操作仅增加 <7% token,却带来显著精度提升
四、一句话总结
HGMEM 把“记忆”从静态硬盘升级成动态超图,让大模型在超长文本里像侦探一样层层抽丝、合并线索、全局破案,而且不增成本——多步 RAG 的“记忆”就该这么玩!
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐

所有评论(0)