现有的RAG框架大多依赖于静态文档检索,无法满足企业应用中对动态知识整合的需求。

例如,有些企业级应用需要从持续的对话和业务数据中提取知识,而不仅仅是从静态文档中检索信息。

本次分享的Zep,提供了一种新型智能体记忆层服务,它通过其核心组件Graphiti——一个时序感知的知识图谱引擎,动态地整合非结构化对话数据和结构化业务数据,并保持历史关系。

一、Zep的架构特点

  1. 动态知识图谱的构建
  • Zep的核心是Graphiti,一个时序感知的知识图谱引擎。它通过动态更新知识图谱,将新的信息以非损失的方式整合到图谱中,同时保持事实和关系的时间线,包括它们的有效期。
  • Graphiti将知识图谱分为三个层次的子图:
  • 片段子图(Episode Subgraph)
  • 语义实体子图(Semantic Entity Subgraph)
  • 社区子图(Community Subgraph)。

这种层次结构模仿了人类记忆模型,将片段记忆(episodic memory)和语义记忆(semantic memory)结合起来,使智能体能够开发出更复杂和细致的记忆结构。

  1. 动态信息更新
  • Graphiti通过时序提取和边无效化过程管理动态信息更新。
  • 系统从片段上下文中提取时间信息,并通过比较新边与现有边的语义相关性来识别潜在的矛盾,从而动态地更新知识图谱中的关系。
  1. 记忆检索机制
  • Zep的记忆检索系统提供了强大且可配置的功能,通过搜索、重排序和构造三个步骤,将知识图谱中的信息转化为LLM智能体可以利用的上下文。

1.1 动态知识图谱的构建

  • 片段子图构建
  • 数据摄入:Zep首先摄入原始数据单元,称为片段(Episodes)。片段可以是消息、文本或JSON格式的数据。每个片段都包含一个参考时间戳(tref),用于标识片段发生的时间。
  • 时序建模:Zep采用双时序模型,其中时间线T表示片段的顺序,时间线T′表示数据摄入的顺序。这种双时序模型使得Zep能够动态地处理对话数据和记忆的变化。
  • 片段边构建:片段边(Ee)连接片段和它们提取出的实体节点。这些边维护双向索引,允许从语义实体追溯到其来源片段,也可以从片段快速检索相关实体和事实。
  • 语义实体子图构建
  • 实体提取:系统从当前消息和前n条消息中提取实体,以提供上下文信息。提取的实体包括说话者和其他显著的实体、概念或角色。
  • 实体嵌入:每个实体名称被嵌入到一个1024维的向量空间中,以便通过余弦相似度搜索找到相似的节点。
  • 实体解析:系统通过LLM进行实体解析,识别重复的实体,并生成更新的名称和总结。
  • 图谱更新:使用预定义的Cypher查询将提取的实体和关系整合到知识图谱中,以确保一致的模式格式并减少幻觉的可能性。
  • 社区子图构建
  • 社区检测:系统通过标签传播算法(Label Propagation Algorithm)构建社区子图。当新实体节点添加到图谱中时,系统会根据其邻居的社区归属将其分配到相应的社区,并更新社区总结。
  • 社区总结:社区节点包含从成员节点中迭代生成的总结,这些总结通过关键词和相关主题生成社区名称,以便进行余弦相似度搜索。

1.2 动态更新

  • 时序提取
  • 系统从片段上下文中提取时间信息,包括绝对时间戳(如“1912年6月23日”)和相对时间戳(如“两周前”)。这些时间信息被存储在边中,以便跟踪事实的有效期和无效期。
  • 边无效化
  • 当新边被添加到知识图谱中时,系统会通过LLM比较新边与现有边的语义相关性,以识别潜在的矛盾。如果发现矛盾,系统会通过设置边的无效时间来更新知识图谱。

1.3 记忆检索

  • 搜索(Search)
  • 余弦相似度搜索:捕获语义相似性

  • BM25全文搜索:识别单词相似性

  • 广度优先搜索:揭示上下文相似性

  • Zep采用三种搜索方法:

  • 重排序(Reranker)
  • 重排序阶段通过多种策略提高结果的相关性。这些策略包括:
  • 互信息重排(Reciprocal Rank Fusion, RRF)
  • 最大边际相关性重排(Maximal Marginal Relevance, MMR)
  • 基于图的会话提及重排器。
  • 这些方法通过评估节点和边与查询的相关性来生成重排序结果。
  • 构造(Constructor)
  • 构造阶段将相关节点和边的信息转化为文本上下文。
  • 对于每条边,构造器返回事实及其有效日期范围;
  • 对于每个实体节点,返回名称和总结;
  • 对于每个社区节点,返回总结。

在LongMemEval基准测试中,Zep在使用gpt-4o-mini模型时:

  • 准确率从基线的55.4%提高到63.8%,
  • 延迟从31.3秒降低到3.2秒。

在使用gpt-4o模型时:

  • 准确率从60.2%提高到71.2%,
  • 延迟从28.9秒降低到2.58秒

说明Zep在处理复杂记忆任务时具有显著的性能提升和延迟降低。

到3.2秒。

在使用gpt-4o模型时:

  • 准确率从60.2%提高到71.2%,
  • 延迟从28.9秒降低到2.58秒

如何学习大模型 AI ?

我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

在这里插入图片描述

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

在这里插入图片描述

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等
在这里插入图片描述

博主介绍+AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。

在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

为什么要学习大模型?

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

在这里插入图片描述

适合人群

  • 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
  • IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
  • IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
  • 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。
    在这里插入图片描述

课程精彩瞬间

大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。

在这里插入图片描述

RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。 在这里插入图片描述

Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
在这里插入图片描述

模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。 在这里插入图片描述

顶尖师资,深耕AI大模型前沿技术

实战专家亲授,让你少走弯路
在这里插入图片描述

一对一学习规划,职业生涯指导

  • 真实商业项目实训
  • 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调

在这里插入图片描述
大厂绿色直通车,冲击行业高薪岗位
在这里插入图片描述

文中涉及到的完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐