大模型存在知识过时和缺乏领域专业知识的问题,RAG技术通过构建外部知识库作为"外脑"可有效解决。构建知识库需四步:准备原始数据、清洗数据、向量化存储、定期更新。将RAG集成到Agent开发平台如Coze或Dify中,可提升大模型在特定场景的应用效果。尽管RAG技术有局限性,但仍是当前较优的解决方案,但要打造真正能干活的智能体还需更多工程工作。


大模型不是万能的,它会出现幻觉,胡言乱语地回答问题,它还会撒谎,说一些与事实不符的内容。

这并不是大模型有意为之,而是它的“出厂设置”里就不可避免的有这些问题。

本质上它只是在预测下一个字应该出现什么,然后找到概率最大的那个吐出来,其实它自己不知道自己在说什么,更不理解那些话的含义。

除此之外,大模型本身的知识还有两大问题:

1.它的知识是过时的,如果不给它联网功能,它对当今世界新发生的事件和新闻一无所知,它的知识只停留在它在训练过程中使用的那些数据。

2.它的知识是通用的,对具体行业具体领域的知识几乎不懂,因为它没学过,所以它无从知晓,除非把领域知识教给它。

由于以上两大问题,大模型应用到具体业务场景时,必须要给它接一个“外脑”,让它学会和掌握领域内的知识,然后更好的工作,就像刚毕业的名牌大学毕业生一样,不管多聪明,也要先做入职培训。

目前行业内,给大模型装“外脑”最流行的方式是RAG技术,即检索增强生成,R是Retrieval(检索),A是Augmented(增强),G是Generation(生成)。

简单来说,就是让大模型在回答问题之前,先去一个外部知识库里检索相关信息,然后把检索结果和问题一起给到大模型,根据这两部分内容进行答案生成,这就是RAG的原理。

这个技术有效解决了大模型本身知识过时和缺少领域知识的缺陷,可以让它更有针对性且更加准确的回答用户的问题,从而更好地应用在具体的业务场景中。

那么这个外部知识库该如何构建呢? 总共有四步。

第一步,原始数据准备。

企业内部数据往往有很多,不需要全给到大模型,只把那些需要大模型学习掌握的数据准备好。

比如打造一款销售智能体,需要的是销售语料知识库;打造一款客服智能体,需要的是客服语料知识库;打造企业内部流程智能助手,需要的是企业内的规章制度等。

这部分工作需要大模型数据团队和公司的相关业务部门共同合作,才能把数据准备好。

第二步,数据清洗。

数据库里最终要保留的是高质量数据,原始数据中往往会有很多重复的低质量数据,需要对它们进行清洗,这部分工作可以借助通用大模型来完成,包括对数据内容质量和格式的统一。

第三步,对数据进行向量化。

给大模型接“外脑”时,需要选择向量数据库,它的选择有很多,在应用RAG技术时需要根据实际业务场景进行判断,比如常见的milvus和Weaviate。

把清洗好的高质量数据放到向量数据库的过程,就是对数据的向量化,这个过程也需要用到向量化模型,比较常用的是bge-m3。

第四步,定期更新数据。

作为大模型的“外脑”,知识需要不断更新,随着公司业务的变化,新的数据也要定期更新到向量数据库中。

可以采用一个自动化流程,按周或者月定期更新向量数据库中的数据。

同时,在发现数据中有低质量的数据时,也要进行及时的更正,保证数据的即时性和准确性。

外部知识库搭建好之后,需要把这个“外脑”装到大模型身上,这样才能称的上是智能体。现在Agent开发平台基本上都提供了接入RAG的基本能力。

无论是Coze还是Dify,都可以非常轻松便捷地创建知识库节点,既可以上传本地文件作为知识库,也可以连接像Milvus这样的外部向量知识库。

当然知识库节点的耗时在不同平台上表现不一样,可能会影响到用户的使用体验,所以也可以采用其它节点来替代。

比如代码节点的耗时就明显优于知识库节点,这样大模型在读取“外脑”知识时,速度就会更快。

这就是给大模型装上“外脑”的全过程,即使它很聪明,但我们更希望它能聪明地干活。

RAG技术虽然有局限性,但仍然是目前相对来说比较好的解决方案。

不过只给大模型装上一个“外脑”,想要让它聪明的干活,这还是远远不够的,还有很多工程工作要去做。

那么搭建一个能干活的又聪明的智能体还需要做哪些工作呢?

我们下期再聊!

如何学习AI大模型 ?

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
在这里插入图片描述

在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型实战项目&项目源码👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战项目来学习。(全套教程文末领取哈)
在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)
在这里插入图片描述

为什么分享这些资料?

只要你是真心想学AI大模型,我这份资料就可以无偿分享给你学习,我国在这方面的相关人才比较紧缺,大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)
Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐