用ModelEngine搭建企业专属知识助手:7步打造真正懂业务的AI同事

在AI应用爆发的今天,很多企业都渴望拥有一个真正理解自身业务的智能助手。但现实往往是:通用大模型不了解企业内部知识,而自建AI系统又过于复杂。今天,我就带大家用ModelEngine这个开源平台,手把手搭建一个实用的企业知识助手,让它成为员工的"第二大脑"。

一、ModelEngine:企业AI应用的全栈解决方案

在这里插入图片描述

ModelEngine不是一个简单的智能体平台,而是真正面向工程团队的企业级AI应用全栈解决方案。其核心产品Aido(读作"爱多")以MIT许可完全开源,支持私有化部署,这意味着你的数据和模型完全掌握在自己手中,无需担心安全问题。

1. RAG工作流编排:让AI真正理解你的业务

Aido最强大的功能之一是完整的RAG(检索增强生成)工作流编排能力。它不只是简单的文档检索,而是支持检索、重排、结果过滤与校验的完整链路。通过这种精细化控制,AI回答的准确率大幅提升,避免了"一本正经胡说八道"的风险。
Aido搭建智能体优势,详细请看下图:在这里插入图片描述

2. MCP工具生态:打破AI能力边界

ModelEngine引入了Model Context Protocol(MCP)工具协议,让智能体能够无缝调用外部工具和服务。无论是连接内部API、查询数据库,还是调用专业算法,MCP都能让AI突破纯文本对话的限制,成为真正的"行动者"而非"聊天者"。
这是modelengine产品架构图,想了解的朋友可以在官网中查看,这里的图片供参考:在这里插入图片描述

3. 企业级可观测性:生产环境的必备能力

不同于许多开源项目只关注功能,Aido原生支持Kubernetes/Docker Compose部署,并内置调用链追踪、指标监控与异常告警。这意味着你可以在生产环境中清晰地看到每个请求的处理过程,快速定位问题,这是企业级应用的核心保障。
Aido本地搭建教程,朋友们可以用这个命令在本地搭建环境进行测试:在这里插入图片描述

二、实战:构建"企业知识通"智能体

今天我们要打造的智能体叫"企业知识通"——一个专注于企业内部知识管理的AI助手。它能快速检索公司文档、政策、流程,为员工提供精准解答,减少重复咨询,提升工作效率。

三个典型问题

  • 公司的年假政策是什么?
  • 新员工入职需要准备哪些材料?
  • 项目报销流程怎么走?

分步实施指南:7步打造专业级知识助手

步骤1:创建智能体应用 - 从零到一的工程初始化

首先克隆Aido源码,完成基础环境搭建。这一步看似简单,但Aido的工程化设计让整个过程只需4条命令:

git clone https://github.com/ModelEngine-Group/app-platform.git
cd app-platform
cp docker/.env.example docker/.env
bash docker/deploy.sh

几分钟后,一个完整的AI应用平台已在本地运行。这种开箱即用的体验,正是ModelEngine为工程团队精心设计的友好起点。
这就是Aido平台界面
在这里插入图片描述
我们需要点击工作台,然后创建空白应用来进行搭建智能体的一个开头
在这里插入图片描述
选择企业管理分类,再讲智能体简介输入到简介框中

步骤2:智能生成核心提示词 - 定义AI的"角色认知"

提示词工程是智能体的"灵魂"。我们需要精心设计系统提示,明确告知AI:"你是企业知识专家,专注于回答公司内部政策、流程和规范相关问题。当问题超出知识范围时,诚实地告知用户你不知道。"Aido平台内置的提示词优化工具可以帮助我们迭代改进,通过历史对话分析不断调整提示策略。
Aido的优势在于它会工具简介自动生成对应智能体的提示词,非常方便
如下是智能生成的提示词:

<instruction>
    <instructions>
        1. 作为企业知识通,你需要根据用户提供的问题或需求,提供详细的企业知识解答或建议。
        2. 首先,仔细分析用户的问题或需求,确保完全理解其背景和意图。
        3. 然后,提供一个清晰、准确的答案或建议,包括相关的数据、案例或最佳实践。
        4. 如果用户的问题涉及特定的行业或领域,确保答案符合该行业或领域的标准和规范。
        5. 在输出中,避免使用任何XML标签,确保内容简洁明了。
        6. 最后,提供一些额外的资源或链接,以便用户可以进一步了解相关信息。
        ***注意,一些工具会被提供,请尽可能使用工具获取需要的知识,而非依赖已有知识***
    </instructions>
    <examples>
        <example>
            <input>如何提高团队的协作效率?</input>
            <output>提高团队协作效率的方法包括:1. 明确目标和责任分配,确保每个团队成员都清楚自己的职责;2. 使用协作工具,如Slack、Trello等,提高沟通和任务管理的效率;3. 定期举行团队会议,及时解决团队中的问题和挑战;4. 建立信任和开放的团队文化,鼓励团队成员之间的相互支持和反馈。建议阅读《团队协作的艺术》一书,了解更多详细的方法和案例。
            </output>
        </example>
        <example>
            <input>如何制定有效的营销策略?</input>
            <output>制定有效的营销策略需要考虑以下几个步骤:1. 市场研究,了解目标客户的需求和偏好;2. 竞品分析,了解竞争对手的优势和劣势;3. 确定营销目标,如提高品牌知名度、增加销售额等;4. 选择合适的营销渠道,如社交媒体、电子邮件营销等;5. 制定具体的营销活动,如促销、广告等;6. 跟踪和评估营销效果,根据数据调整策略。建议参考《营销管理》一书,获取更多专业的营销知识和案例。
            </output>
        </example>
    </examples>
</instruction>

<tool_usage>
你的回答有两种情况:

无需调用外部工具:
如果问题可通过已有对话历史或直接推理得到答案,直接输出最终结果,不需使用任何标签包装,也不显示详细思考过程。

需要调用外部工具解决的复杂问题:
必须采用以下严格的标签体系输出,每个标签之间空一行,且仅展示真实的工具调用结果:
<reasoning>...<reasoning>:展示你内部的思考过程。注意,这部分内容可以展示给用户,但仅限于描述思路,不应包含任何伪造的工具调用结果。
<step>...<step>:描述你准备调用工具的原因和计划。此处仅说明你需要调用哪个工具以及原因,工具的名称对人类阅读要友好,切勿直接模拟或输出工具返回内容。
<tool>...<tool>:当你真正调用某个工具后,等待工具反馈,然后将工具调用的返回结果做非常简略的摘要后放在此标签内,摘要字数在20字以内。绝对禁止在未获得真实工具反馈前预先构造。 <tool> 标签内容。
<final>...<final>:在获取所有真实工具调用结果后,将整合信息给出最终答案。
重要要求:
- 无论用户是否明确要求展示思考过程,都要展示思考过程
- 不要输出tool_call标签。
- 答案必须详细完整,不仅仅是工具返回结果的简单总结,而是对结果进行深入分析和整合,并提供背景解释、推理过程和可行性分析。
- 确保所有关键信息得到展开,避免省略任何重要内容。
- 如果适用,可以提供额外的解释、使用建议或应用场景,以增强回答的实用性。
- 请使用标准 Markdown 语法输出答案,保证语法完整,不要拆分列表结构。
- 输出此标签后,不得追加任何其他内容或标签。
严格要求:
切勿在中间思考或工具调用计划中,提前生成伪造的 <tool> 或 <final> 标签内容。必须在实际调用工具并获得反馈后,再以 <tool> 标签展示真实结果,再生成 <final> 标签输出最终答案。
如果历史对话中已包含真实的工具调用结果,应直接使用这些信息构造最终答案,避免重复调用或展示多余标签。
在所有工具调用完成之前,不得输出 <final> 标签;只有在确认所有真实工具反馈后,才生成最终答案。
<tool_usage>

如下是提示词设置界面:在这里插入图片描述

步骤3:构建专业知识库 - 连接百度千帆知识库实现精准检索

知识库是智能体的核心资产。针对"企业知识通",我们需要在百度千帆平台上构建以下知识库:

  • 公司规章制度文档库(包含员工手册、行为准则等)
  • 人力资源政策知识库(涵盖招聘、薪酬、福利等)
  • 财务报销流程指南库(详细说明各类报销标准与流程)
  • 项目管理规范文档库(项目立项、执行、结项全流程)
  • 产品技术文档库(产品规格、技术架构、API文档等)

通过Aido的插件体系,我们可以轻松接入百度千帆的API,实现知识库的无缝集成。当员工提问时,智能体会自动检索相关文档片段,确保回答有据可依。
先搭建知识库,可以本地上传也可以购买百度千帆的资源

在这里插入图片描述

知识库搭建完成后设置API key复制即可引用

在这里插入图片描述

步骤4:集成工具流 - 扩展AI的"手脚"能力

单纯的知识问答还不够。通过MCP工具协议,我们为"企业知识通"集成几个实用工具:

  • 请假申请工具:当员工询问年假政策后,可直接引导发起请假申请
  • 文档生成工具:根据问答内容自动生成标准化的申请表单
  • 通知工具:重要的政策变更可主动推送提醒
    我们可以在工具菜单中看到各式各样其他开发者开发的插件,当然我们也可以自己开发工具,这里做演示,我们可以选择自己适合的插件进行使用
    在这里插入图片描述

这种工具集成让AI从"知"到"行",真正解决业务问题,而不仅是提供信息。

步骤5:模型配置 - 选择Qwen2.5-72B作为智能基座

在模型选择上,我们采用Qwen/Qwen2.5-72B-Instruct。这个选择的理由很明确:作为当前中文场景最强的开源模型之一,它对企业文档中常见的专业术语、政策条文有着极佳的理解能力,能准确把握"累计工作年限"、"差旅补贴标准"等关键概念的细微差别,避免因理解偏差导致的错误回答。
在这里插入图片描述

步骤6:交互设计完善 - 从文本到富媒体体验

Aido的富媒体对话能力让交互不再局限于文字。我们为"企业知识通"设计:

  • 开场白:“您好!我是企业知识通,您的专属企业知识助手。我可以帮您快速查找公司政策、流程规范、技术文档等内部知识。有什么需要了解的吗?”

这是我设置的聊天设置,将功能完善:
在这里插入图片描述

步骤7:测试发布 - 从实验室到生产环境

最后一步至关重要。Aido内置的全链路观测功能让我们可以:

  • 模拟各类用户提问,验证回答准确性
  • 监控知识检索命中率,优化文档切分策略
  • 设置A/B测试,比较不同提示词策略的效果
  • 配置异常告警,确保系统稳定性

在这里插入图片描述
可以利用Aido的监控平面查看智能体的运行情况:
在这里插入图片描述
没什么问题就可以正式调用了,调用方式也有两种,分别是URL和API
在这里插入图片描述

三、总结:ModelEngine让AI真正落地业务

通过这7个步骤,我们不仅构建了一个实用的企业知识助手,更重要的是展示了ModelEngine如何让AI应用开发变得工程化、可维护、可扩展。它不是玩具,而是真正能融入企业IT架构的生产级平台。

ModelEngine的价值在于它理解企业AI落地的痛点:数据安全、系统集成、持续迭代。通过开源+自托管的模式,它为企业提供了一条既灵活又可控的AI应用路径。无论是瑞金医院的病理诊断助手,还是我们今天构建的企业知识通,都证明了ModelEngine在复杂业务场景中的强大适应能力。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐