Qwen-Agent是专为开发基于大型语言模型(LLM)应用设计的框架,具备功能调用、代码解释器、多模态处理和记忆能力,支持超长文档处理。开发者可利用其构建能理解自然语言、执行复杂任务的智能代理,适用于客户服务、个人助理、教育等多种场景。文章提供了详细安装指南、配置方法及开发示例,助力开发者快速上手大模型应用开发。


  1. 什么是Qwen-Agent

Qwen-Agent是一个专门设计用于开发基于大型语言模型(LLM)的应用程序的框架。它不仅支持指令遵循、工具使用、规划和记忆能力,还能够处理从8K到100万tokens的文档,超越了传统长上下文模型的限制。这意味着开发者可以利用Qwen-Agent构建出能够理解和生成自然语言、执行复杂任务的智能代理应用。

  1. 核心功能与特点

2.1 功能调用

功能调用是Qwen-Agent的一项基础能力,它允许AI模型在处理任务时主动调用预定义的函数或工具。这一特性使得Qwen-Agent能够与外部工具和API进行互动,从而扩展了AI应用的范围。例如,开发者可以定义一个用于生成图像的工具,当用户请求生成特定内容的图像时,Qwen-Agent可以调用该工具并返回生成的图像链接。

2.2 代码解释器

Qwen-Agent内置了代码解释器工具,能够执行用户提供的代码片段。这为开发者提供了极大的灵活性,使得智能代理不仅能够理解和生成文本,还能够执行实际的操作。例如,在处理图像生成任务时,Qwen-Agent可以先调用图像生成工具生成图像,然后通过代码解释器下载图像并进行进一步的处理,如翻转图像等。

2.3 多模态处理

Qwen-Agent支持多模态输入和输出,能够理解和生成文本、图像等多种类型的数据。这使得开发者可以构建更加丰富和交互式的应用。例如,一个图像理解与文本生成的Agent可以先理解用户提供的图像内容,然后生成与图像相关的文本描述或故事。

2.4 记忆能力

Qwen-Agent具备记忆能力,能够记住之前的对话内容和执行的操作。这使得智能代理能够更好地理解用户的意图,并提供更加连贯和个性化的服务。例如,在与用户进行多轮对话时,Qwen-Agent可以根据之前的对话内容提供更加准确的回答和建议。

  1. 应用场景

Qwen-Agent的灵活性和强大功能使其适用于多种应用场景,包括但不限于:

  • 客户服务:作为聊天机器人,提供24/7的客户咨询服务,处理常见问题和查询。
  • 个人助理:帮助用户管理日程、提醒事项、预订服务等日常任务。
  • 教育和学习:作为虚拟助教,提供个性化学习建议,解答学生问题。
  • 内容创作:辅助写作、编辑和内容生成,包括文章、报告和创意写作。
  • 技术支持:提供技术问题的解决方案,帮助用户解决软件或硬件问题。
  • 数据分析:帮助分析和解释复杂的数据集,提供商业洞察。

我给大家准备了一份全套的《AI大模型零基础入门+进阶学习资源包》,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。😝有需要的小伙伴,可以VX扫描下方二维码免费领取🆓

  1. 开发与使用

4.1 安装

  • 从 PyPI 安装稳定版本:
pip install -U "qwen-agent[rag,code_interpreter,python_executor,gui]"
# 或者,使用 `pip install -U qwen-agent` 来安装最小依赖。
# 可使用双括号指定如下的可选依赖:
#   [gui] 用于提供基于 Gradio 的 GUI 支持;
#   [rag] 用于支持 RAG;
#   [code_interpreter] 用于提供代码解释器相关支持;
#   [python_executor] 用于支持 Qwen2.5-Math 基于工具的推理。
  • 也可以从源码安装最新的开发版本:
git clone https://github.com/QwenLM/Qwen-Agent.git
cd Qwen-Agent
pip install -e ./"[rag,code_interpreter,python_executor]"
# 或者,使用 `pip install -e ./` 安装最小依赖。`

如果需要内置 GUI 支持,可选择性地安装可选依赖:

pip install -U "qwen-agent[gui,rag,code_interpreter]"
# 或者通过源码安装 `pip install -e ./"[gui,rag,code_interpreter]"` `

4.2 准备模型服务

Qwen-Agent支持接入阿里云DashScope(https://help.aliyun.com/zh/dashscope/developer-reference/quick-start)服务提供的Qwen模型服务,也支持通过OpenAI API方式接入开源的Qwen模型服务。

  • 如果希望接入DashScope提供的模型服务,只需配置相应的环境变量DASHSCOPE_API_KEY为您的DashScope API Key。
  • 或者,如果您希望部署并使用您自己的模型服务,请按照Qwen2的README中提供的指导进行操作,以部署一个兼容OpenAI接口协议的API服务。 具体来说,请参阅vLLM(https://github.com/QwenLM/Qwen2?tab=readme-ov-file#vllm)一节了解高并发的GPU部署方式,或者查看Ollama(https://github.com/QwenLM/Qwen2?tab=readme-ov-file#ollama)一节了解本地CPU(+GPU)部署。

4.3 快速开发

框架提供了大模型(LLM,继承自class BaseChatModel,并提供了Function Calling(https://github.com/QwenLM/Qwen-Agent/blob/main/examples/function_calling.py)功能)和工具(Tool,继承自class BaseTool)等原子组件,也提供了智能体(Agent)等高级抽象组件(继承自class Agent)。

以下示例演示了如何增加自定义工具,并快速开发一个带有设定、知识库和工具使用能力的智能体:

import pprint
import urllib.parse
import json5
from qwen_agent.agents import Assistant
from qwen_agent.tools.base import BaseTool, register_tool

# 步骤 1(可选):添加一个名为 `my_image_gen` 的自定义工具。
@register_tool('my_image_gen')
class MyImageGen(BaseTool):
	# `description` 用于告诉智能体该工具的功能。
	description = 'AI 绘画(图像生成)服务,输入文本描述,返回基于文本信息绘制的图像 URL。
	# `parameters` 告诉智能体该工具有哪些输入参数。
	parameters = [{
	'name': 'prompt',
	'type': 'string',
	'description': '期望的图像内容的详细描述',
	'required': True
	}]

def call(self, params: str, **kwargs) -> str:
	# `params` 是由 LLM 智能体生成的参数。
	prompt = json5.loads(params)['prompt']
	prompt = urllib.parse.quote(prompt)
	return json5.dumps(
		{'image_url': f'https://image.pollinations.ai/prompt/{prompt}'},
		ensure_ascii=False)

# 步骤 2:配置您所使用的 LLM。
llm_cfg = {
	# 使用 DashScope 提供的模型服务:
	'model': 'qwen-max',
	'model_server': 'dashscope',
	# 'api_key': 'YOUR_DASHSCOPE_API_KEY',
	# 如果这里没有设置 'api_key',它将读取 `DASHSCOPE_API_KEY` 环境变量。
	# 使用与 OpenAI API 兼容的模型服务,例如 vLLM 或 Ollama:
	# 'model': 'Qwen2-7B-Chat',
	# 'model_server': 'http://localhost:8000/v1',  # base_url,也称为 api_base
	# 'api_key': 'EMPTY',
	
	# (可选) LLM 的超参数:
	'generate_cfg': {
			'top_p': 0.8
		}
}

# 步骤 3:创建一个智能体。这里我们以 `Assistant` 智能体为例,它能够使用工具并读取文件。
system_instruction = '''你是一个乐于助人的AI助手。
在收到用户的请求后,你应该:
- 首先绘制一幅图像,得到图像的url,
- 然后运行代码`request.get`以下载该图像的url,
- 最后从给定的文档中选择一个图像操作进行图像处理。
用 `plt.show()` 展示图像。
你总是用中文回复用户。'''
tools = ['my_image_gen', 'code_interpreter']  # `code_interpreter` 是框架自带的工具,用于执行代码。
files = ['./examples/resource/doc.pdf']  # 给智能体一个 PDF 文件阅读。
bot = Assistant(llm=llm_cfg,
			system_message=system_instruction,
			function_list=tools,
			files=files)

# 步骤 4:作为聊天机器人运行智能体。
messages = []  # 这里储存聊天历史。
while True:
	# 例如,输入请求 "绘制一只狗并将其旋转 90 度"。
	query = input('用户请求: ')
	# 将用户请求添加到聊天历史。
	messages.append({'role': 'user', 'content': query})
	response = []
	for response in bot.run(messages=messages):
	# 流式输出。
	print('机器人回应:')
	pprint.pprint(response, indent=2)
	# 将机器人的回应添加到聊天历史。
	messages.extend(response)

除了使用框架自带的智能体实现(如class Assistant),您也可以通过继承class Agent来自行开发您的智能体实现。

框架还提供了便捷的GUI接口,支持为Agent快速部署Gradio Demo。 例如上面的例子中,可以使用以下代码快速启动Gradio Demo:

from qwen_agent.gui import WebUI
WebUI(bot).run()  # bot is the agent defined in the above code, we do not repeat the definition here for saving space.
  1. 动态

  • 2024年12月3日,Qwen-Agent升级了GUI至Gradio 5基于的版本,需要注意的是,GUI要求Python 3.10或更高版本。
  • 2024年9月18日,Qwen-Agent添加了Qwen2.5-Math Demo,展示了Qwen2.5-Math的工具集成推理能力。需要注意的是,Python执行器没有沙箱保护,仅用于本地测试,不适合生产使用。
  1. 小结

Qwen-Agent以其强大的功能和灵活的开发方式,为智能代理应用的开发提供了一个全新的平台。无论是企业还是个人开发者,都可以利用Qwen-Agent构建出满足各种需求的智能应用。

关于Qwen-agent,以下是目前已经在github中提及,但笔者还没探究的技术点,后面会继续完善

  • 如何让AI基于超长文档进行问答
  • BrowserQwen(一款基于 Qwen-Agent 构建的浏览器助手)是怎么做出来的

可能大家都想学习AI大模型技术,也_想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习_,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。
为了帮助大家打破壁垒,快速了解大模型核心技术原理,学习相关大模型技术。从原理出发真正入局大模型。在这里我和MoPaaS魔泊云联合梳理打造了系统大模型学习脉络,这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码免费领取🆓**⬇️⬇️⬇️

在这里插入图片描述

【大模型全套视频教程】

教程从当下的市场现状和趋势出发,分析各个岗位人才需求,带你充分了解自身情况,get 到适合自己的 AI 大模型入门学习路线。

从基础的 prompt 工程入手,逐步深入到 Agents,其中更是详细介绍了 LLM 最重要的编程框架 LangChain。最后把微调与预训练进行了对比介绍与分析。

同时课程详细介绍了AI大模型技能图谱知识树,规划属于你自己的大模型学习路线,并且专门提前收集了大家对大模型常见的疑问,集中解答所有疑惑!

在这里插入图片描述

深耕 AI 领域技术专家带你快速入门大模型

跟着行业技术专家免费学习的机会非常难得,相信跟着学习下来能够对大模型有更加深刻的认知和理解,也能真正利用起大模型,从而“弯道超车”,实现职业跃迁!

在这里插入图片描述

【精选AI大模型权威PDF书籍/教程】

精心筛选的经典与前沿并重的电子书和教程合集,包含《深度学习》等一百多本书籍和讲义精要等材料。绝对是深入理解理论、夯实基础的不二之选。

在这里插入图片描述

【AI 大模型面试题 】

除了 AI 入门课程,我还给大家准备了非常全面的**「AI 大模型面试题」,**包括字节、腾讯等一线大厂的 AI 岗面经分享、LLMs、Transformer、RAG 面试真题等,帮你在面试大模型工作中更快一步。

【大厂 AI 岗位面经分享(92份)】

图片

【AI 大模型面试真题(102 道)】

图片

【LLMs 面试真题(97 道)】

图片

【640套 AI 大模型行业研究报告】

在这里插入图片描述

【AI大模型完整版学习路线图(2025版)】

明确学习方向,2025年 AI 要学什么,这一张图就够了!

img

👇👇点击下方卡片链接免费领取全部内容👇👇

在这里插入图片描述

抓住AI浪潮,重塑职业未来!

科技行业正处于深刻变革之中。英特尔等巨头近期进行结构性调整,缩减部分传统岗位,同时AI相关技术岗位(尤其是大模型方向)需求激增,已成为不争的事实。具备相关技能的人才在就业市场上正变得炙手可热。

行业趋势洞察:

  • 转型加速: 传统IT岗位面临转型压力,拥抱AI技术成为关键。
  • 人才争夺战: 拥有3-5年经验、扎实AI技术功底真实项目经验的工程师,在头部大厂及明星AI企业中的薪资竞争力显著提升(部分核心岗位可达较高水平)。
  • 门槛提高: “具备AI项目实操经验”正迅速成为简历筛选的重要标准,预计未来1-2年将成为普遍门槛。

与其观望,不如行动!

面对变革,主动学习、提升技能才是应对之道。掌握AI大模型核心原理、主流应用技术与项目实战经验,是抓住时代机遇、实现职业跃迁的关键一步。

在这里插入图片描述

01 为什么分享这份学习资料?

当前,我国在AI大模型领域的高质量人才供给仍显不足,行业亟需更多有志于此的专业力量加入。

因此,我们决定将这份精心整理的AI大模型学习资料,无偿分享给每一位真心渴望进入这个领域、愿意投入学习的伙伴!

我们希望能为你的学习之路提供一份助力。如果在学习过程中遇到技术问题,也欢迎交流探讨,我们乐于分享所知。

*02 这份资料的价值在哪里?*

专业背书,系统构建:

  • 本资料由我与MoPaaS魔泊云的鲁为民博士共同整理。鲁博士拥有清华大学学士美国加州理工学院博士学位,在人工智能领域造诣深厚:

    • 在IEEE Transactions等顶级学术期刊及国际会议发表论文超过50篇
    • 拥有多项中美发明专利。
    • 荣获吴文俊人工智能科学技术奖(中国人工智能领域重要奖项)。
  • 目前,我有幸与鲁博士共同进行人工智能相关研究。

在这里插入图片描述

内容实用,循序渐进:

  • 资料体系化覆盖了从基础概念入门核心技术进阶的知识点。

  • 包含丰富的视频教程实战项目案例,强调动手实践能力。

  • 无论你是初探AI领域的新手,还是已有一定技术基础希望深入大模型的学习者,这份资料都能为你提供系统性的学习路径和宝贵的实践参考助力你提升技术能力,向大模型相关岗位转型发展

    在这里插入图片描述在这里插入图片描述在这里插入图片描述

抓住机遇,开启你的AI学习之旅!

在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐