大语言(LLM)介绍与应用
摘要:本文介绍了人工智能及其三大流派(符号主义、连接主义、演化计算)的特点与应用,深入探讨了大语言模型(LLM)的概念和特征。重点讲解了开源对话AI框架Ollama的安装方法(包括Linux和Windows平台)及其特点,以及OpenWebUI的安装配置流程。文章提供了详细的命令行操作指南,涵盖模型下载、环境配置等实际操作步骤,为开发者构建基于LLM的对话系统提供了实用参考。(149字)
·
一、人工智能
1.人工智能的概念
- 通常人工智能是指用计算机程序来呈现人类智慧能力的技术。让电脑或机器像人一样思考和行动,即让机器具备了人类的思考和创造等能力
2.人工智能的发展历程

3.人工智能的三大流派
1. 符号主义(Symbolic AI)——通过符号和规则进行推理
- 代表性系统:专家系统、逻辑编程
- 应用领域:法律推理、医学诊断、自动定理证明
- 优点:可解释性强,易于调试
- 缺点:难以处理模糊和复杂的现实世界问题
2. 连接主义(Connectionism)——基于神经网络的学习
- 代表性模型:卷积神经网络、循环神经网络、变换器
- 应用领域:图像识别、自然语言处理、语音识别
- 优点:擅长处理大规模数据和复杂模式
- 缺点:可解释性差,训练成本高
3. 演化计算(Evolutionary Computation)——模拟自然选择的优化算法
- 代表性算法:遗传算法、遗传编程、进化策略
- 应用领域:优化问题、机器学习模型设计、自动化设计
- 优点:适用于复杂优化问题
- 缺点:依赖于参数设置
二、大语言模型
1.深度学习
- 深度学习是一种机器学习方法,利用多层神经网络来模拟人脑的信息处理方式,从而实现对复杂数据的自动特征提取和模式识别。
2.大语言模型
- 大语言模型(LLM)是一种基于深度学习的自然语言处理模型,旨在理解和生成自然语言文本。它通过在大规模文本数据上进行训练,学习语言的结构、语法和语义,从而能够生成连贯且上下文相关的文本。LLM的应用包括文本生成、对话系统、机器翻译等。
3.LLM的特征
- 大规模预训练:LLM通常在大规模文本数据上进行预训练,以学习语言的结构和语义
- 生成能力:LLM能够生成连贯且上下文相关的文本,适用于对话系统、文本生成等任务
- 上下文理解:LLM能够理解输入文本的上下文信息,从而生成更符合语境的回复
- 迁移学习:LLM可以通过微调(fine-tuning)在特定任务上进行适应,提升性能
- 多模态支持:一些LLM已经扩展到支持多模态数据,包括文本、图像和声音
三、ollama的安装
1.ollama的概念
- ollama是一种开源的对话式AI框架,旨在简化大语言模型(LLM)的开发和部署。
- 它提供了一套易于使用的工具和API,使开发者能够快速构建、训练和部署基于LLM的对话系统。
- ollama支持多种预训练模型,并允许用户根据特定需求进行微调和定制。
2.ollama的特点
- 易于使用:ollama提供了简单易用的API,使得开发者可以快速上手,无需深入了解底层实现。
- 灵活性:支持多种预训练模型,用户可以根据需求选择合适的模型进行微调。
- 高性能:ollama经过优化,能够在各种硬件上高效运行,满足实时对话的需求。
- 社区支持:作为开源项目,ollama拥有活跃的社区,开发者可以获取丰富的资源和支持。
3.ollama 安装
(1)官网下载
https://ollama.com/
https://ollama.com/(2)多平台下载

(3)Linux平台下载
$ curl -fsSL https://ollama.com/install.sh | sh
$ systemctl stop ollama
$ vim /etc/systemd/system/ollama.service
[Service]
# 新增,不删除原来的Environment
Environment="OLLAMA_HOST=0.0.0.0"
$ systemctl daemon-reload
$ systemctl restart ollama

(4)ollama命令详解

(5)ollama加载模型
注:如下是ollama可以拉取的AI模型,点击直接复制模型到Linux操作系统(这里我选择了阿里云的AI模型qwen3,个人机最好不要超过8b,否则电脑容易崩溃,这是给服务器用的)




(6)windows平台下载
注:直接下载安装软件包,默认只能安装在C盘

(7)windows平台加载模型

这边可以设置下载模型的安装目录,默认是在C盘
四、Open web ui安装与配置
1.Open web ui官网
https://www.openwebui.com/
https://www.openwebui.com/
2.下载Open web ui


或:
open web ui 安装命令:带大模型版
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
open web ui 安装命令:无大模型版
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main-slim
open web ui 和 ollama 集成版安装命令:
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
注:这里我用的是第二个下载模版,无大模型版
3.安装Open web ui
$ dnf -y install docker





注:也可以直接搜索,下载新的模型
更多推荐



所有评论(0)