04.【AI大模型对话】安装pytorch,pytorch详细安装步骤及注意事项

提示:帮帮志会陆续更新非常多的IT技术知识,希望分享的内容对您有用。本章分享的是springboot的使用。前后每一小节的内容是存在的有:学习and理解的关联性。【帮帮志系列文章】:每个知识点,都是写出代码和运行结果且前后关联上的去分析和说明(能大量节约您的时间)。

所有文章都*不会*直接把代码放那里,让您自己去看去理解。我希望我的内容对您有用而努力~

系列文章总目录,除了当前的AI大模型系列外,还包括java前后分离,Python,AI,大数据,游戏,面试等等,系列文章归纳在此:
系列文章—总目录



前言

前提:本项目使用的是Python语言,用户界面使用的是html,通过vue框架来实现的。所以:需要掌握和具备这些前提知识(前端用vue.js来交互数据,是为了更加贴合于公司上班和市场运用)

已经安装好了Anaconda开发软件,因为系列文章后期是实现大模型带一个科学计算,是用的Anaconda软件,目前也是通过Anaconda的conda命令来管理环境,及安装pytorch
Anaconda安装教程见上一小节03


一、pytorch是什么?

PyTorch是一个用于机器学习深度学习的开源深度学习框架
Pytorch可分为前后端两个部分,前端是与用户直接交互的python API,后端是框架内部实现的部分,包括Autograd,它是一个自动微分引擎。

有什么用

···计算机视觉‌:PyTorch在计算机视觉领域特别受欢迎,因为它提供了丰富的工具和库来处理图像和视频数据。用户可以使用PyTorch进行图像分类、目标检测、图像分割、图像生成、视频分析等多种任务。

···自然语言处理‌:PyTorch同样适用于自然语言处理任务,如文本分类、情感分析、命名实体识别、机器翻译、语言生成等。借助PyTorch,用户可以构建复杂的NLP模型,如Transformer、BERT、GPT等。

···强化学习‌:PyTorch提供了灵活的框架来定义智能体的结构、训练过程和环境交互方式,可用于解决各种强化学习问题,如游戏AI、机器人控制、自动驾驶等。

···生成模型‌:PyTorch支持构建各种生成模型,如生成对抗网络(GANs)、变分自编码器(VAEs)等,这些模型可以生成逼真的图像、文本或音频数据。

···迁移学习‌:PyTorch使得迁移学习变得容易,即利用在大型数据集上预训练的模型来解决类似但规模较小的任务。这可以显著提高模型在新任务上的表现,同时减少训练时间和计算资源。

特点

···动态计算图‌(Dynamic Computation Graph):与TensorFlow的静态计算图不同,PyTorch的计算图是动态的,可以根据计算需要实时改变。这极大地提高了编写和调试神经网络的灵活性。

···GPU加速‌:PyTorch利用图形处理单元(GPU)实现具有强大加速的张量计算,使得深度学习模型的训练和推理更加高效。

···丰富的库和工具‌:PyTorch提供了构建和训练各种神经网络所需的所有基本构建块,包括卷积神经网络(CNN)、循环神经网络(RNN)、长短时记忆网络(LSTM)等。此外,PyTorch还拥有活跃的研究人员和开发人员社区,建立了丰富的工具和库生态系统。

···分布式训练‌:PyTorch支持分布式训练,可以在多个GPU或多台机器上同步训练深度学习模型,显著加快训练速度。

总结pytorch:

···类似于 NumPy 的张量计算,能在 GPU 或 MPS 等硬件加速器上加速。
···基于带自动微分系统的深度神经网络。
许多深度学习软件都是基于 PyTorch 构建的,,太多了,国内/国外 都到处是 比如马斯克的特斯拉自动驾驶也是基于PyTorch


二、环境查看

支持的操作系统:
Windows:Windows 10 或更高版本(64位)
macOS:macOS 10.15 (Catalina) 或更高版本
Linux:主流发行版(Ubuntu 18.04+、CentOS 7+、RHEL 7+等)

安装前的准备:
···检查 Python 版本
python --version(终端命令里面输入)
目前我们是全部在Anaconda里面操作,所以需要通过Anaconda来创建一个环境,步骤在下面

···检查是否有 NVIDIA GPU
nvidia-smi(终端命令里面输入)
没有英伟达NVIDIA显卡就算了,pytorch也能安装也能做,稍微慢一点而已,不纠结。其他显卡不行,前面几个小节有具体的说明和截图

三、创建环境

Python 版本要求:
推荐版本:Python 3.8 - 3.12,最低Python 3.7
安装了Anaconda之后,使用conda命令:
conda create -n 环境的名字 python=版本号
conda create 固定的,创建环境
-n 环境的名字 不要用中文
python=版本不要太低
conda create -n nlp_env python=3.12
通过conda创建了一个名字是nlp_env的环境,且python的版本是3.12
需要按一个 y 就是允许联网 允许继续安装 的意思
在这里插入图片描述
结束之后也有提示:
在这里插入图片描述
让你使用的时候,需要激活

在次输入命令:
conda activate nlp_env
通过conda激活环境,现在使用一个名字叫nlp_env的环境,版本3.12
在这里插入图片描述
标识xxx被激活
在终端命令的最左边,有一个环境名称,就是提示我们,现在我们正在使用的环境名字


三、安装 PyTorch

两个不同的安装方式,都是接上面通过conda 创建了一个环境 然后指定的Python版本,并且激活了(就是当前使用这个版本的python)

CPU 安装(没有英伟达NVIDIA显卡)

其他显卡不行,第一小节有说明和截图,大致为: NVIDIA公司推出了一个运算框架,而这个软件代码框架只能在NVIDIA显卡硬件上才能运行
目前pytorch可以去使用这个运算框架,让平时玩儿游戏,开最高特效的算力去帮助 加速运行计算pytorch

使用 pip 安装 pytorch:

最新稳定版本
pip install torch torchvision torchaudio

指定版本
pip install torch2.1.0 torchvision0.16.0 torchaudio==2.1.0

强烈建议,只用这个!!!!!! (看完,把文章后面看了,就明白了~):
pip install torch2.7.0 torchvision0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cpu

使用 conda 安装:

如果你使用 Anaconda 或 Miniconda 管理 Python 环境,使用 conda 安装 PyTorch 可能会更加简单和高效。

从 conda-forge 安装
conda install pytorch torchvision torchaudio cpuonly -c pytorch

从 conda-forge 渠道
conda install pytorch torchvision torchaudio -c conda-forge

GPU 安装(有英伟达NVIDIA显卡/注意你的版本!!!)

有英伟达显卡的,需要事先输入命令:
nvidia-smi
输入之后,查看右上角,英伟达显卡里面 cuda框架的版本号
在这里插入图片描述
注意:英伟达显卡cuda框架版本号不一致,对应的安装命令就不一致
注意:英伟达显卡cuda框架版本号不一致,对应的安装命令就不一致
注意:英伟达显卡cuda框架版本号不一致,对应的安装命令就不一致

如果低于11.8的,在英伟达的官网去下载一个GeForce的驱动

大于等于11.8的,不用此步骤
在这里插入图片描述

在这里插入图片描述
安装成功之后,打开这个软件,会有一个界面,左边点击驱动程序
在这里插入图片描述
右边选择game ready驱动程序,更新。然后你的显卡英伟达的cuda版本就是12.x甚至13了
会省去很多麻烦,你的代码就和大家一样,但是就报错,对呀,没人能穿越回去,在低版本的里面实现大模型,大模型的运行兼容是11.8以后做的
在这里插入图片描述

官网的截图:
官网的截图:
官网的截图:
在这里插入图片描述
“12.3装谁?”
“装11.8的那个命令”

“13的装谁?”
“都能装”

所以:你的英伟达的cuda版本只能大于官网的那个数字,才能用对应的那个。
没有11.8大,是11.2怎么办,G了.当只有cpu来用,或者上面分享了步骤
等于呢?天命~ 如果版本是12.8 就装12.8的命令 那个版本就正好是你用的,其他都是兼容

“12.5装谁?”
“还是11.8那个”

没有显卡呢:
最后一个,cpu only

复制一份,大家复制完命令,记得把等号加上
这个网址把两个等号变成黄色字体的语法了,====我了个丢====,肯定要等号的啊~~~带等号才是正确的语法,为指定版本,命令需要写全

CUDA 11.8
pip install torch2.7.0 torchvision0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cu118

CUDA 12.6
pip install torch2.7.0 torchvision0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cu126

CUDA 12.8
pip install torch2.7.0 torchvision0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cu128

CPU only
pip install torch2.7.0 torchvision0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cpu

截屏在这里,大家记得加对照一下,手动加上等号:
在这里插入图片描述


总结

说明一下:整个这个系列实现AI大模型对话项目。序号文章一共也就10几篇,只有核心图文重点操作步骤来实现这个目标
(包括这个AI大模型的环境搭建,深度学习,数据处理,流输出,流推理等等)
(基本上您边看边写:一个小时或者一上午就能跟着一起手搓一个,然后您可以自行添加功能和内容在您项目里面)

其他扩展细节知识点,本系列省略了(或者有链接)如:
Python语法的
vue语法的

(会陆续更新非常多的IT技术知识及泛IT的电商知识,可以点个关注,共同交流。ღ( ´・ᴗ・` )比心)
(也欢迎评论,提问。 我会依次回答~)

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐