安装 deepspeed 报错 | 【CUDA_HOME does not exist, unable to compile CUDA op(s)】

文文戴

1547人浏览 · 2024-11-08 17:06:58

文文戴 · 2024-11-08 17:06:58 发布

问题：

安装 deepspeed 报错 | 【CUDA_HOME does not exist, unable to compile CUDA op(s)】

解决方法：

原因是因为 deepspeed 需要安装 cuda toolkit (runtime cuda), 不能使用 torch 内置的 cuda toolkit。
安装完成之后使用 nvcc -V，输出版本则证明安装cuda toolkit 成功。

2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

当AI开始写代码，我们终于想起了自己是谁

历史绕了一个圈：2000年，资源稀缺逼你做工程师；2015年，资本扩张哄你做码农；2025年，责任回归，AI强迫你必须做回工程师。当AI开始写代码，我们终于想起了自己是谁——不是打字员，而是导演；不是搬砖工，而是指挥官。工程师的"签字权"回来了，系统思维和逻辑能力成了最保命的硬通货。

2048 AI社区

《160分钟踩坑实录：Streamlit + Ollama 聊天机器人环境配置全解析》

本文介绍了如何使用Python+Streamlit+Ollama搭建本地智能聊天机器人。主要内容包括：1) 核心代码实现，通过Ollama客户端调用本地部署的deepseek-r1:1.5b模型；2) 详细解决了开发过程中遇到的三大问题：虚拟环境激活、PowerShell脚本执行策略和包路径问题；3) 提供标准化操作流程，包括首次设置执行策略、激活虚拟环境和启动服务等步骤。该方案实现了基于本地私有