最好选择cuda>=12.3

pytorch版本和本机装的cuda版本一致，我装的是12.4

虚拟环境有要有cudnn和cudatoolkit

pip install packaging ninja
pip install flash-attn --no-build-isolation

安装本地的cuda和cudnn

anaconda虚拟环境中报错：OSError: CUDA_HOME environment variable is not set. Please set it to your CUDA-CSDN博客

# 深度学习 # python
Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

Kubernetes CoreDNS 解析超时排查（ndots 与 NodeLocal DNSCache）

CoreDNS 超时先用 ClusterIP 直连排除数据面，再读 Pod的ndots 与 search。默认 ndots:5 让短名查询放大数倍，AAAA 再乘一倍。指标上区分 NXDOMAIN 瀑布和真正的 SERVFAIL/p99。NodeLocal DNSCache 降 RTT、不消灭放大；根上仍是 FQDN 或谨慎的 dnsConfig。改 DNS 全局配置必须可回滚，禁止先停 Core

avatar 2048 AI社区
cover

AIGC课程为什么从99元到数万元都有：先把“买工具”与“买结果”分开

avatar 2048 AI社区

AI 搜索引擎对商业内容的引用机制与 GEO 工程化实现

信源评估分三层：内容质量层（数据密度 / 结构完整度）、信源身份层（官网 / 百科 / 权威媒体权重高于普通内容）、交叉验证层（同一信息在≥3 个独立信源出现时信任度显著上升，即「信源金字塔」）。同一信息按平台信源属性分发：官网（信任入口）、百科（权威背书）、知乎（专业问答）、头条 / 百家（科普）、黄页 / 列举（本地档案）。AI 搜索引擎（以 DeepSeek、豆包、元宝为代表的生成式引擎）对

avatar 2048 AI社区