附代码)性能炸裂!世界最强纯RNN模型RWKV7开源,本地推理丝滑流畅!
始智AI wisemodel.cn社区是源自中国的中立开放的AI开源社区。欢迎加入共同成长。wisemodel推出邀请注册奖励活动,最高可得算力券+token包380元奖励,欢迎参与和支持!
始智AI wisemodel.cn社区是源自中国的中立开放的AI开源社区。欢迎加入共同成长。wisemodel推出邀请注册奖励活动,最高可得算力券+token包380元奖励,欢迎参与和支持!
2025 年 11 月 1 日, RWKV7-G0a3 13.3B 推理模型开源发布。这是世界迄今最强的纯 RNN 大语言模型。团队以 RWKV6-world-v2.1 14B 模型为基础,仅继续训练 2T tokens(加入了蒸馏的 35B tokens from DeepSeek v3.1),即获得了有竞争力的效果。它依然是纯预训练模型(无后训练,无刷榜),评测成绩符合模型实际使用体验。模型已更新上线始智AI-wisemodel开源社区,欢迎大家前去体验。
其中,RWKV 模型名称的 G1/G1a/G1a2/G0a3 等字段是训练数据的版本,数据质量 G#a3 > G#a2 > G#a > G#,数据数量 G1 > G0。简单规则:同一参数选择最新的模型,效果最好。

模型地址
https://wisemodel.cn/models/rwkv4fun/RWKV-7-G1/file
01. 模型性能评估

Uncheatable Eval 评测
Uncheatable Eval使用最新的论文/新闻/代码/小说等实时数据,测试压缩率(“压缩即智能”),评估基底语言模型的真实语言建模能力和泛化能力。

benchmark-uncheatable
MMLU & MMLU PRO
评估模型在多学科的综合知识(MMLU PRO 比 MMLU 更难)。

benchmark-mmlu
GSM8K
评估模型在中学难度数学应用题的推理能力。

benchmark-gsm8k
MATH500
测试模型在更难数学问题的解题能力。

benchmark-math500
CEval
以多行业真实试题,评估模型中文理解和专业知识。

benchmark-ceval
02. 模型实战
G0a3 系列模型加入更多数据,显著提升 vibe coding 能力。
💡Tips
写代码,推荐解码参数:Temperature=1,Top_P=0.3,Presence Penalty=1,Frequency Penalty=0.1,decay=0.99
在下述代码示例中,我们把模型生成的 HTML 内容放到 https://html.onlineviewer.net/ 进行预览。
首先:用 SVG 画一只橘猫的侧面图(毕加索风格),即使关闭思考模式,也能生成合理的结果:

vibe-web-svgcat
继续: 用SVG画一张深圳夜景配图,包含建筑剪影和霓虹灯带,视觉主色调明确为深蓝 #0a1a2b(背景)与霓虹粉 #ff3ea5(点缀/光效):

vibe-web-svg
继续:请生成一个单文件 HTML 页面,主题:武松打虎。页面需包含:标题、简介段落、一段描写打虎场景的正文、至少一张配图(可用占位图 URL),并用干净的 CSS 美化页面(响应式)。输出完整的 HTML 文件源码。

vibe-web-wusong
💡Tips
所有生成的代码都在文末附录。我们会持续发布 vibe coding 能力显著更强的模型。
如前所述,RWKV 作为纯 RNN 模型,尤其适合大规模并行生成。我们提供了大规模并行生成网页的推理工具:
- 后端:https://github.com/RWKV-Vibe/rwkv_lightning
- 前端:https://github.com/xun082/RWKV-code
效果预览:

batch-web
故事创作
💡Tips
创作任务推荐的解码参数:Temperature=0.6,Top_P=0.7,Presence Penalty=2,Frequency Penalty=0.2
我们在新模型主蒸 DeepSeek v3.1,可以看到它的显著风格:

story
03. 优化推理速度
RWKV 团队与北京智源研究院合作优化推理效率,使用 FlagOS 的 FlagGems Triton 语言算子库,在保持精度的前提下提升了模型的推理速度。
例如,由于 RWKV 架构在设计时支持 FFN 无损稀疏化,在 bsz 1 时,FlagGems 算子 rwkv_mm_sparsity 对比 CUDA matmul 可提升 74% 到 202% 速度。进一步配合 CUDA Graph 优化,RWKV-7 的 bsz=1 推理 Decode 端到端速度在英伟达 RTX5090 提升 28%,在英伟达 A100 提升 135%。
目前显示速度已达:
https://github.com/BlinkDL/Albatross/tree/main/faster_251101
- 模型
RWKV-7 13.3B fp16,显卡RTX5090 with CUDAGraph and sparse FFN (lossless),推理速度 66+ token/s(bsz1) - 模型
RWKV-7 7.2B fp16,显卡RTX5090 with CUDAGraph and sparse FFN (lossless),推理速度 123+ token/s(bsz1) - 模型
RWKV-7 7.2B fp16,显卡RTX5090,推理速度 10250+ token/s (bsz960)
04. 如何使用RWKV模型
本地部署
可以使用 RWKV Runner、Ai00、RWKV pip 等推理工具本地部署 RWKV 模型。RWKV 模型也适配了 llama.cpp、ollama 等热门的模型推理工具。
目前最快的 RWKV 推理工具是 Albatross:
https://github.com/BlinkDL/Albatross
由于 RWKV7-G0a3 13.3B 是新模型,目前建议使用 RWKV Runner以保证得到正确结果。可以在RWKV 官网 - 模型推理教程中查看上述推理工具的使用教程。
05. 附录代码
vibe coding 1:svg 绘制橘猫
vibe coding prompt: 用 SVG 画一只橘猫的侧面图(毕加索风格)
<!DOCTYPE html><html lang="zh"><head> <meta charset="UTF-8"> <meta name="viewport" content="width=device-width, initial-scale=1.0"> <title>毕加索风格橘猫</title> <style> body { display: flex; justify-content: center; align-items: center; height: 100vh; background: linear-gradient(135deg, #f5f7fa 0%, #c3cfe2 100%); margin: 0; font-family: 'Segoe UI', Tahoma, Geneva, Verdana, sans-serif; } .container { text-align: center; padding: 20px; background-color: white; border-radius: 15px; box-shadow: 0 10px 30px rgba(0, 0, 0, 0.1); max-width: 90%; } h1 { color: #ff6b6b; margin-bottom: 20px; font-weight: 600; } .svg-container { margin: 20px auto; max-width: 400px; } svg { filter: drop-shadow(0 5px 15px rgba(0, 0, 0, 0.2)); } .description { color: #555; line-height: 1.6; margin-top: 20px; padding: 0 15px; } .highlight { color: #ff6b6b; font-weight: bold; } </style></head><body> <div class="container"> <h1>毕加索风格橘猫</h1> <div class="svg-container"> <svg width="300" height="400" viewBox="0 0 300 400"> <!-- 背景 --> <rect width="100%" height="100%" fill="#f8f9fa" /> <!-- 头部 --> <path d="M150,100 C180,80 220,90 230,120 C240,150 220,180 190,190 C160,200 130,180 120,150 C110,120 130,90 150,100 Z" fill="#ffa500" /> <!-- 耳朵 --> <path d="M120,80 L140,60 L160,80 L140,100 Z" fill="#ffa500" /> <path d="M180,80 L200,60 L220,80 L200,100 Z" fill="#ffa500" /> <!-- 眼睛 --> <circle cx="130" cy="140" r="15" fill="#333" /> <circle cx="170" cy="140" r="15" fill="#333" /> <circle cx="135" cy="140" r="5" fill="white" /> <circle cx="165" cy="140" r="5" fill="white" /> <!-- 鼻子 --> <path d="M150,170 L145,185 L155,185 Z" fill="#333" /> <!-- 嘴巴 --> <path d="M140,190 Q150,200 160,190" stroke="#333" stroke-width="2" fill="none" /> <!-- 胡须 --> <line x1="130" y1="170" x2="100" y2="165" stroke="#333" stroke-width="1.5" /> <line x1="130" y1="175" x2="100" y2="170" stroke="#333" stroke-width="1.5" /> <line x1="130" y1="180" x2="100" y2="175" stroke="#333" stroke-width="1.5" /> <line x1="170" y1="170" x2="200" y2="165" stroke="#333" stroke-width="1.5" /> <line x1="170" y1="175" x2="200" y2="170" stroke="#333" stroke-width="1.5" /> <line x1="170" y1="180" x2="200" y2="175" stroke="#333" stroke-width="1.5" /> <!-- 身体 --> <path d="M150,190 C120,210 80,230 70,270 C60,310 80,350 120,370 C160,390 200,370 220,330 C240,290 230,250 210,220 C190,190 170,180 150,190 Z" fill="#ffa500" /> <!-- 前腿 --> <path d="M120,290 L100,320 L110,340 L130,320 Z" fill="#ffa500" /> <path d="M180,290 L200,320 L190,340 L170,320 Z" fill="#ffa500" /> <!-- 后腿 --> <path d="M220,330 L240,360 L230,380 L210,360 Z" fill="#ffa500" /> <path d="M160,330 L140,360 L150,380 L170,360 Z" fill="#ffa500" /> <!-- 尾巴 --> <path d="M220,330 C250,320 270,300 260,270 C250,240 230,230 210,240 C190,250 180,270 190,290 C200,310 220,320 220,330 Z" fill="#ffa500" /> <!-- 爪子 --> <circle cx="100" cy="325" r="5" fill="#ffa500" /> <circle cx="110" cy="345" r="5" fill="#ffa500" /> <circle cx="130" cy="325" r="5" fill="#ffa500" /> <circle cx="140" cy="345" r="5" fill="#ffa500" /> <circle cx="160" cy="325" r="5" fill="#ffa500" /> <circle cx="170" cy="345" r="5" fill="#ffa500" /> <circle cx="200" cy="325" r="5" fill="#ffa500" /> <circle cx="210" cy="345" r="5" fill="#ffa500" /> <circle cx="230" cy="325" r="5" fill="#ffa500" /> <circle cx="240" cy="345" r="5" fill="#ffa500" /> <circle cx="260" cy="325" r="5" fill="#ffa500" /> <circle cx="270" cy="345" r="5" fill="#ffa500" /> <!-- 艺术效果线条 --> <path d="M150,100 L120,80" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> <path d="M150,100 L180,80" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> <path d="M150,190 L120,290" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> <path d="M150,190 L180,290" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> <path d="M150,190 L220,330" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> <path d="M150,190 L160,330" stroke="#ff6b6b" stroke-width="2" stroke-dasharray="5,3" /> </svg> </div> <p class="description"> 这只<span class="highlight">毕加索风格的橘猫</span>采用了立体主义的几何形状和鲜明的色彩对比,展现了艺术与自然的完美结合。通过简化的形状和抽象的线条,捕捉了猫咪的优雅姿态和独特个性。 </p> </div></body></html>
vibe coding 2:svg 绘制深圳夜景
vibe coding prompt:用SVG画一张深圳夜景配图,包含建筑剪影和霓虹灯带,视觉主色调明确为深蓝 #0a1a2b(背景)与霓虹粉 #ff3ea5(点缀/光效)
<!DOCTYPE html><html lang="zh-CN"><head> <meta charset="UTF-8"> <meta name="viewport" content="width=device-width, initial-scale=1.0"> <title>深圳夜景</title> <style> body { margin: 0; padding: 20px; display: flex; justify-content: center; align-items: center; min-height: 100vh; background-color: #0a1a2b; font-family: 'Arial', sans-serif; } .container { max-width: 800px; text-align: center; } h1 { color: #ff3ea5; margin-bottom: 30px; text-shadow: 0 0 10px rgba(255, 62, 165, 0.5); } .svg-container { border-radius: 8px; box-shadow: 0 0 20px rgba(255, 62, 165, 0.3); overflow: hidden; } /* 添加一些动画效果 */ @keyframes glow { 0% { opacity: 0.7; } 50% { opacity: 1; } 100% { opacity: 0.7; } } .neon-light { animation: glow 3s infinite alternate; } </style></head><body> <div class="container"> <h1>深圳夜景</h1> <div class="svg-container"> <svg width="800" height="500" viewBox="0 0 800 500"> <!-- 背景 --> <rect width="800" height="500" fill="#0a1a2b" /> <!-- 远处山脉轮廓 --> <path d="M0,300 Q100,250 200,280 T400,270 T600,290 T800,300 L800,500 L0,500 Z" fill="#152a3c" /> <!-- 近处地面 --> <rect x="0" y="450" width="800" height="50" fill="#1a2a3c" /> <!-- 建筑群 --> <g id="buildings"> <!-- 左侧建筑群 --> <rect x="50" y="200" width="40" height="150" fill="#111" /> <rect x="90" y="180" width="35" height="170" fill="#111" /> <rect x="135" y="220" width="30" height="130" fill="#111" /> <rect x="175" y="190" width="40" height="160" fill="#111" /> <rect x="225" y="210" width="35" height="140" fill="#111" /> <!-- 中间主要建筑 --> <rect x="300" y="150" width="60" height="200" fill="#111" /> <rect x="360" y="120" width="70" height="230" fill="#111" /> <rect x="440" y="160" width="50" height="190" fill="#111" /> <rect x="490" y="140" width="65" height="210" fill="#111" /> <rect x="565" y="170" width="55" height="180" fill="#111" /> <!-- 右侧建筑群 --> <rect x="650" y="200" width="40" height="150" fill="#111" /> <rect x="695" y="180" width="35" height="170" fill="#111" /> <rect x="735" y="220" width="30" height="130" fill="#111" /> <rect x="775" y="190" width="40" height="160" fill="#111" /> <rect x="825" y="210" width="35" height="140" fill="#111" /> </g> <!-- 霓虹灯带 --> <g id="neon-lights"> <!-- 建筑顶部霓虹灯 --> <rect x="50" y="200" width="40" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="90" y="180" width="35" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="135" y="220" width="30" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="175" y="190" width="40" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="225" y="210" width="35" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="300" y="150" width="60" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="360" y="120" width="70" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="440" y="160" width="50" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="490" y="140" width="65" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="565" y="170" width="55" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="650" y="200" width="40" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="695" y="180" width="35" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="735" y="220" width="30" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="775" y="190" width="40" height="5" fill="#ff3ea5" class="neon-light" /> <rect x="825" y="210" width="35" height="5" fill="#ff3ea5" class="neon-light" /> <!-- 空中霓虹灯带 --> <path d="M100,250 Q150,200 200,250 T300,200 T400,250 T500,200 T600,250 T700,200 T800,250" fill="none" stroke="#ff3ea5" stroke-width="3" class="neon-light" /> <!-- 闪烁的霓虹点 --> <circle cx="150" cy="180" r="3" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="2s" repeatCount="indefinite" /> </circle> <circle cx="250" cy="220" r="2" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="1.5s" repeatCount="indefinite" begin="0.5s" /> </circle> <circle cx="350" cy="190" r="4" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="2.5s" repeatCount="indefinite" begin="1s" /> </circle> <circle cx="450" cy="170" r="3" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="2s" repeatCount="indefinite" begin="1.5s" /> </circle> <circle cx="550" cy="210" r="2" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="1.5s" repeatCount="indefinite" begin="2s" /> </circle> <circle cx="650" cy="180" r="3" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="2s" repeatCount="indefinite" begin="2.5s" /> </circle> <circle cx="750" cy="220" r="2" fill="#ff3ea5" class="neon-light"> <animate attributeName="opacity" values="0.3;1;0.3" dur="1.5s" repeatCount="indefinite" begin="3s" /> </circle> </g> <!-- 月亮 --> <circle cx="700" cy="80" r="25" fill="#f0f0f0" /> <circle cx="685" cy="65" r="15" fill="#0a1a2b" /> </svg> </div> </div></body></html>
vibe coding 3:武松打虎 web
vibe coding prompt: 请生成一个单文件 HTML 页面,主题:武松打虎。页面需包含:标题、简介段落、一段描写打虎场景的正文、至少一张配图(可用占位图 URL),并用干净的 CSS 美化页面(响应式)。输出完整的 HTML 文件源码。
<!DOCTYPE html><html lang="zh-CN"><head> <meta charset="UTF-8"> <meta name="viewport" content="width=device-width, initial-scale=1.0"> <title>武松打虎 - 水浒传经典故事</title> <style> * { margin: 0; padding: 0; box-sizing: border-box; } body { font-family: 'Microsoft YaHei', 'SimSun', sans-serif; line-height: 1.6; color: #333; background-color: #f9f5e9; padding: 20px; max-width: 1200px; margin: 0 auto; } header { text-align: center; margin-bottom: 30px; padding: 20px; background: linear-gradient(135deg, #8b4513 0%, #a0522d 100%); border-radius: 10px; box-shadow: 0 4px 15px rgba(0, 0, 0, 0.2); } h1 { color: #fff; font-size: 2.5rem; margin-bottom: 10px; text-shadow: 2px 2px 4px rgba(0, 0, 0, 0.3); } .subtitle { color: #e6d7b8; font-size: 1.2rem; font-style: italic; } .container { display: flex; flex-direction: column; gap: 30px; } .intro { background-color: #fff; padding: 25px; border-radius: 10px; box-shadow: 0 4px 10px rgba(0, 0, 0, 0.1); } .intro h2 { color: #8b4513; border-bottom: 2px solid #d4af37; padding-bottom: 10px; margin-bottom: 15px; } .story { background-color: #fff; padding: 25px; border-radius: 10px; box-shadow: 0 4px 10px rgba(0, 0, 0, 0.1); } .story h2 { color: #8b4513; border-bottom: 2px solid #d4af37; padding-bottom: 10px; margin-bottom: 15px; } .story p { margin-bottom: 15px; text-indent: 2em; font-size: 1.1rem; } .image-section { text-align: center; margin: 30px 0; } .image-section img { max-width: 100%; height: auto; border-radius: 8px; box-shadow: 0 6px 15px rgba(0, 0, 0, 0.2); transition: transform 0.3s ease; } .image-section img:hover { transform: scale(1.02); } .image-caption { margin-top: 10px; font-style: italic; color: #666; } footer { text-align: center; margin-top: 40px; padding: 20px; color: #666; font-size: 0.9rem; } @media (max-width: 768px) { h1 { font-size: 2rem; } .subtitle { font-size: 1rem; } .container { padding: 15px; } .story p { font-size: 1rem; } } @media (max-width: 480px) { body { padding: 10px; } h1 { font-size: 1.8rem; } .story p { font-size: 0.95rem; } } </style></head><body> <header> <h1>武松打虎</h1> <p class="subtitle">水浒传经典故事之一</p> </header> <div class="container"> <section class="intro"> <h2>故事简介</h2> <p>《武松打虎》是中国古典四大名著之一《水浒传》中的经典章节,讲述了武松在景阳冈上与一只猛虎搏斗并最终将其击毙的英勇事迹。这一故事不仅展现了武松的勇猛无畏,也体现了中国传统文化中"义薄云天"的侠义精神。</p> <p>武松原是山东清河县人,因杀死杀兄仇人西门庆而被迫逃亡,途经景阳冈时遭遇猛虎。在酒醉状态下,他凭借过人的勇气和武艺,与老虎展开殊死搏斗,最终成功将其击毙,成为民间传颂的英雄人物。</p> </section> <section class="story"> <h2>故事正文</h2> <p>话说武松在孟州牢城营做了三年牢,后来被释放,前往东京投奔哥哥武大郎。路经山东阳谷县境内的景阳冈时,已是黄昏时分。武松走得口渴难耐,见路边有一家酒店,便进去喝酒。</p> <p>店家见武松生得壮实,便劝他多饮几杯。武松本就性情豪爽,又加上连日赶路劳累,便喝了十八碗烈酒。酒酣耳热之际,店家告诉他前方有一条景阳冈,上面有一只吃人的吊睛白额大虫,劝他不要独自前往。</p> <p>武松却不以为然,认为自己身强力壮,何惧猛虎?他拍案叫道:"你这厮休要危言耸听!若真有那畜生,我必教他知道爷爷的手段!"说罢,提起行李,摇摇晃晃地向景阳冈走去。</p> <p>刚上冈不远,忽听得树林中风声飒飒,草木簌簌。武松定睛看时,只见一只斑斓猛虎从林中窜出,直扑过来。武松虽然酒醉,但见到猛虎,酒醒了一半,急忙抽出朴刀迎战。</p> <p>那老虎扑到近前,武松举刀砍去,却被老虎躲过。老虎反身一扑,武松侧身闪避,与老虎扭打在一起。两人(虎)缠斗良久,武松渐渐觉得力气不支,心想:"今日若死在此处,岂不冤枉!"便奋力挣脱,滚到一旁。</p> <p>武松见老虎扑空,立即翻身跃起,趁老虎回头之际,一刀砍在老虎颈上。老虎吃痛,转身再扑。武松又是一刀,这次砍中老虎前腿。老虎吃痛,怒吼连连,再次扑来。</p> <p>武松见老虎伤势严重,知道它已是强弩之末,便不再躲闪,挺刀直刺。这一刀正中老虎心窝,老虎发出一声惨嚎,倒地而死。武松取出老虎眼珠吞下,又割下老虎皮毛,带着尸体回到阳谷县,献给县太爷。</p> <p>县太爷闻讯亲自前来查看,见果然是一只猛虎,便命人将武松送回孟州牢城营。武松因此事迹传扬开来,声名大振,后来更是成为梁山好汉之一。</p> </section> <section class="image-section"> <img src="https://images.unsplash.com/photo-1578662996442-48f60103fc96?ixlib=rb-1.2.1&auto=format&fit=crop&w=800&q=80" alt="武松打虎场景"> <p class="image-caption">武松与老虎搏斗的经典场景</p> </section> </div> <footer> <p>© 2023 中国古典文学故事 | 《水浒传》经典篇章</p> </footer></body></html>
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐
所有评论(0)