一、2025年年度总结

很难相信一年就这么过去了，很快又过得很充实，从年初deepseek火了一波后大家都进行复现，很多人利用GRPO训练think推理模型复现ds，再到后来年中各种RL算法遍地开花，比如DAPO、GSPO等；同时多模态大模型也发展很快，去年效果一般的视频生成模型在今年效果已经非常惊艳了，同时也有像阿里全模态qwen-omni这样的“全能”（还是偏多模态理解）的模型出现，给我们看到未来的无限可能。

因为博客之星活动强行逼自己总结一下今年的创作和学习历程，大体可以分为以下几个模块：agent、RL强化学习、多模态大模型、大模型加速推理、推理大模型。有的是工作中需要跟进的方向，有的是自己喜欢的方向，下面对今年产出的博客进行归档分类，简单总结：

一、agent：deepresearch，深度研究智能体，各大LLM，agentic RL，agent范式及其实践

• agent评测综述：【Agent】Evaluation and Benchmarking of LLM Agents: A Survey
• 智能体agent入门笔记：【Agent】智能体：在循环中自主调用工具的LLM
• agent实践：【Agent】自动化深度研究智能体搭建
• agent协作模式：【LLM-Agent】七种agent协作模式
• deepresearch优化：【Agent】通义DeepResearch之通过CPT Scaling Agents
• 多模态agent框架：【MLLM】具有长期记忆的多模态智能体框架M3-Agent
• 多模态agent模型：【MLLM】语音端到端大模型和Voice Agent发展
• MCP的应用：【Agent】MCP协议使用 | 用高德MCP Server制作旅游攻略

二、RL：dpo，dpo变体，grpo，dapo，gspo，RL综述

• deepseek论文笔记：【LLM】Deepseek R1模型之多阶段训练
• 解析ds训练流程：【LLM】DeepSeek R1训练成本降低分析篇
• RL的配方&小模型进行RL：【RL】Scaling RL Compute for LLMs | JustRL 1.5b
• 信息熵理解RL：【LLM-RL】以信息熵的角度理解RL
• 经典RL算法对比：【LLM-RL】GRPO-＞DAPO-＞GSPO训练区别
• RLVR的可行性：【RL】Does RLVR enable LLMs to self-improve？
• 监督强化学习（SRL）框架：【RL】Supervised Reinforcement Learning: From Expert Trajectories to Step-wise Reasoning
• 利用ms-swift框架训练GRPO：【LLM】基于ms-Swift大模型SFT和RL的训练实践
• RLVR中奖励函数设计：【RLVR】GRPO中奖励函数的设计逻辑
• 大模型学习材料：【LLM】SmolLM3模型训练手册
• DPO变体算法：【RL】KTO: Model Alignment as Prospect Theoretic Optimization

三、多模态：qwen omni，端到端语音大模型，ovis2.5图生文模型，视频生成

• 年中总结：【MLLM】2025年多模态技术发展（Better、Faster、Stronger）
• 全模态大模型汇总：【MLLM】全模态Omni（nvidia/美团/蚂蚁）
• qwen omni解析：【MLLM】Qwen-Omni系列全模态模型架构和训练
• 视频生成：【LLM-video】HunyuanVideo-1.5视频生成模型
• 图生文理解模型：【MLLM】多模态理解Ovis2.5模型和训练流程（更新中）
• 理解和生成统一：【MLLM】字节BAGEL多模态理解和生成统一模型
• GLM系列：【MLLM】多模态理解GLM-4.1V-Thinking模型

四、推理加速：投机解码，推理优化综述，sglang框架应用，量化

• 投机解码：【LLM】大模型投机采样Speculative Sampling推理加速
• 量化：【LLM】大模型量化方法（权重&激活值量化）| 压测
• 推理框架：【LLM推理】Sglang推理框架使用入门
• 框架总结：【LLM算法工程】Megatron-LM | deepspeed | 量化/推理框架

五、推理大模型/模型结构创新：deepseek，kimi等

• ds考古模型：【LLM】DeepSeekMath-V2模型
• kimi 1.5：【LLM】kimi 1.5模型架构和训练流程
• kimi-k2模型：【LLM】Kimi-K2模型架构（MuonClip 优化器等）
• MOE解析：【LLM】MOE混合专家大模型综述（重要模块&原理）
• GLM4.5模型：【LLM】GLM-4.5模型架构和原理
• 今年火热qwen3模型：【LLM】Qwen3模型训练和推理优化
• 混合注意力机制、高稀疏度 MoE结构：【LLM】具有训练推理性价比的Qwen3-Next模型
• 使用DSA的deepseek3.2：【LLM】使用DSA和改进GRPO的DeepSeek-V3.2模型
• gpt-oss和其他模型对比：【LLM】Openai之gpt-oss模型和GPT5模型

二、2025年LLM范式变革

karpathy大佬的总结，个人觉得很有道理，内容浓缩如下：
【2025年大模型总结】，https://karpathy.bearblog.dev/year-in-review-2025/，Andrej Karpathy总结2025年LLM领域6大关键范式变革：

1. 可验证奖励强化学习（RLVR）：成为LLM训练新核心阶段，通过自动可验证奖励训练，让模型自发形成推理策略，靠更长训练时长提升能力，替代部分预训练算力。
2. “幽灵vs动物”式锯齿状智能：LLM智能形态异于人类/动物，在特定领域能力突出但整体表现不均衡，传统基准测试可信度下降。
3. Cursor类垂直应用层：LLM应用形成新层级，通过上下文工程、多LLM调用编排、专属GUI等，聚焦特定垂直领域，衔接基础模型与专业场景。
4. 本地运行的Claude Code：首个成熟LLM代理，在本地计算机运行，结合工具使用与推理，开创“本地AI”交互新范式。
5. 氛围编程（Vibe Coding）：AI突破能力阈值，普通人可通过自然语言编程，专业开发者也能高效创作，重塑软件生产模式。
6. Nano Banana类LLM图形界面：预示LLM交互从文本向可视化过渡，融合文本生成、图像生成与世界知识，打造更贴合人类习惯的GUI。

三、2025年博客历程

再接再厉！

期待大家对个人学习笔记提出建议和分享自己的算法见解，非常感激，2026年会更好！

Reference

[1] 聊聊 2025 LLM 的核心技术进展