2025年LLM导师系统训练与优化论文链接汇总
2025年LLM导师系统训练与优化论文链接汇总
一、核心训练优化论文
1. Training LLM-based Tutors to Improve Student Learning Outcomes in Dialogues
发表时间: 2025年3月(最新版:2025年7月)
会议: AIED 2025
作者: Alexander Scarlatos, Naiming Liu, Jaewook Lee, Richard Baraniuk, Andrew Lan
核心贡献:
- 使用DPO训练Llama 3.1 8B模型
- 通过学生模拟预测学生正确率
- 同时优化学习成果和教学质量
链接:
- arXiv: https://arxiv.org/abs/2503.06424
- PDF: https://arxiv.org/pdf/2503.06424
- HTML: https://arxiv.org/html/2503.06424
- GitHub代码: https://github.com/umass-ml4ed/tutorbot-dpo
2. From Problem-Solving to Teaching Problem-Solving: Aligning LLMs with Pedagogy using Reinforcement Learning
发表时间: 2025年5月(最新版:2025年10月)
作者: David Dinucu-Jianu, Jakub Macina, Nico Daheim, Ido Hakimi, Iryna Gurevych, Mrinmaya Sachan
核心贡献:
- 在线强化学习框架
- 使用合成学生-导师互动数据
- 7B模型达到LearnLM性能
- 可控奖励权重平衡教学质量和学生解题准确率
链接:
- arXiv: https://arxiv.org/abs/2505.15607
- PDF: https://arxiv.org/pdf/2505.15607
- HTML: https://arxiv.org/html/2505.15607
3. Efficient RL for Optimizing Conversation Level Outcomes
发表时间: 2025年7月
arXiv编号: 2507.16252
核心贡献:
- 用低维潜在状态表示对话历史
- 优化长期策略
- 比端到端训练更轻量级
链接:
- arXiv: https://arxiv.org/abs/2507.16252
4. Accelerating RL Algorithms Convergence using LLMs as Tutors
发表时间: 2025年9月
arXiv编号: 2509.08329
核心贡献:
- 使用LLM作为导师加速RL收敛
- 提升训练效率
链接:
- arXiv: https://arxiv.org/abs/2509.08329
二、偏好优化方法论文
5. A Survey of Direct Preference Optimization
发表时间: 2025年3月
arXiv编号: 2503.11701
核心贡献:
- DPO方法的全面综述
- 比较不同变体的优缺点
链接:
- arXiv: https://arxiv.org/abs/2503.11701
6. ADPO: Anchored Direct Preference Optimization
发表时间: 2025年10月
arXiv编号: 2510.18913
核心贡献:
- 扩展偏好学习到软列表式监督
- 在噪声环境下性能提升12-93%
- 蒸馏效率提升4-49倍
链接:
- arXiv: https://arxiv.org/abs/2510.18913
7. Pre-DPO: Improving Data Utilization in Direct Preference Optimization
发表时间: 2025年4月
arXiv编号: 2504.15843
核心贡献:
- 使用引导参考模型
- 自适应数据重新加权
- AlpacaEval 2提升2.5分,Arena-Hard提升2.6分
链接:
- arXiv: https://arxiv.org/abs/2504.15843
8. Improving Generative AI Student Feedback with Direct Preference Optimization
发表时间: 2025年
会议: EDM 2025 (Educational Data Mining)
核心贡献:
- 教师在循环中选择更好的反馈
- 系统随时间演化
- 盲测中显著优于GPT-4o
链接:
- 会议网站: https://educationaldatamining.org/edm2025/
三、知识追踪与个性化论文
9. TutorLLM: Customizing Learning Recommendations with Knowledge Tracing and Retrieval-Augmented Generation
发表时间: 2025年1月(2025年4月更新)
作者: Zhaoxing Li, Vahid Yazdanpanah, Jindi Wang, Wen Gu, Lei Shi, Alexandra I. Cristea, Sarah Kiden, Sebastian Stein
核心贡献:
- 结合知识追踪(KT)和检索增强生成(RAG)
- 使用MLFBK模型
- 用户满意度提升10%,测验分数提高5%
链接:
- arXiv: https://arxiv.org/abs/2502.15709
- PDF: https://arxiv.org/pdf/2502.15709
- HTML: https://arxiv.org/html/2502.15709
10. LLM-driven Dual-channel Difficulty-aware Knowledge Tracing (DDKT)
发表时间: 2025年2月
arXiv编号: 2502.19915
核心贡献:
- 利用LLM和RAG进行主观难度评估
- 难度平衡感知序列(DBPS)
- 难度掌握比率(DMR)
- AUC指标提升2%-10%
链接:
- arXiv: https://arxiv.org/abs/2502.19915
- PDF: https://arxiv.org/pdf/2502.19915
11. LPITutor: LLM-based Personalized Intelligent Tutoring System
发表时间: 2025年8月
期刊: PeerJ Computer Science
核心贡献:
- 学习者感知的提示工程
- 动态构建上下文敏感提示
- 可追溯的文档引用
链接:
- 期刊网站: https://peerj.com/computer-science/
12. Building Knowledge from Interactions: Knowledge Graph Enhanced LLM-based Explainable Tutoring System
发表时间: 2025年4月
arXiv编号: 2504.01588
核心贡献:
- 知识图谱增强的可解释性
- 跨交互的泛化和个性化
链接:
- arXiv: https://arxiv.org/abs/2504.01588
四、学生模拟论文
13. EduDial: A Large-scale Multi-turn Educational Dialogue Dataset
发表时间: 2025年10月
arXiv编号: 2510.12899
核心贡献:
- 五阶段教学框架
- 多认知层次的学生模型
- 一个教师和三个不同认知水平的学生模型
链接:
- arXiv: https://arxiv.org/abs/2510.12899
14. Personality-aware Student Simulation for Conversational Intelligent Tutoring Systems
发表时间: 2024年4月(2025年更新)
arXiv编号: 2404.06762
核心贡献:
- 考虑大五人格特质
- 追踪语言能力和学习进度
- 生成更真实的学生响应
链接:
- arXiv: https://arxiv.org/abs/2404.06762
15. Exploring LLMs for Predicting Tutor Strategy and Student Outcomes in Math Tutoring Dialogues
发表时间: 2025年7月
arXiv编号: 2507.06910
核心贡献:
- 预测导师策略(探究、聚焦、告知、通用)
- 预测学生成果(对话级和轮次级)
- 导师动作标签提高Llama 3性能
链接:
- arXiv: https://arxiv.org/abs/2507.06910
16. Simulating LLM-to-LLM Tutoring for Multilingual Math Feedback
发表时间: 2025年6月
arXiv编号: 2506.04920
核心贡献:
- 大规模多语言导师-学生互动模拟
- 强模型扮演导师,弱模型模拟学生
- 352个实验设置
链接:
- arXiv: https://arxiv.org/abs/2506.04920
- HTML: https://arxiv.org/html/2506.04920
五、综合框架与综述
17. LLM Agents for Education: Advances and Applications
发表时间: 2025年3月
arXiv编号: 2503.11733
核心贡献:
- 教育LLM agents的系统性综述
- 教学agents vs 领域特定教育agents
- 知识追踪、错误检测与纠正
链接:
- arXiv: https://arxiv.org/abs/2503.11733
- PDF: https://arxiv.org/pdf/2503.11733
18. AI-Powered Educational Agents: Opportunities, Innovations, and Ethical Challenges
发表时间: 2025年5月
核心贡献:
- 2023-2025年间82篇研究的系统文献综述
- 涵盖辅导系统、评估反馈、课程设计等六个方面
- 伦理考虑
链接:
- 待补充(期刊论文)
19. Retrieval-augmented Generation for Educational Application: A Systematic Survey
发表时间: 2025年5月
期刊: Computer Applications in Engineering Education
核心贡献:
- RAG在教育场景的综合综述
- 51项研究的综合分析
- 交互式学习系统、内容生成与评估
链接:
- ScienceDirect: https://www.sciencedirect.com/science/article/pii/S2666920X25000578
六、应用场景论文
20. Stitch: Step-by-step LLM Guided Tutoring for Scratch Programming
发表时间: 2025年10月
arXiv编号: 2510.26634
核心贡献:
- 专为Scratch编程设计
- 逐步脚手架式指导
- 显著提升学习效果
链接:
- arXiv: https://arxiv.org/abs/2510.26634
21. TeachLM: Post-Training LLMs for Education Using Authentic Learning Data
发表时间: 2025年10月
arXiv编号: 2510.05087
核心贡献:
- 基于10万小时真实学生-导师互动数据
- 参数高效微调
- 学生对话时间增加一倍,轮次增加50%
链接:
- arXiv: https://arxiv.org/abs/2510.05087
22. Playing Dumb to Get Smart: Creating and Evaluating an LLM-based Teachable Agent
发表时间: 2025年
会议: CHI 2025
核心贡献:
- MatlabTutee系统
- LLM"装傻"扮演学习者
- 119名学生四个实验评估
链接:
- CHI 2025会议网站: https://chi2025.acm.org/
23. Exploring Communication Strategies for Collaborative LLM Agents in Mathematical Problem-Solving
发表时间: 2025年
会议: AIED 2025(2025年7月22-26日,意大利巴勒莫)
核心贡献:
- 四种多agent通信模式
- 同伴协作模式准确率最高
- 师生互动、互惠同伴教学、批判性辩论
链接:
- AIED 2025会议网站: https://aied2025.org/
24. Position: LLMs Can be Good Tutors in Foreign Language Education
发表时间: 2025年2月
arXiv编号: 2502.05467
核心贡献:
- LLM在外语教育中的三个角色
- 数据增强器、任务预测器、个性化教学agents
链接:
- arXiv: https://arxiv.org/abs/2502.05467
25. LLM Intelligent Agent Tutoring in Higher Education Courses Using a RAG Approach
发表时间: 2025年3月
出版社: Springer会议论文集
核心贡献:
- RAG方法在高等教育中的应用
- 准确、情境相关的个性化帮助
链接:
- Springer网站: https://link.springer.com/
26. Towards the Pedagogical Steering of LLMs for Tutoring: A Case Study with Modeling Productive Failure
发表时间: 2024年10月(仍在2025年相关研究中引用)
arXiv编号: 2410.03781
核心贡献:
- StratL算法实现教学策略引导
- 生产性失败(Productive Failure)教学设计
- 新加坡17名高中生实地研究
链接:
- arXiv: https://arxiv.org/abs/2410.03781
- HTML: https://arxiv.org/html/2410.03781
- GitHub(问题集): https://github.com/eth-lre/Productive-Failure-Problems
- GitHub(代码): https://github.com/RomainPuech/StratL-Pedagogical-Steering-of-LLMs-for-Tutoring
七、评估与分析论文
27. Beyond Final Answers: Evaluating LLMs for Math Tutoring
发表时间: 2025年2月
arXiv编号: 2503.16460
核心贡献:
- 评估LLM在数学辅导中的正确性和质量
- 使用智能辅导系统作为测试平台
- 人类评估者扮演学生角色
链接:
- arXiv: https://arxiv.org/abs/2503.16460
- HTML: https://arxiv.org/html/2503.16460
28. Decomposing Elements of Problem Solving: What “Math” Does RL Teach?
发表时间: 2025年5月
arXiv编号: 2505.22756
核心贡献:
- 将问题解决分解为Plan、Execute、Verify
- 发现GRPO主要增强执行技能
- 识别"覆盖墙"现象
链接:
- arXiv: https://arxiv.org/abs/2505.22756
- HTML: https://arxiv.org/html/2505.22756
29. Exploring the Potential of LLM to Enhance Teaching Plans through Teaching Simulation
发表时间: 2025年2月
期刊: npj Science of Learning
核心贡献:
- 通过LLM模拟完整课堂教学过程
- 改进后的教学计划达到或超过经验教师水平
链接:
- Nature网站: https://www.nature.com/npjscilearn/
八、相关资源
30. GitHub资源库: Awesome AI LLM for Education
维护: GeminiLight
内容:
- 收录WWW 2025、IJCAI 2025、CHI 2025等顶会论文
- 大量LLM在教育领域应用的论文
链接:
- GitHub: https://github.com/GeminiLight/awesome-ai-llm4education
31. KnowTrace: Bootstrapping Iterative RAG with Structured Knowledge Tracing
发表时间: 2025年5月
arXiv编号: 2505.20245
核心贡献:
- 自启动框架缓解上下文过载
- 知识图谱扩展方法
- 提升多步推理质量
链接:
- arXiv: https://arxiv.org/abs/2505.20245
- HTML: https://arxiv.org/html/2505.20245
32. Knowledge Graph-Guided Retrieval Augmented Generation (KG²RAG)
发表时间: 2025年2月
arXiv编号: 2502.06864
核心贡献:
- 利用知识图谱提供事实级关系
- KG引导的块扩展和组织过程
- HotpotQA数据集实验
链接:
- arXiv: https://arxiv.org/abs/2502.06864
- HTML: https://arxiv.org/html/2502.06864
- GitHub: https://github.com/nju-websoft/KG2RAG
九、按主题分类快速索引
🎯 强化学习与DPO
- [1] Training LLM-based Tutors (2503.06424)
- [2] From Problem-Solving to Teaching (2505.15607)
- [3] Efficient RL for Conversation (2507.16252)
- [5] Survey of DPO (2503.11701)
- [6] ADPO (2510.18913)
- [7] Pre-DPO (2504.15843)
- [8] Improving Feedback with DPO (EDM 2025)
📊 知识追踪
- [9] TutorLLM (2502.15709)
- [10] DDKT (2502.19915)
- [11] LPITutor (PeerJ CS)
- [31] KnowTrace (2505.20245)
👥 学生模拟
- [13] EduDial (2510.12899)
- [14] Personality-aware Simulation (2404.06762)
- [15] Predicting Tutor Strategy (2507.06910)
- [16] Multilingual Tutoring Simulation (2506.04920)
🔍 RAG应用
- [9] TutorLLM (2502.15709)
- [19] RAG Survey (ScienceDirect)
- [25] RAG in Higher Education (Springer)
- [31] KnowTrace (2505.20245)
- [32] KG²RAG (2502.06864)
💻 编程教育
- [20] Stitch for Scratch (2510.26634)
- [22] MatlabTutee (CHI 2025)
🌐 外语教育
- [24] LLMs for Foreign Language (2502.05467)
- [16] Multilingual Math Tutoring (2506.04920)
📐 数学教育
- [23] Communication Strategies (AIED 2025)
- [27] Beyond Final Answers (2503.16460)
- [15] Predicting Outcomes (2507.06910)
📚 综述与理论
- [17] LLM Agents Survey (2503.11733)
- [18] AI Educational Agents (2025年5月)
- [19] RAG Survey (ScienceDirect)
- [5] DPO Survey (2503.11701)
十、如何获取论文
arXiv论文
- 直接访问: 点击上面的arXiv链接
- PDF下载: 在arXiv页面点击"PDF"按钮
- HTML版本: 点击"HTML (experimental)"查看交互式版本
- 引用信息: 点击"Export BibTeX Citation"获取引用
会议论文
- AIED 2025: https://aied2025.org/
- CHI 2025: https://chi2025.acm.org/
- EDM 2025: https://educationaldatamining.org/edm2025/
期刊论文
- PeerJ Computer Science: https://peerj.com/computer-science/
- npj Science of Learning: https://www.nature.com/npjscilearn/
- Computer Applications in Engineering Education: ScienceDirect
GitHub资源
大多数论文都提供了GitHub仓库,包含代码、数据集和实验结果。
十一、推荐阅读顺序
入门级(理解基础概念)
- [17] LLM Agents Survey - 了解整体框架
- [5] DPO Survey - 理解核心训练方法
- [19] RAG Survey - 掌握检索增强技术
进阶级(深入技术细节)
- [1] Training LLM-based Tutors - DPO实战
- [2] From Problem-Solving to Teaching - 在线RL
- [9] TutorLLM - KT与RAG结合
高级级(前沿研究方向)
- [6] ADPO - 最新DPO变体
- [13] EduDial - 多认知层次模拟
- [31] KnowTrace - 知识图谱扩展
应用级(实际部署)
- [20] Stitch - 编程教育应用
- [21] TeachLM - 真实数据训练
- [25] RAG in Higher Education - 高等教育部署
最后更新: 2025年11月19日
论文总数: 32篇
涵盖会议: AIED 2025, CHI 2025, EDM 2025等
主要来源: arXiv, Nature, Springer, ACM等
备注: 部分2025年会议论文可能尚未公开完整版本,建议定期访问会议官网获取最新信息。
更多推荐

所有评论(0)