2025年LLM导师系统训练与优化论文链接汇总

一、核心训练优化论文

1. Training LLM-based Tutors to Improve Student Learning Outcomes in Dialogues

发表时间: 2025年3月(最新版:2025年7月)
会议: AIED 2025
作者: Alexander Scarlatos, Naiming Liu, Jaewook Lee, Richard Baraniuk, Andrew Lan

核心贡献

  • 使用DPO训练Llama 3.1 8B模型
  • 通过学生模拟预测学生正确率
  • 同时优化学习成果和教学质量

链接:

  • arXiv: https://arxiv.org/abs/2503.06424
  • PDF: https://arxiv.org/pdf/2503.06424
  • HTML: https://arxiv.org/html/2503.06424
  • GitHub代码: https://github.com/umass-ml4ed/tutorbot-dpo

2. From Problem-Solving to Teaching Problem-Solving: Aligning LLMs with Pedagogy using Reinforcement Learning

发表时间: 2025年5月(最新版:2025年10月)
作者: David Dinucu-Jianu, Jakub Macina, Nico Daheim, Ido Hakimi, Iryna Gurevych, Mrinmaya Sachan

核心贡献

  • 在线强化学习框架
  • 使用合成学生-导师互动数据
  • 7B模型达到LearnLM性能
  • 可控奖励权重平衡教学质量和学生解题准确率

链接:

  • arXiv: https://arxiv.org/abs/2505.15607
  • PDF: https://arxiv.org/pdf/2505.15607
  • HTML: https://arxiv.org/html/2505.15607

3. Efficient RL for Optimizing Conversation Level Outcomes

发表时间: 2025年7月
arXiv编号: 2507.16252

核心贡献

  • 用低维潜在状态表示对话历史
  • 优化长期策略
  • 比端到端训练更轻量级

链接:

  • arXiv: https://arxiv.org/abs/2507.16252

4. Accelerating RL Algorithms Convergence using LLMs as Tutors

发表时间: 2025年9月
arXiv编号: 2509.08329

核心贡献

  • 使用LLM作为导师加速RL收敛
  • 提升训练效率

链接:

  • arXiv: https://arxiv.org/abs/2509.08329

二、偏好优化方法论文

5. A Survey of Direct Preference Optimization

发表时间: 2025年3月
arXiv编号: 2503.11701

核心贡献

  • DPO方法的全面综述
  • 比较不同变体的优缺点

链接:

  • arXiv: https://arxiv.org/abs/2503.11701

6. ADPO: Anchored Direct Preference Optimization

发表时间: 2025年10月
arXiv编号: 2510.18913

核心贡献

  • 扩展偏好学习到软列表式监督
  • 在噪声环境下性能提升12-93%
  • 蒸馏效率提升4-49倍

链接:

  • arXiv: https://arxiv.org/abs/2510.18913

7. Pre-DPO: Improving Data Utilization in Direct Preference Optimization

发表时间: 2025年4月
arXiv编号: 2504.15843

核心贡献

  • 使用引导参考模型
  • 自适应数据重新加权
  • AlpacaEval 2提升2.5分,Arena-Hard提升2.6分

链接:

  • arXiv: https://arxiv.org/abs/2504.15843

8. Improving Generative AI Student Feedback with Direct Preference Optimization

发表时间: 2025年
会议: EDM 2025 (Educational Data Mining)

核心贡献

  • 教师在循环中选择更好的反馈
  • 系统随时间演化
  • 盲测中显著优于GPT-4o

链接:

  • 会议网站: https://educationaldatamining.org/edm2025/

三、知识追踪与个性化论文

9. TutorLLM: Customizing Learning Recommendations with Knowledge Tracing and Retrieval-Augmented Generation

发表时间: 2025年1月(2025年4月更新)
作者: Zhaoxing Li, Vahid Yazdanpanah, Jindi Wang, Wen Gu, Lei Shi, Alexandra I. Cristea, Sarah Kiden, Sebastian Stein

核心贡献

  • 结合知识追踪(KT)和检索增强生成(RAG)
  • 使用MLFBK模型
  • 用户满意度提升10%,测验分数提高5%

链接:

  • arXiv: https://arxiv.org/abs/2502.15709
  • PDF: https://arxiv.org/pdf/2502.15709
  • HTML: https://arxiv.org/html/2502.15709

10. LLM-driven Dual-channel Difficulty-aware Knowledge Tracing (DDKT)

发表时间: 2025年2月
arXiv编号: 2502.19915

核心贡献

  • 利用LLM和RAG进行主观难度评估
  • 难度平衡感知序列(DBPS)
  • 难度掌握比率(DMR)
  • AUC指标提升2%-10%

链接:

  • arXiv: https://arxiv.org/abs/2502.19915
  • PDF: https://arxiv.org/pdf/2502.19915

11. LPITutor: LLM-based Personalized Intelligent Tutoring System

发表时间: 2025年8月
期刊: PeerJ Computer Science

核心贡献

  • 学习者感知的提示工程
  • 动态构建上下文敏感提示
  • 可追溯的文档引用

链接:

  • 期刊网站: https://peerj.com/computer-science/

12. Building Knowledge from Interactions: Knowledge Graph Enhanced LLM-based Explainable Tutoring System

发表时间: 2025年4月
arXiv编号: 2504.01588

核心贡献

  • 知识图谱增强的可解释性
  • 跨交互的泛化和个性化

链接:

  • arXiv: https://arxiv.org/abs/2504.01588

四、学生模拟论文

13. EduDial: A Large-scale Multi-turn Educational Dialogue Dataset

发表时间: 2025年10月
arXiv编号: 2510.12899

核心贡献

  • 五阶段教学框架
  • 多认知层次的学生模型
  • 一个教师和三个不同认知水平的学生模型

链接:

  • arXiv: https://arxiv.org/abs/2510.12899

14. Personality-aware Student Simulation for Conversational Intelligent Tutoring Systems

发表时间: 2024年4月(2025年更新)
arXiv编号: 2404.06762

核心贡献

  • 考虑大五人格特质
  • 追踪语言能力和学习进度
  • 生成更真实的学生响应

链接:

  • arXiv: https://arxiv.org/abs/2404.06762

15. Exploring LLMs for Predicting Tutor Strategy and Student Outcomes in Math Tutoring Dialogues

发表时间: 2025年7月
arXiv编号: 2507.06910

核心贡献

  • 预测导师策略(探究、聚焦、告知、通用)
  • 预测学生成果(对话级和轮次级)
  • 导师动作标签提高Llama 3性能

链接:

  • arXiv: https://arxiv.org/abs/2507.06910

16. Simulating LLM-to-LLM Tutoring for Multilingual Math Feedback

发表时间: 2025年6月
arXiv编号: 2506.04920

核心贡献

  • 大规模多语言导师-学生互动模拟
  • 强模型扮演导师,弱模型模拟学生
  • 352个实验设置

链接:

  • arXiv: https://arxiv.org/abs/2506.04920
  • HTML: https://arxiv.org/html/2506.04920

五、综合框架与综述

17. LLM Agents for Education: Advances and Applications

发表时间: 2025年3月
arXiv编号: 2503.11733

核心贡献

  • 教育LLM agents的系统性综述
  • 教学agents vs 领域特定教育agents
  • 知识追踪、错误检测与纠正

链接:

  • arXiv: https://arxiv.org/abs/2503.11733
  • PDF: https://arxiv.org/pdf/2503.11733

18. AI-Powered Educational Agents: Opportunities, Innovations, and Ethical Challenges

发表时间: 2025年5月

核心贡献

  • 2023-2025年间82篇研究的系统文献综述
  • 涵盖辅导系统、评估反馈、课程设计等六个方面
  • 伦理考虑

链接:

  • 待补充(期刊论文)

19. Retrieval-augmented Generation for Educational Application: A Systematic Survey

发表时间: 2025年5月
期刊: Computer Applications in Engineering Education

核心贡献

  • RAG在教育场景的综合综述
  • 51项研究的综合分析
  • 交互式学习系统、内容生成与评估

链接:

  • ScienceDirect: https://www.sciencedirect.com/science/article/pii/S2666920X25000578

六、应用场景论文

20. Stitch: Step-by-step LLM Guided Tutoring for Scratch Programming

发表时间: 2025年10月
arXiv编号: 2510.26634

核心贡献

  • 专为Scratch编程设计
  • 逐步脚手架式指导
  • 显著提升学习效果

链接:

  • arXiv: https://arxiv.org/abs/2510.26634

21. TeachLM: Post-Training LLMs for Education Using Authentic Learning Data

发表时间: 2025年10月
arXiv编号: 2510.05087

核心贡献

  • 基于10万小时真实学生-导师互动数据
  • 参数高效微调
  • 学生对话时间增加一倍,轮次增加50%

链接:

  • arXiv: https://arxiv.org/abs/2510.05087

22. Playing Dumb to Get Smart: Creating and Evaluating an LLM-based Teachable Agent

发表时间: 2025年
会议: CHI 2025

核心贡献

  • MatlabTutee系统
  • LLM"装傻"扮演学习者
  • 119名学生四个实验评估

链接:

  • CHI 2025会议网站: https://chi2025.acm.org/

23. Exploring Communication Strategies for Collaborative LLM Agents in Mathematical Problem-Solving

发表时间: 2025年
会议: AIED 2025(2025年7月22-26日,意大利巴勒莫)

核心贡献

  • 四种多agent通信模式
  • 同伴协作模式准确率最高
  • 师生互动、互惠同伴教学、批判性辩论

链接:

  • AIED 2025会议网站: https://aied2025.org/

24. Position: LLMs Can be Good Tutors in Foreign Language Education

发表时间: 2025年2月
arXiv编号: 2502.05467

核心贡献

  • LLM在外语教育中的三个角色
  • 数据增强器、任务预测器、个性化教学agents

链接:

  • arXiv: https://arxiv.org/abs/2502.05467

25. LLM Intelligent Agent Tutoring in Higher Education Courses Using a RAG Approach

发表时间: 2025年3月
出版社: Springer会议论文集

核心贡献

  • RAG方法在高等教育中的应用
  • 准确、情境相关的个性化帮助

链接:

  • Springer网站: https://link.springer.com/

26. Towards the Pedagogical Steering of LLMs for Tutoring: A Case Study with Modeling Productive Failure

发表时间: 2024年10月(仍在2025年相关研究中引用)
arXiv编号: 2410.03781

核心贡献

  • StratL算法实现教学策略引导
  • 生产性失败(Productive Failure)教学设计
  • 新加坡17名高中生实地研究

链接:

  • arXiv: https://arxiv.org/abs/2410.03781
  • HTML: https://arxiv.org/html/2410.03781
  • GitHub(问题集): https://github.com/eth-lre/Productive-Failure-Problems
  • GitHub(代码): https://github.com/RomainPuech/StratL-Pedagogical-Steering-of-LLMs-for-Tutoring

七、评估与分析论文

27. Beyond Final Answers: Evaluating LLMs for Math Tutoring

发表时间: 2025年2月
arXiv编号: 2503.16460

核心贡献

  • 评估LLM在数学辅导中的正确性和质量
  • 使用智能辅导系统作为测试平台
  • 人类评估者扮演学生角色

链接:

  • arXiv: https://arxiv.org/abs/2503.16460
  • HTML: https://arxiv.org/html/2503.16460

28. Decomposing Elements of Problem Solving: What “Math” Does RL Teach?

发表时间: 2025年5月
arXiv编号: 2505.22756

核心贡献

  • 将问题解决分解为Plan、Execute、Verify
  • 发现GRPO主要增强执行技能
  • 识别"覆盖墙"现象

链接:

  • arXiv: https://arxiv.org/abs/2505.22756
  • HTML: https://arxiv.org/html/2505.22756

29. Exploring the Potential of LLM to Enhance Teaching Plans through Teaching Simulation

发表时间: 2025年2月
期刊: npj Science of Learning

核心贡献

  • 通过LLM模拟完整课堂教学过程
  • 改进后的教学计划达到或超过经验教师水平

链接:

  • Nature网站: https://www.nature.com/npjscilearn/

八、相关资源

30. GitHub资源库: Awesome AI LLM for Education

维护: GeminiLight

内容

  • 收录WWW 2025、IJCAI 2025、CHI 2025等顶会论文
  • 大量LLM在教育领域应用的论文

链接:

  • GitHub: https://github.com/GeminiLight/awesome-ai-llm4education

31. KnowTrace: Bootstrapping Iterative RAG with Structured Knowledge Tracing

发表时间: 2025年5月
arXiv编号: 2505.20245

核心贡献

  • 自启动框架缓解上下文过载
  • 知识图谱扩展方法
  • 提升多步推理质量

链接:

  • arXiv: https://arxiv.org/abs/2505.20245
  • HTML: https://arxiv.org/html/2505.20245

32. Knowledge Graph-Guided Retrieval Augmented Generation (KG²RAG)

发表时间: 2025年2月
arXiv编号: 2502.06864

核心贡献

  • 利用知识图谱提供事实级关系
  • KG引导的块扩展和组织过程
  • HotpotQA数据集实验

链接:

  • arXiv: https://arxiv.org/abs/2502.06864
  • HTML: https://arxiv.org/html/2502.06864
  • GitHub: https://github.com/nju-websoft/KG2RAG

九、按主题分类快速索引

🎯 强化学习与DPO

  • [1] Training LLM-based Tutors (2503.06424)
  • [2] From Problem-Solving to Teaching (2505.15607)
  • [3] Efficient RL for Conversation (2507.16252)
  • [5] Survey of DPO (2503.11701)
  • [6] ADPO (2510.18913)
  • [7] Pre-DPO (2504.15843)
  • [8] Improving Feedback with DPO (EDM 2025)

📊 知识追踪

  • [9] TutorLLM (2502.15709)
  • [10] DDKT (2502.19915)
  • [11] LPITutor (PeerJ CS)
  • [31] KnowTrace (2505.20245)

👥 学生模拟

  • [13] EduDial (2510.12899)
  • [14] Personality-aware Simulation (2404.06762)
  • [15] Predicting Tutor Strategy (2507.06910)
  • [16] Multilingual Tutoring Simulation (2506.04920)

🔍 RAG应用

  • [9] TutorLLM (2502.15709)
  • [19] RAG Survey (ScienceDirect)
  • [25] RAG in Higher Education (Springer)
  • [31] KnowTrace (2505.20245)
  • [32] KG²RAG (2502.06864)

💻 编程教育

  • [20] Stitch for Scratch (2510.26634)
  • [22] MatlabTutee (CHI 2025)

🌐 外语教育

  • [24] LLMs for Foreign Language (2502.05467)
  • [16] Multilingual Math Tutoring (2506.04920)

📐 数学教育

  • [23] Communication Strategies (AIED 2025)
  • [27] Beyond Final Answers (2503.16460)
  • [15] Predicting Outcomes (2507.06910)

📚 综述与理论

  • [17] LLM Agents Survey (2503.11733)
  • [18] AI Educational Agents (2025年5月)
  • [19] RAG Survey (ScienceDirect)
  • [5] DPO Survey (2503.11701)

十、如何获取论文

arXiv论文

  1. 直接访问: 点击上面的arXiv链接
  2. PDF下载: 在arXiv页面点击"PDF"按钮
  3. HTML版本: 点击"HTML (experimental)"查看交互式版本
  4. 引用信息: 点击"Export BibTeX Citation"获取引用

会议论文

  • AIED 2025: https://aied2025.org/
  • CHI 2025: https://chi2025.acm.org/
  • EDM 2025: https://educationaldatamining.org/edm2025/

期刊论文

  • PeerJ Computer Science: https://peerj.com/computer-science/
  • npj Science of Learning: https://www.nature.com/npjscilearn/
  • Computer Applications in Engineering Education: ScienceDirect

GitHub资源

大多数论文都提供了GitHub仓库,包含代码、数据集和实验结果。


十一、推荐阅读顺序

入门级(理解基础概念)

  1. [17] LLM Agents Survey - 了解整体框架
  2. [5] DPO Survey - 理解核心训练方法
  3. [19] RAG Survey - 掌握检索增强技术

进阶级(深入技术细节)

  1. [1] Training LLM-based Tutors - DPO实战
  2. [2] From Problem-Solving to Teaching - 在线RL
  3. [9] TutorLLM - KT与RAG结合

高级级(前沿研究方向)

  1. [6] ADPO - 最新DPO变体
  2. [13] EduDial - 多认知层次模拟
  3. [31] KnowTrace - 知识图谱扩展

应用级(实际部署)

  1. [20] Stitch - 编程教育应用
  2. [21] TeachLM - 真实数据训练
  3. [25] RAG in Higher Education - 高等教育部署

最后更新: 2025年11月19日
论文总数: 32篇
涵盖会议: AIED 2025, CHI 2025, EDM 2025等
主要来源: arXiv, Nature, Springer, ACM等

备注: 部分2025年会议论文可能尚未公开完整版本,建议定期访问会议官网获取最新信息。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐