大模型的几种思维模式

一、 COT、TOT和GOT思维

0. 刚性分类

现在好多提示词不好的原因主要是刚性分类，那什么是刚性分类：
给了LLM一堆严格的定义，并要求它“仅选择一个”。这种方法在输入非常纯净、意图单一时效果尚可，但一旦用户的输入变得模糊、包含复合意图，或者严重依赖上下文，LLM就很容易“选错”。

而大模型更加适合这种思考和推理，所以有了以下的思维方式。

1. COT（Chain of Thought）思维

思维链（CoT）是一种用于设计 prompt 的方法，即 prompt 中除了有任务的输入和输出外，还包含推理的中间步骤（中间思维）。他是一种链式的思维方式，即 按照一定的逻辑顺序，逐步深入地表达观点或解决问题。

主要用于有依赖任务的，例如需要LLM先完成第一步，然后根据第一步的结果处理第二步。这个时候同时也需要将第一步的结果输出。否则大模型可能会偷懒。

应用方式：在项目中的应用，比如在撰写项目报告、策划方案或进行技术讲解时，可以采用 COT 思维。首先明确核心问题，然后按照逻辑顺序，分步骤地阐述问题的背景、分析过程、解决方案以及预期效果。例如，在撰写市场调研报告时，先介绍市场现状，再分析消费者需求，接着提出产品定位策略，最后预测市场反应。

2. TOT（Tree of Thoughts）思维

TOT：一种用树结构解决复杂问题的方法，CoT通常只有一条解决问题的路径，ToT等于是CoT的一个拓展，把一条reasoning路径拓展至多条reasong paths，这样模型可以综合多条reasoning path的结果得到最终的结论。

ToT的一个具体实例化涉及回答四个问题：1.如何将中间过程分解为思维步骤；2.如何从每种状态中产生潜在的thought；3.如何启发式地评估状态；4.使用什么搜索算法。所以ToT就被分为了Thought Decomposition，Thought Generator，State Evaluator，Search algorithms四部分，第一部分是Thought Decompution，这个根据具体问题而定。

第二部分是Thought Generator，给定一个树的状态，我们要从k个候选项中决定下一个step，一般采用采样和投票的方法。State evaluator，给定不同状态的边界，状态评估器评估他们在解决问题方面取得的进展，并作为搜索算法的启发式算法，以确定要继续探索哪些状态以及以何种顺序进行探索，state evaluator有两种，可以是value类型的分类或者打分，另一种就是投票的形式。Search algorithm：ToT框架可以拔插式的使用不同的搜索算法。

举例：Create Writing是给你给定四个句子，然后产生4个paragraph，分别以这4个句子结尾，这样的任务是开放式和探索性的，挑战创造性思维和高层规划，ToT的做法是首先产生k=5个候选的plan，投票选择最佳的passage，基于最佳的plan，产生5个passage，然后选择其中产生的最佳passage，投票的过程是一个zero-shot的过程，例如（analyze choices below, then conclude which is most promising for the instruction）

3. GOT（Graph of Thoughts）思维

Graph of Thoughts（GoT）和其他prompting的策略的比较如上图，可以看到GoT直接构建了一个有向图来解决问题。了解了GoT的核心思想，我们来看一下怎么实现一个GoT的系统，GoT系统结构包含一系列的交互模块，如下图所示，这些模块包括Prompter（为LLM准备消息）、Parser（从LLM的回复中提取信息）、Scoring module（验证LLM回复并对其进行评分）和Controller（协调整个推理过程，并决定如何进行推理）。控制器包含另外两个重要元素：Graph of Operations（GoO）和Graph Reasoning State（GRS）。GoO是一种静态结构，它指定了给定任务的图分解，它规定了应用于LLM思想的转换，以及它们的顺序和依赖关系。GRS是一个动态结构，它保持正在进行的LLM推理过程的状态（其思想及其状态的历史）。图中蓝色部分包含架构概述，绿色部分列出API，示例图如下：

下图红色部分包含示例提示以及GRS和相关操作，具体是归并排序（先把list array，分解成sub array，sort后进行合并）任务的prompt的示例：

4. AOT【Algorithm of Thoughts】思维

AOT：一种用DFS/BFS示例解决问题的方法

上图显示的是LLM解决推理问题的几种方法，绿框表示LLM认为有前景的想法，而红框表示不太有前景的概念。可以看到AoT和ToT的方法的区别是，ToT会对节点进行剪枝，然后推理过程是一个树的结构；AoT利用示例的方式模仿DFS或者BFS，能够激发LLM的能力（论文说在GPT4上有很好的效果，估计对LLM本身的能力要求比较高），得到更好的结果。

大模型高级思维模式（LLM Thinking Paradigms）

背景：告别刚性分类

1. COT (Chain of Thought) 思维：线性推理

核心思想

链式推理（线性、逐步深入）：将复杂任务分解为一系列按逻辑顺序排列的中间步骤，确保每一步的输出都作为下一步的输入。

适用场景

• • 顺序任务： 需要先完成第一步，再根据结果处理第二步的任务。
• • 依赖计算： 多步数学题、复杂公式推导。
• • 逻辑阐述： 项目报告、技术方案的分步骤讲解。

结构与提示词示例

2. TOT (Tree of Thoughts) 思维：树状探索

核心思想

树状探索（多路径、选择最优）：将单条推理路径拓展为多条推理分支，通过评估和搜索机制，在多个潜在的“想法”中选择最佳方案。

适用场景

• • 开放式任务： 创意写作、头脑风暴、战略规划。
• • 探索性问题： 需要多个方案对比、选择最佳路径的复杂决策。

结构与关键组件

ToT 通过以下四个步骤实现树状搜索：

示例 Prompt

请采用 ToT 思维模式，为我们的新产品提出 3 个推广计划，并选出最佳。

1. \1. 生成想法： 提出 Plan A（内容营销）、Plan B（社媒病毒）、Plan C（线下体验）。
2. \2. 评估状态： 根据“用户覆盖度”和“预算可行性”对三个计划进行1~10评分。
3. \3. 深化选择： 选出总分最高的计划，并详细阐述其执行步骤。

3. GOT (Graph of Thoughts) 思维：图状关联

核心思想

图状关联（非线性、灵活合并）：构建一个有向图结构来解决问题，允许思想（节点）之间进行并行处理、灵活的合并、迭代和转换，是比 ToT 更灵活的结构。

适用场景

• • 高度结构化任务： 涉及并行计算、多源信息整合、迭代优化。
• • 复杂算法流程： 如归并排序、多线程任务协调。

结构与系统组件

GoT 不仅是提示词方法，更是一个系统架构，通过以下模块协调推理：

示例 Prompt（系统指令）

将任务分解为 GoT 结构：数据清洗（B） 和 特征提取（C） 必须并行执行；只有当 B 和 C 同时完成后，才能进行 模型训练（D）。

4. AOT (Algorithm of Thoughts) 思维：算法模仿

核心思想

算法模仿（范例驱动搜索）：通过提供明确的、完整的算法执行示例（如 DFS/BFS），引导 LLM 模仿这种特定的搜索和推理逻辑。

适用场景

• • 系统性搜索： 需要穷举或按特定规则移动的搜索/解谜任务。
• • 复杂逻辑谜题： 依赖特定算法路径才能找到答案的问题。

结构与提示词示例

示例 Prompt

请模仿 DFS 算法的逻辑来分析并解决以下谜题：

DFS 范例：

1. \1. 从起点 A 开始，选择最深的路径 A B。
2. \2. 在 B，继续选择最深的路径 B C，失败。
3. \3. 回溯到 B，选择 B 的下一个未探索路径 B D。

请使用这种“一直探索到尽头，失败则回溯”的思维方式来解决： [谜题内容]

最后

选择AI大模型就是选择未来！最近两年，大家都可以看到AI的发展有多快，时代在瞬息万变，我们又为何不给自己多一个选择，多一个出路，多一个可能呢？

与其在传统行业里停滞不前，不如尝试一下新兴行业，而AI大模型恰恰是这两年的大风口，人才需求急为紧迫！

由于文章篇幅有限，在这里我就不一一向大家展示了，学习AI大模型是一项系统工程，需要时间和持续的努力。但随着技术的发展和在线资源的丰富，零基础的小白也有很好的机会逐步学习和掌握。

【2025最新】AI大模型全套学习籽料（可无偿送）：LLM面试题+AI大模型学习路线+大模型PDF书籍+640套AI大模型报告等等，从入门到进阶再到精通，超全面存下吧！

获取方式：有需要的小伙伴，可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
包括：AI大模型学习路线、LLM面试宝典、0基础教学视频、大模型PDF书籍/笔记、大模型实战案例合集、AI产品经理合集等等

AI大模型学习之路，道阻且长，但只要你坚持下去，就一定会有收获。