【AI大模型应用开发】从CoT到ToT,再到ReAct,提升大模型推理能力的方式探索(含代码)

大家好,我是 同学小张,持续学习C++进阶知识AI大模型应用实战案例,持续分享,欢迎大家点赞+关注,共同学习和进步。


今天我们主要学习下当下提高大模型推理能力的几个主要技术,从CoT(Chain of Thought)到TOT(Tree of Thought),再到ReAct。从概念到实现代码框架,一点点去理解这些思想背后的原理。

文章目录

  • 1. CoT(Chain of Thought,思维链)
    • 1.1 基本使用
    • 1.2 Self-consistency with CoT(CoT的自我一致性)
  • 2. ToT(Tree of Thought,思维树)
    • 2.1 案例
      • 2.1.1 示例代码
      • 2.1.2 代码解释
      • 2.1.3 总结
  • 3. ReAct(Reason + Action)
    • 3.1 各开源框架中 ReAct 实现方法详解
    • 3.2 ReAct 与 CoT、ToT 的区别
  • 4. 总结

1. CoT(Chain of Thought,思维链)

第一次接触到CoT是在Prompt工程中,其作为Prompt高级技巧的一部分,可以显著提高大模型在推理方面的能力,尤其是解决数学等具有逻辑性的问题时。

区别于传统的 Prompt 从输入直接到输出的映射 output> 的方式,CoT 完成了从输入到思维链再到输出的映射,即 reasoning chain——>output>

你可能感兴趣的:(大模型,人工智能,AIGC,笔记,思维链,思维树,ReAct,gpt)