大模型架构记录7-langchain

一  Langchain的应用

目录：

1. langchain的overview
2. prompt template
3. models and output parsers

1. 什么是langchain, 为什么需要langchain?

• 问题：如何没有langchain会怎么样？

一个项目可能会包括：

• 调用多个不同的大模型（gpt4, 视频生成...)
• 向量数据库
• 数据类型（读取，trunk的切分...)

• langchain是面于大模型开发的框架（framework）
• langchain发展很快，讲解课程时候的版本为 0.1.7，具体的语法和接口标准可能会随时改变，请留意官网的documentation

Langchain的核心组件

• 模型 I/O 封装:  包括大语言模型（LLMs），Chat Models，Prompt Template，Output parser等
• Retrieval:  包括文档的loader，embedding模型，Text Splitter, 向量存储，检索等
• Chain:  实现一个功能或者一系列功能（sequentially)
• Agent:  给定用户的输入，以及可使用的tools，自动规划执行步骤（比如每个步骤调用哪些tool），并最终完成用户指令
• 记忆:  模型记忆里的管理

langchain部分的安排

1. langchain (1) - Langchain的overview，模型I/O封装
2. langchain (2) - Retrieval组件, Chain组件，Agent组件，记忆里模块
3. langchain (3) - 进阶RAG+langchain
4. langchain (4) - Agent
5. langchain (5) - 经典Agent开源项目剖析
6. langchain (6) - Agent的经典案例分享