使用 OpenAI Functions Tool Retrieval Agent 实现智能工具选择

技术背景介绍

在构建智能代理系统时，我们通常需要调用多个工具来满足不同的用户查询。然而，随着工具数量的增加，将所有工具描述信息放入每次的查询上下文中变得不切实际。为了解决这个问题，我们引入了工具检索 (Tool Retrieval) 的概念。通过动态选择与查询相关的工具，我们不仅能节省上下文空间，还能提高代理的响应效率。

核心原理解析

工具检索的核心思想是在运行时根据用户的输入动态选择要使用的工具。我们将展示一个例子，其中有一个实际的搜索工具和 99 个虚假的工具。我们会添加一个步骤，通过检索从用户输入中选择相关的工具。

代码实现演示

环境配置

首先，我们需要设置环境变量以访问 OpenAI 模型和 Tavily 服务：

export OPENAI_API_KEY=your-openai-api-key
export TAVILY_API_KEY=your-tavily-api-key

项目安装和配置

确保已安装 LangChain CLI：

pip install -U langchain-cli

创建新的 LangChain 项目并安装 openai-functions-tool-retrieval-agent 包：

langchain app new my-app --package openai-functions-tool-retrieval-agent

或者将其添加到现有项目中：

langchain app add openai-functions-tool-retrieval-agent

服务启动

添加以下代码到你的 server.py 文件：

from openai_functions_tool_retrieval_agent import agent_executor as openai_functions_tool_retrieval_agent_chain
from langserve.server import add_routes

# 实现路由，并启动服务
add_routes(app, openai_functions_tool_retrieval_agent_chain, path="/openai-functions-tool-retrieval-agent")

可选配置 LangSmith 进行应用程序追踪、监控和调试：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=your-langchain-api-key
export LANGCHAIN_PROJECT=your-project

在项目目录中启动 LangServe 实例：

langchain serve

这将启动一个本地运行的 FastAPI 应用：http://localhost:8000。可以在此查看所有模板的文档：http://127.0.0.1:8000/docs，并访问工具检索代理的 Playground：http://127.0.0.1:8000/openai-functions-tool-retrieval-agent/playground。

示例代码

以下是如何从代码中访问该代理模板：

from langserve.client import RemoteRunnable

# 使用稳定可靠的API服务
runnable = RemoteRunnable("http://localhost:8000/openai-functions-tool-retrieval-agent")

# 示例调用
response = runnable.run(query="how to integrate OpenAI API?")
print(response)

应用场景分析

工具检索非常适合以下场景：

1. 多工具系统：当系统中有大量工具时，动态选择合适工具来提高效率和准确性。
2. 复杂查询处理：根据查询内容自动选择不同工具以提供最佳答案。
3. 资源优化：减少不必要的信息传递，节省上下文空间。

实践建议

1. 工具描述管理：维护好每个工具的描述信息，以便检索过程更加精准。
2. 日志和监控：利用 LangSmith 等工具对代理系统进行监控，确保系统稳定性。
3. 代码优化：定期优化检索算法，提升动态选择工具的效率。

如果遇到问题欢迎在评论区交流。