python openai 关于会话管理问题(一)

目录

一、会话长度

二、会话保持

三、上下文窗口管理

1、对话中token使用

2、截断策略

3、消息注释


一、会话长度

线程和消息表示助手和用户之间的会话会话。每个线程的消息限制为100,000条。一旦消息的大小超过了模型的上下文窗口,线程将尝试聪明地截断消息,然后再完全删除它认为最不重要的消息。

二、会话保持

thread = client.beta.threads.create(
  messages=[
    {
      "role": "user",
      "content": "Create 3 data visualizations based on the trends in this file.",
      "attachments": [
        {
          "file_id": file.id,
          "tools": [{"type": "code_interpreter"}]
        }
      ]
    }
  ]
)

消息可以包含文本、图像或文件附件。消息附件是将文件添加到线程的tool_resources方法。您还可以选择向线程添加文件,直

你可能感兴趣的:(AI,大语言模型实战,python,ai)