Java对接豆包等AI大模型的设计方案(一)-- 需求分析

一、背景

接下来几篇文章,我试着从需求分析、概要设计到编程实现等角度,梳理并总结java语言是如何对接豆包等AI大模型。

  • 需求分析
  • 概要设计
  • 编程实现

本文作为对接AI的第一篇文章,先从需求着手,讲一讲在小公司是如何使用AI大模型。

不同的业务在需要问AI的时候,调用ai-assist服务,创建一个聊天会话。

在聊天会话中,支持发送文字及图片,也即多模态上下文。

AI回复的内容需要保存至本地数据库,留待用户回看。

二、业务需求

1、上下文支持多模态
2、支持不同的业务对接
3、支持重复问AI
4、AI在回答的时候,允许客户端提前停止回答
5、每次AI的回复,都需要保存,供用户上下翻页查看

三、技术需求

1、仅限最后一次提问,允许重复问AI
2、自动删除只有提问没有回复的会话明细,这就是空白对话,不展示给用户看
3、同一个人在同一个聊天室,限制问AI的间隔时间不能低于3秒
4、同一个人在同一个聊天室,某个提问其重新提问的次数不能超过5次
5、问AI的接口协议采用sse,不是普通的Http请求,因为返回

你可能感兴趣的:(微服务架构,人工智能,后端,spring,boot,java,ai)