Spring AI相关

Spring AI相关

目前大环境下，AI特别火热，作为一名JAVA开发者，也需要了解一下AI的相关知识。本文介绍SpringAI的一些相关知识。

Spring AI 简介

Spring AI 是 Spring 团队推出的一个用于简化 AI 应用开发的框架，支持多种 AI 服务商（如 OpenAI、Azure OpenAI、Hugging Face、Bedrock 等），并提供统一的 API 进行交互。官网：https://docs.spring.io/spring-ai/reference/

Spring AI 主要包括以下核心功能：

• 模型推理（Inference）：支持文本、图像等多种 AI 任务。
• 聊天接口（Chat API）：封装 LLM（大型语言模型）聊天能力。
• Embedding 支持：适用于向量数据库（如 Pinecone、Weaviate）。
• 代理模式（Agents）：用于构建复杂的 AI 交互。

Spring AI 入门

Spring AI supports Spring Boot 3.2.x and 3.3.x

引入依赖，这里用的百度的千帆大模型，Spring Boot版本3.3.7 jdk版本 17

        
        <dependency>
            <groupId>org.springframework.aigroupId>
            <artifactId>spring-ai-qianfan-spring-boot-starterartifactId>
            <version>${spring-ai-version}version>
        dependency>

配置文件，配置千帆大模型的api-key

server.port=8666
spring.ai.qianfan.api-key=key...
spring.ai.qianfan.secret-key=key...

使用千帆大模型

@RestController
@RequestMapping("/chat")
public class ChatController {
   

    private final QianFanChatModel chatModel;

    @Autowired
    public ChatController(QianFanChatModel chatModel) {
   
        this.chatModel = chatModel;
    }

    @GetMapping("/ai/generate")
    public String generate(@RequestParam(value = "message", defaultValue = "你好") String message) {
   
        ChatClient chatClient = ChatClient.create(chatModel);
        return chatClient.prompt()
                // 提示词
                .user(message)
                .call()
                .content();
    }
}    

测试返回

http://localhost:8666/chat/ai/generate

流式返回

@GetMapping(value = "/ai/generateStream",produces =