初学Spring AI 笔记

目录

1. Spring AI 简介
2. 依赖与环境配置
3. 基础概念
4. 集成 OpenAI（或其他 LLM 提供商）
5. Prompt 模板引擎
6. Embedding 与向量数据库
7. Spring AI Chat Client 使用
8. Spring AI 和 LangChain 对比
9. 常见问题与建议

---

Spring AI 简介

Spring AI 是 Spring 团队推出的人工智能集成框架，旨在简化 AI 模型（如 OpenAI、Hugging Face、Mistral、Azure OpenAI）与 Spring 应用的结合。

核心特性：

• 支持多种 LLM（OpenAI、Azure、Ollama、HuggingFace 等）
• Prompt 模板支持
• Embedding 和向量数据库支持
• 与 Spring Boot 无缝集成

---

依赖与环境配置

Maven 依赖示例（以 OpenAI 为例）

<dependency>
  <groupId>org.springframework.aigroupId>
  <artifactId>spring-ai-openai-spring-boot-starterartifactId>
  <version>0.8.1version>
dependency>

配置 application.yml

spring:
  ai:
    openai:
      api-key: ${OPENAI_API_KEY}
      base-url: https://api.openai.com/v1/
      chat:
        model: gpt-3.5-turbo

---

基础概念

概念	说明
LLM Client	连接大型语言模型的客户端封装
Prompt	提示语模板，用于格式化输入
Embedding	文本向量化表示，用于检索和相似度匹配
Vector Store	向量数据库（如 Redis、Pinecone、Chroma）
RAG	检索增强生成，结合检索与 LLM 生成回答

---

集成 OpenAI（或其他 LLM 提供商）

@Autowired
private OpenAiChatClient chatClient;

public void askModel() {
    String result = chatClient.call("用一句话描述Spring AI");
    System.out.println(result);
}

如果使用 Prompt 模板：

@Autowired
private PromptTemplate promptTemplate;

public void promptWithTemplate() {
    Map<String, Object> params = Map.of("topic", "Spring AI", "style", "简洁");
    Prompt prompt = promptTemplate.createPrompt(params);
    System.out.println(chatClient.call(prompt));
}

---

Prompt 模板引擎

支持多种风格（SpEL、Mustache、Handlebars 等）

示例：

src/main/resources/prompts/summary.st

用{{style}}的方式总结 {{topic}} 的核心内容。

PromptTemplate promptTemplate = new PromptTemplate(ResourcePromptTemplateLoader.fromClasspath("prompts/summary.st"));
Prompt prompt = promptTemplate.createPrompt(Map.of("style", "简洁", "topic", "Spring AI"));

---

Embedding 与向量数据库

Spring AI 提供标准接口对接向量数据库（如 Redis, Chroma, Milvus 等）

依赖添加（示例以 Chroma 为例）：

<dependency>
  <groupId>org.springframework.aigroupId>
  <artifactId>spring-ai-chroma-storeartifactId>
dependency>

示例配置：

spring:
  ai:
    embedding:
      model: text-embedding-ada-002

代码使用：

@Autowired
EmbeddingClient embeddingClient;

EmbeddingRequest request = new EmbeddingRequest(List.of("Spring AI 是什么？"));
EmbeddingResponse response = embeddingClient.embed(request);

List<Float> vector = response.getResult().get(0).getEmbedding();

---

Spring AI Chat Client 使用

@Autowired
ChatClient chatClient;

public void chat() {
    String response = chatClient.prompt()
        .user("介绍一下 Spring AI")
        .call()
        .content();
    System.out.println(response);
}

增强调用（上下文、多轮对话）

ChatResponse res = chatClient.prompt()
    .system("你是一个Java专家")
    .user("Spring AI 有什么优势？")
    .call();

System.out.println(res.getResult().getOutput().getContent());

---

Spring AI 和 LangChain 对比

项目	Spring AI	LangChain
开发语言	Java / Kotlin	Python
上手难度	简单，Spring Boot 原生集成	中等，需要了解链式结构和模块机制
社区支持	Spring 官方维护	开源社区驱动（使用广泛）
功能支持	基础功能完善，正在扩展中	丰富：RAG、Agents、Tool、Chains等
适用场景	Java 企业应用、SpringBoot 项目	原型开发、快速迭代、学术/科研

---

常见问题与建议

Q1: OpenAI API 报错 401 Unauthorized？

• 确保配置了正确的 api-key
• 检查网络是否能访问 https://api.openai.com

Q2: 如何替换模型？

• 修改 application.yml 的 model 名称，如 gpt-4, gpt-3.5-turbo

Q3: 如何引入 Prompt 模板？

• 使用 @PromptTemplate 注解，或 ResourcePromptTemplateLoader 手动加载

---

推荐链接

• Spring AI 官方文档
• GitHub - spring-projects/spring-ai
• OpenAI API 文档
• Chroma 向量数据库