【基于KG的大模型对话系统（fastapi）完整可上手】

以下是一个使用 FastAPI 搭建的基于知识图谱的大模型对话系统的示例代码。该系统包括：

1. FastAPI 服务器：提供 RESTful API。
2. 知识图谱：使用 Neo4j 作为存储和查询引擎。
3. 大模型：利用 OpenAI GPT 进行自然语言处理。
4. 查询解析：将用户输入解析为知识图谱查询，并结合 LLM 生成回答。

主要功能：

1. 解析用户输入：检查用户输入是否包含知识图谱查询内容。
2. 执行 Cypher 查询：如果用户问题涉及知识图谱，向 Neo4j 执行查询。
3. 调用 LLM 处理：结合查询结果与 GPT 生成最终回答。
4. 返回响应：返回 LLM 生成的回答。

部署：

• 运行 Neo4j，并导入相关数据。
• 配置 OpenAI API Key。
• 运行 uvicorn 启动服务：

  uvicorn main:app --reload

• 使用 POST /chat/ 进行对话。

你可以进一步优化 输入解析 和 知识图谱构造，使其更符合你的实际应用场景。

from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
from neo4j import GraphDatabase
import openai

app = FastAPI()

# 配置 OpenAI API Key 和 Neo4j 数据库
oai_api_key = "your_openai_api_key"
neo4j_uri = "bolt://localhost:7687"
neo4j_user = "neo4j"
neo4j_password = "your_password"

# 连接 Neo4j 数据库
class Neo4jConnection:
    def __init__(self, uri, user, password):
        self._driver = GraphDatabase.driver(uri, auth=(user, password))
    
    def close(self):
        self._driver.close()
    
    def query(self, query, parameters=None):
        with self._driver.session() as session:
            return session.run(query, parameters).data()

neo4j_conn = Neo4jConnection(neo4j_uri, neo4j_user, neo4j_password)

# 定义请求模型
class QueryRequest(BaseModel):
    user_input: str

# 提取关键词
def extract_keywords(user_input: str):
    prompt = f"从以下文本中提取关键实体和关系: {user_input}" 
    response = openai.ChatCompletion.create(
        model="gpt-4", messages=[{"role": "user", "content": prompt}], api_key=oai_api_key
    )
    return response["choices"][0]["message"]["content"].split(', ')

# 解析用户输入 -> 知识图谱查询
def parse_input_to_kg_query(user_input: str, top_k=5):
    keywords = extract_keywords(user_input)
    query = (
        "MATCH (e:Entity)-[r]-(related) "
        "WHERE e.name IN $keywords "
        "RETURN e, r, related LIMIT $top_k"
    )
    return query, {"keywords": keywords, "top_k": top_k}

# 生成 LLM 响应
def generate_llm_response(prompt: str):
    response = openai.ChatCompletion.create(
        model="gpt-4", messages=[{"role": "user", "content": prompt}], api_key=oai_api_key
    )
    return response["choices"][0]["message"]["content"]

@app.post("/chat/")
async def chat(request: QueryRequest):
    user_input = request.user_input
    
    # 解析用户输入
    kg_query, params = parse_input_to_kg_query(user_input)
    kg_response = ""
    
    if kg_query:
        result = neo4j_conn.query(kg_query, params)
        kg_response = str(result)
    
    # 结合知识图谱和 LLM 生成最终回答
    final_prompt = f"用户输入: {user_input}\n知识图谱结果: {kg_response}\n请结合以上信息生成自然语言回答。"
    llm_response = generate_llm_response(final_prompt)
    
    return {"response": llm_response}