快速入门 AWS Bedrock Chat 模型的使用

在今天的文章中，我们将深入探讨如何在 AWS 的支持下使用 Bedrock Chat 模型。Amazon Bedrock 是一项完全托管的服务，可以通过单一 API 从多个领先的 AI 公司（如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon）访问高性能的基础模型。这项服务提供了构建生成型 AI 应用所需的广泛功能，确保安全、隐私和负责任的 AI 实践。通过 Bedrock，用户可以轻松地尝试和评估适合他们用例的顶级模型，使用自己的数据进行定制，并构建能够使用企业系统和数据源执行任务的智能体。Bedrock 是无服务器架构，这意味着你无需管理任何基础设施，可以安全地将生成型 AI 功能集成到你熟悉的 AWS 服务中。

核心原理解析

Amazon Bedrock 提供了一种简化的方式来利用多种领先 AI 模型。通过统一的 API 接口，它允许开发者在 AWS 环境中轻松地调用和使用这些模型，而无需担心底层的管理和扩展问题。这种方式极大地降低了 AI 应用的开发门槛。

代码实现演示

下面我们通过一个实用的代码示例来展示如何使用 LangChain 集成包来调用和使用 Bedrock 模型。

安装

首先，我们需要安装 langchain-aws 集成包：

%pip install -qU langchain-aws

实例化和调用

我们将实例化一个 ChatBedrock 对象并进行对话生成：

from langchain_aws import ChatBedrock

# 实例化模型，设置参数
llm = ChatBedrock(
    model_id="anthropic.claude-3-sonnet-20240229-v1:0",
    model_kwargs=dict(temperature=0),
)

# 定义消息内容
messages = [
    (
        "system",
        "You are a helpful assistant that translates English to French. Translate the user sentence.",
    ),
    ("human", "I love programming."),
]

# 调用模型进行对话生成
ai_msg = llm.invoke(messages)

# 输出生成内容
print(ai_msg.content)

链接使用

通过利用 LangChain 的 PromptTemplate，我们可以更灵活地与模型交互：

from langchain_core.prompts import ChatPromptTemplate

# 创建Prompt模板
prompt = ChatPromptTemplate.from_messages(
    [
        (
            "system",
            "You are a helpful assistant that translates {input_language} to {output_language}.",
        ),
        ("human", "{input}"),
    ]
)

# 链接模型
chain = prompt | llm

# 运行链
result = chain.invoke({
    "input_language": "English",
    "output_language": "German",
    "input": "I love programming."
})

# 打印结果
print(result.content)

应用场景分析

使用 AWS Bedrock，企业能够更好地实现以下应用场景：

• 多语言客服支持：利用 Bedrock 模型自动翻译客户询问。
• 内容创作：利用生成型模型自动撰写或校对文本。
• 数据分析：生成性 AI 可以通过自然语言与数据进行交互分析。

实践建议

在使用 AWS Bedrock 模型时，务必确保：

• 了解并遵循模型使用的合规性和隐私政策。
• 选择合适的模型参数（如温度、最大 token 数量）来满足具体应用需求。
• 在生产环境中监控模型的性能和响应，以便及时进行调整和优化。

如果遇到问题欢迎在评论区交流。

—END—