本文是一篇大模型的入门文章, 通过一个案例来理解大模型是如何使用的。
你向大模型提问 “你是谁?”,然后大模型理解了你说的话,并给出对应的回答。
接下来,使用 API 模拟这个场景。
选用月之暗面的 API 来实现问答。
如图所示,通过一个 API ,完成了智能回复。
如果将这个 API 套一个壳(图形界面),就是我们常见的大模型助手。
于是很多 App、Agent、智能助手,都可以通过这样一个形式的 API 进行套壳落地。
通过上面的介绍,至少对于大模型的使用有了一定的体感。
和大模型的交付形式,抽象成程序,就一个参数,不同的参数,输出的结果是不同的。
列举有哪些大模型,但是输出的形式不同。一个表格,一个markdwon,如下所示:
大模型最终的展现形式,显然和我们的输入表达是紧密相关的。输入表达,在大模型中叫做 prompt。
月之暗面这么定义 Prompt:
对模型的输入也被称为“Prompt”。通常我们建议您提供明确的指令以及给出一些范例,来让模型能够完成既定的任务,设计 Prompt 本质上就是学会如何“训练”模型。moonshot-v1模型可以用于各种任务,包括内容或代码生成、摘要、对话、创意写作等。
市面上诞生了很多 Prompt 工程师。 Prompt 对大模型十分重要。 很多场景的优化,常常是通过 Prompt 的优化来提升效果的。
简单提供入门的两个优化策略。
搭建一个简单的代码案例
第一步:到月之暗面开发平台申请一个 key
platform.moonshot.cn/console/api…
有了这个 key ,就可以调用 API 。(学习阶段,申请一个免费的)
第二步:编写代码
如果熟悉 python ,那么将 key 替换成自己的,一个大模型语义能力通过几行就完成了。(月之暗面提官方提供的代码示例)
from openai import OpenAI
client = OpenAI(
api_key = "$MOONSHOT_API_KEY",
base_url = "https://api.moonshot.cn/v1",
)
completion = client.chat.completions.create(
model = "moonshot-v1-8k",
messages = [
{"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},
{"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}
],
temperature = 0.3,
)
print(completion.choices[0].message.content)
如果使用 Java 代码,则封装一个 httpclient 就可以,或者使用 curl 命令也能实现访问
curl https://api.moonshot.cn/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $MOONSHOT_API_KEY" \
-d '{
"model": "moonshot-v1-8k",
"messages": [
{"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},
{"role": "user", "content": "你好,我叫李雷,1+1等于多少?"}
],
"temperature": 0.3
}'
代码实例就到此结束,感兴趣的自己可以进一步封装。
本从一句话出发,然后引到大模型,算是一个简单的入门。并以月之暗面为例子进行说明。市面上有很多的大模型,都提供了open API,使用方式都相似。
后续会继续输出更多关于大模型相关的文章,本文到此结束,感谢阅读。
如果你对AI大模型入门感兴趣,那么你需要的话可以点击这里大模型重磅福利:入门进阶全套104G学习资源包免费分享!
扫描下方csdn官方合作二维码获取哦!
这是一份大模型从零基础到进阶的学习路线大纲全览,小伙伴们记得点个收藏!
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
学会后的收获:
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
获取方式:
有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】