新功能上线:Gemini 1.5 Pro 2M上下文窗口、代码执行能力和Gemma 2

在当今快速发展的人工智能领域,开发者们对更强大、更高效的工具需求日益增加。为了满足这一需求,Google Developers Blog近日宣布了一系列令人激动的新功能:Gemini 1.5 Pro的2百万上下文窗口、在Gemini API中的代码执行能力以及在Google AI Studio中的Gemma 2。本文将详细介绍这些新功能及其潜在应用。

超长上下文窗口的开放:2百万Token

在今年的I/O大会上,我们首次宣布了Gemini 1.5 Pro的2百万token上下文窗口,这一功能曾处于候补名单中。现在,所有开发者都可以使用这一超长的上下文窗口。随着上下文窗口的增加,输入成本也随之增加。为了帮助开发者降低使用相同token的多次任务成本,我们在Gemini API中推出了上下文缓存功能,适用于Gemini 1.5 Pro和1.5 Flash版本。

上下文缓存的优势

上下文缓存功能允许开发者在多次提示中重复使用相同的token,显著降低了输入成本。尤其是在处理大型文本或数据集时,这一功能将带来极大的便利。例如,处理法律文档或大型报告时,开发者可以将常见的上下文信息缓存,从而减少每次处理的重复工作和成本。

代码执行能力:突破数据推理瓶颈

大语言模型(LLM)在数学或数据推理问题上一直表现欠佳。为了解决这一问

你可能感兴趣的:(AGI通用人工智能,人工智能)