第3章 开源大模型框架概览3.3 模型转换框架与工具3.3.1 ONNX:跨框架模型转换

第3章 开源大模型框架概览3.3 模型转换框架与工具3.3.1 ONNX:跨框架模型转换_第1张图片

https://aurigait.com/blog/onnx-onnx-runtime-and-tensortrt/

1.背景介绍

1. 背景介绍

开源大模型框架已经成为机器学习和深度学习领域的重要组成部分。这些框架为研究人员和工程师提供了强大的工具,以便更快地构建、训练和部署深度学习模型。在这个系列文章中,我们将深入探讨一些最受欢迎的开源大模型框架,并探讨它们在实际应用中的优势和局限性。

在本章中,我们将关注 ONNX(Open Neural Network Exchange),一个跨框架模型转换平台。ONNX 旨在提供一个标准格式,以便不同框架之间的模型可以相互转换和兼容。这种跨框架兼容性有助于研究人员和工程师更轻松地共享模型、协作开发和部署。

2. 核心概念与联系

ONNX 是一个由 Facebook、Microsoft、Amazon Web Services、Google 和其他公司共同开

你可能感兴趣的:(计算,大数据,人工智能,语言模型,AI,LLM,Java,Python,架构设计,Agent,RPA)