Python&LLM 第102页

LLM系列 | 11: LangChain危矣？亲测ChatGPT函数调用功能：以天气问答为例

简介春水碧于天，画船听雨眠。小伙伴们好，我是微信公众号《小窗幽记机器学习》的小编：卖五连鞭的小男孩。紧接前面几篇ChatGPTPrompt工程和应用系列文章：04:ChatGPTPrompt编写指南05:如何优化ChatGPTPrompt？06:ChatGPTPrompt实践：文本摘要&推断&转换07:ChatGPTPrompt实践：以智能客服邮件为例08:ChatGPTPrompt实践：如何用C

JasonLiu1919·2023-06-22 13:32

LLM系列 |10: 如何编写思维链Prompt？以智能客服为例

简介黄梅时节家家雨，青草池塘处处蛙。小伙伴们好，我是微信公众号《小窗幽记机器学习》的小编：卖红枣粽的小女孩。紧接前面几篇ChatGPTPrompt工程系列文章：04:ChatGPTPrompt编写指南05:如何优化ChatGPTPrompt？06:ChatGPTPrompt实践：文本摘要&推断&转换07:ChatGPTPrompt实践：以智能客服邮件为例08:ChatGPTPrompt实践：如何用

JasonLiu1919·2023-06-22 13:31

QLORA: Efficient Finetuning of Quantized LLMs大模型论文讲解

紧随其后；QLORA首次提出了量化4bit而没有任何性能的损失，作者提出了一种新的高精度技术来量化预训练模型参数到4bit，并且添加了一个小的可学习的低秩适配权重，他的参数更新通过反向传播梯度量化的权重；为LLM

chenmingwei000·2023-06-22 11:02

ChatCAD: Interactive Computer-Aided Diagnosis on Medical Image using Large Language Models

https://arxiv.org/pdf/2302.07257.pdfchatCAD:融合大规模语言模型LLM的语言理解优点和医学图像辅助诊断CAD识别医学图像信息的特点。

Spielberg_1·2023-06-22 11:01

NLP（五十五）LangChain入门

LangChain简介背景由于ChatGPT的发行，大模型（LargeLanguageModel,LLM）已经变得非常流行了。

山阴少年·2023-06-22 09:41

开源大语言模型是否可以商用的调查报告

开源大语言模型是否可以商用的调查报告0.背景1.调查结果1.1基础大模型(LLM)1.2对话大模型(ChatLLM)1.3多模态对话大模型(MultiModal-ChatLLM)0.背景ChatGPT火起来了

engchina·2023-06-22 08:12

《XrayGLM：基于VisualGLM-6B微调训练对X光胸片进行医学诊断》学习分享与本地项目微调部署实践

官方提供了开源的项目，地址在这里，如下所示：最近，通用领域的大语言模型(LLM)，例如ChatGPT，在遵循指令和产生类似人类响应方面取得了显著的成功，这种成功间接促进了多模态大模型的研究和发展，如通用领域的多模态大模型

Together_CZ·2023-06-22 07:48

实在智能率先拥抱大模型技术，旗下“AI+RPA”系列产品迎来全面智能升级

随着以ChatGPT等为代表的生成式AI持续火热，大型语言模型（LargeLanguageModel,LLM）领域的研发和布局在国内外有目共睹，微软、谷歌、百度系等生成式大模型接连发布和不断升级优化，4

实在智能RPA·2023-06-21 22:00

TVM－MLC LLM 调优方案

本文地址：https://www.cnblogs.com/wanger-sjtu/p/17497249.htmlLLM等GPT大模型大火以后,TVM社区推出了自己的部署方案，支持Llama，Vicuna，Dolly等模型在iOS、Android、GPU、浏览器等平台上部署运行。https://

青铜时代的猪·2023-06-21 22:00

清华发布 KoLA 评测集，分4个认知层级评测LLM，GPT-4竟不是第一？

作者|Python预训练语言模型（PLM）刷GLUE，SuperGLUE，甚是常见；那ChatGPT等大语言模型（LLM）刷什么榜呢？

夕小瑶·2023-06-21 18:58

斯坦福最新LLM排行榜发布！自家Alpaca垫底，华人团队WizardLM开源第一，GPT-4、Claude稳居前二

来源|新智元作者|好困前段时间，UC伯克利主导的「LLM排位赛」备受圈内关注。除了各类开源模型外，还有GPT-4、PaLM2等众多「闭源」模型，甚至还开设了一个「准中文」排行榜。

夕小瑶·2023-06-21 18:58

使用大语言模型集成工具 LangChain 创建自己的论文汇总和查询工具

Langchain可以帮助开发人员构建由大型语言模型(llm)支持的应用程序。它提供一个框架将LLM与其他数据源(如互联网或个人文件)连接起来。

·2023-06-21 17:35

当 MQTT 遇上 ChatGPT：探索可自然交互的物联网智能应用

近期，由OpenAI发布的ChatGPT、GPT-3.5和GPT-4等先进大语言模型（LLM）及其应用在全球范围内迅速普及，为通用人工智能（AGI，ArtificialGeneralIntelligence

·2023-06-21 17:45

LangChain for LLM Application Development 基于LangChain开发大语言应用模型（上）

以下内容均整理来自deeplearning.ai的同名课程Location课程访问地址DLAI-LearningPlatformBeta(deeplearning.ai)一、什么是LangChain1、LangChain介绍LangChain是一个框架，用于开发由大语言模型驱动的应用程序。开发者相信，最强大的、差异化的应用不仅会调用语言模型，而且还会具备以下原则：数据感知：将语言模型与其他数据源连

shanesu·2023-06-21 16:20

Video-LLaMa:利用多模态增强对视频内容理解

Video-LLaMA旨在使LLM能够理解视频中的视觉和听觉内容。论文设计了两个分支，即视觉语言分支和音频语言分支，分别将视频帧和音频信号转换为与llm文本输入兼容的查询表示。video-llama

deephub·2023-06-21 16:53

OpenAI 函数调用功能入门

作者：AI小火箭的HB我是AI小火箭的HB，我探索和写作人工智能和语言交叉点的所有事物，范围从LLM，聊天机器人，语音机器人，开发框架，以数据为中心的潜在空间等。

·2023-06-21 16:26

澳鹏与Reka AI强强联合，构建高质量的多模态LLM应用

ChatGPT等创新应用的崛起让大型语言模型（LLM）实现了突飞猛进的发展。LLM可以助力企业提升运营效率，并为最终用户提供耳目一新的体验。

澳鹏Appen·2023-06-21 14:33

Star History 月度开源精选｜2023 年 4 月

在AICG浪潮的拍打中，我们还是发现了一些有趣的且与ChatGPT/LLM/AI/ML不直接相关的项目，这就来了解一下。

·2023-06-21 12:50

MiniGPT-4原理解读——大模型论文阅读笔记三

我们认为GPT-4具有先进的多模态生成能力的主要原因在于利用了更先进的大型语言模型（LLM）。

CV-deeplearning·2023-06-21 12:41

Video-LLaMa:利用多模态增强对视频内容理解

Video-LLaMA旨在使LLM能够理解视频中的视觉和听觉内容。论文设计了两个分支，即视觉语言分支和音频语言分支，分别将视频帧和音频信号转换为与llm文本输入兼容的查询表示。video-llama

·2023-06-21 10:30

开源开放 | 开源知识图谱抽取工具发布大模型版DeepKE-LLM

DeepKE-LLM链接：https://github.com/zjunlp/DeepKE/tree/main/example/llmOpenKG地址：http://openkg.cn/tool/deepkeGitee

开放知识图谱·2023-06-21 09:28

基于阿里云免费算力自建LLM(类GPT)大模型

目前开源的LLM大模型，要想比较流畅地进行部署体验，离不开GPU算力。本文介绍基于阿里云的机器学习平台PAI来免费体验一些开源大模型。ChatGPT注册申请文章：ChatGPT从注册到自建应用基于

老胡的储物柜·2023-06-21 07:38

开箱即用的ChatGPT替代模型，还可训练自己数据

而数据主权和治理是这些新的LLM服务提供商如何处理商业秘密或敏感信息的首要问题，用户数据已被用于预训练以增强LLM模型能力。

川川菜鸟·2023-06-21 05:07

使用大语言模型集成工具 LangChain 创建自己的论文汇总和查询工具

Langchain可以帮助开发人员构建由大型语言模型(llm)支持的应用程序。它提供一个框架将LLM与其他数据源(如互联网或个人文件)连接起来。

·2023-06-21 02:38

被 ChatGPT 点燃的向量数据库们

向量数据库可以让开发者以向量嵌入的形式处理非结构化数据（两个向量之间的距离代表了它们的关联性），这对于使用和扩展大型语言模型（LLM）尤为

·2023-06-21 02:36

A Survey of Large Language Models

本文是LLM系列的第一篇文章，针对《ASurveyofLargeLanguageModels》的翻译。

UnknownBody·2023-06-21 00:16

Knowledge Distillation of Large Language Models

2.1MiniLLM：利用逆向KLD进行知识蒸馏2.2策略梯度优化2.3训练算法3实验3.1实验设置3.2结果3.3分析3.4消融实验4相关工作5结论摘要知识蒸馏（KD）是一种很有前途的技术，可以减少大型语言模型（LLM

UnknownBody·2023-06-21 00:43

AI大模型迈入应用时代，每日互动推动“可控大模型”落地

垂直行业更需要可控大模型当下，大模型正在不断精进，以GPT-4、文心一言为代表的大模型（LLM）表现出了强大的逻辑推理能力，并能够很好地处理复杂任务，使得社会生产力得到了飞跃式提升。

个推技术·2023-06-20 19:36

AIGC持续火爆大模型争相推出，庞大市场造就算力供应模式演变

但火的不只是AIGC应用，还有巨头之间的AI竞赛，以及接连不断上新的AI大模型（LLM，LargeLanguageModel）。

·2023-06-20 16:22

通俗易懂的LLM

目录前言一、Tuning1、Fine-Tuning（微调）2、Prompt-Tuning（提示微调）2.1In-contextlearning（上下文学习）2.2Pattern-Verbalizer-Pair（PVP）2.3Prompt-Tuning2.4Prompt-TuningvsFine-Tuning3、Instruction-Tuning（指示微调）3.1、Instruction-Tuni

长竹Danko·2023-06-20 12:58

大模型-微调技术：PEFT库

peft0.3.0code地址：GitHub-huggingface/peft:PEFT:State-of-the-artParameter-EfficientFine-Tuning.1PEFT库介绍随着ChatGPT等LLM

u013250861·2023-06-20 12:28

(LLM) 的所有知识；10分钟了解向量数据库；微软 Bing 可以识别图片了；

AI新闻微软Bing可以识图」了，吊打GPT-4？摘要：微软Bing最新识图功能让用户可以上传图片并进行编程、做题、看病等操作，还能分析梗图笑点。然而在某些情况下表现不佳，例如无法数清图片中的图案数量，或是犯错解释棋盘。综合来看，Bing的图像识别能力十分强大，展现了人工智能技术在图像处理方面的潜力。百川智能推出70亿参数量的预训练大模型Baichuan-7B摘要：百川智能公司宣布推出了中英文预训

go2coding·2023-06-20 11:45

在 Amazon SageMaker 上使用 Hugging Face LLM DLC 部署大型语言模型

本篇文章主要介绍如何使用新的HuggingFaceLLM推理容器将开源LLMs（比如BLOOM）部署到亚马逊SageMaker进行推理的示例。我们将部署12BOpenAssistantModel，这是一款由开放助手计划训练的开源ChatLLM。这个示例包括:设置开发环境获取全新HuggingFaceLLMDLC将开放助手12B部署到亚马逊SageMaker进行推理并与我们的模型聊天清理环境什么是H

亚马逊云开发者·2023-06-20 10:47

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

本文期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。

·2023-06-20 10:39

[Arxiv 2023] SpecInfer:Accelerating LLM Serving with Speculative Inference + Token Tree Verification

ContentsIntroductionMethodSpeculativeInferenceCollectiveBoost-TuningLearning-basedSpeculativeSchedulerTokenTreeVerifierTreeAttentionVerificationOptimizationsEvaluationReferencesIntroductionLLMs的高内存和算力

连理o·2023-06-20 09:43

Awesome LLM Inference Acceleration

ContentsQuantizationPruningDistillationSpeculativeInference[Arxiv2023]SpecInfer:AcceleratingGenerativeLLMServingwithSpeculativeInferenceandTokenTreeVerificationInferenceSystemReferencesQuantizationPru

连理o·2023-06-20 09:39

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验

本文期望通过本地化部署一个基于LLM模型的应用，能让大家对构建一个完整的应用有一个基本认知。

京东云开发者·2023-06-20 09:00

AutoGPT：有手就会的安装教程

该程序由GPT-4驱动，将LLM的“思想”链接在一起，以自主实现您设定的任何目标。作为GPT-4完全自主运行的首批示例之一，Auto-GPT突破了AI的可能性界限。

码里特别有禅·2023-06-20 09:49

大型语言模型（LLM）技术的精要

大型语言模型（LLM）技术的精要。文章介绍了LLM的发展历程，以及LLM在自然语言处理领域的应用。

AI架构师易筋·2023-06-20 08:22

LLM：预训练语言模型finetune下游任务

安装依赖LLM：Transformers库_-柚子皮-的博客-CSDN博客还要安装accelerate>=0.12.0datasets>=1.8.0sentencepiece!

-柚子皮-·2023-06-20 07:34

为什么现在的大语言模型（LLM）都是Decoder-only的架构？

PaperWeekly·2023-06-20 03:05

autogpt的使用，还有出现的问题

该程序由GPT-4驱动，将LLM“思想”链接在一起，以自主实现您设定的任何目标。作为GPT-4完全自主运行的首批例子之一，AutoGPT突破了人工智能的极限。

m0_51919640·2023-06-20 01:42

中文版LLaMA：Chinese-LLaMA-Alpaca

LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署(ChineseLLaMA&AlpacaLLMs)以ChatGPT、GPT-4等为代表的大语言模型（LargeLanguageModel,LLM

u013250861·2023-06-19 23:24

如何评估大型语言模型（LLM）？

编者按：近期几乎每隔一段时间，就有新的大语言模型发布，但是当下仍然没有一个通用的标准来评估这些大型语言模型的质量，我们急需一个可靠的、综合的LLM评估框架。

Baihai IDP·2023-06-19 22:20

流程挖掘里程碑：国产RPA首次入选顶级行业报告

Celonis也在近期演示了其与LLM的融合

·2023-06-19 20:17

To ChatGPT：让你更加随意地使用所有ChatGPT应用

现在其实已经有很多在线的llm服务了，当然也存在许多开源部署方案，但是不知道大家有没有发现一个问题，目前基于ChatGPT开发的应用，都是使用的OpenAI的接口。

逆倒尘光·2023-06-19 19:00

MLC LLM - 大模型本地部署解决方案

MLCLLM是一种通用解决方案，它允许将任何语言模型本地部署在各种硬件后端和本地应用程序上，此外还提供了一个高效的框架，供每个人根据自己的用例进一步优化模型性能。推荐：用NSDT设计器快速搭建可编程3D场景。我们的使命是让每个人都能在每个人的设备上本地开发、优化和部署AI模型。一切都在本地运行，无需服务器支持，并通过手机和笔记本电脑上的本地GPU加速。支持的平台包括：苹果手机、iPad金属GPU和

新缸中之脑·2023-06-19 14:25

本地部署闻达：一个LLM调用平台

本地部署闻达：一个LLM调用平台1.什么是闻达2.Github地址3.安装Miniconda34.创建虚拟环境5.安装闻达6.下载各个model7.配置各个model8.使用RWKV-4-Raven-14B-v11x

engchina·2023-06-19 14:54

开源大型语言模型(llm)总结

大型语言模型（LLM）是人工智能领域中的一个重要研究方向，在ChatGPT之后，它经历了快速的发展。这些发展主要涉及以下几个方面：模型规模的增长：LLM的规模越来越大，参数数量显著增加。

·2023-06-19 10:25

如何评估大型语言模型（LLM）？

编者按：近期几乎每隔一段时间，就有新的大语言模型发布，但是当下仍然没有一个通用的标准来评估这些大型语言模型的质量，我们急需一个可靠的、综合的LLM评估框架。

·2023-06-19 10:01

推荐频道

Python&LLM

LLM系列 | 11: LangChain危矣？亲测ChatGPT函数调用功能：以天气问答为例

LLM系列 |10: 如何编写思维链Prompt？以智能客服为例

QLORA: Efficient Finetuning of Quantized LLMs大模型论文讲解

ChatCAD: Interactive Computer-Aided Diagnosis on Medical Image using Large Language Models

NLP（五十五）LangChain入门

开源大语言模型是否可以商用的调查报告

《XrayGLM：基于VisualGLM-6B微调训练对X光胸片进行医学诊断》学习分享与本地项目微调部署实践

实在智能率先拥抱大模型技术，旗下“AI+RPA”系列产品迎来全面智能升级

TVM－MLC LLM 调优方案

清华发布 KoLA 评测集，分4个认知层级评测LLM，GPT-4竟不是第一？

斯坦福最新LLM排行榜发布！自家Alpaca垫底，华人团队WizardLM开源第一，GPT-4、Claude稳居前二

使用大语言模型集成工具 LangChain 创建自己的论文汇总和查询工具

当 MQTT 遇上 ChatGPT：探索可自然交互的物联网智能应用

LangChain for LLM Application Development 基于LangChain开发大语言应用模型（上）

Video-LLaMa:利用多模态增强对视频内容理解

OpenAI 函数调用 功能入门

澳鹏与Reka AI强强联合，构建高质量的多模态LLM应用

Star History 月度开源精选｜2023 年 4 月

MiniGPT-4原理解读——大模型论文阅读笔记三

Video-LLaMa:利用多模态增强对视频内容理解

开源开放 | 开源知识图谱抽取工具发布大模型版DeepKE-LLM

基于阿里云免费算力自建LLM(类GPT)大模型

开箱即用的ChatGPT替代模型，还可训练自己数据

使用大语言模型集成工具 LangChain 创建自己的论文汇总和查询工具

被 ChatGPT 点燃的向量数据库们

A Survey of Large Language Models

Knowledge Distillation of Large Language Models

AI大模型迈入应用时代，每日互动推动“可控大模型”落地

AIGC持续火爆大模型争相推出，庞大市场造就算力供应模式演变

通俗易懂的LLM

大模型-微调技术：PEFT库

(LLM) 的所有知识；10分钟了解向量数据库；微软 Bing 可以识别图片了；

在 Amazon SageMaker 上使用 Hugging Face LLM DLC 部署大型语言模型

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验 | 京东云技术团队

[Arxiv 2023] SpecInfer:Accelerating LLM Serving with Speculative Inference + Token Tree Verification

Awesome LLM Inference Acceleration

ChatGPT小型平替之ChatGLM-6B本地化部署、接入本地知识库体验

AutoGPT：有手就会的安装教程

大型语言模型（LLM）技术的精要

LLM：预训练语言模型finetune下游任务

为什么现在的大语言模型（LLM）都是Decoder-only的架构？

autogpt的使用，还有出现的问题

中文版LLaMA：Chinese-LLaMA-Alpaca

如何评估大型语言模型（LLM）？

流程挖掘里程碑：国产RPA首次入选顶级行业报告

To ChatGPT：让你更加随意地使用所有ChatGPT应用

MLC LLM - 大模型本地部署解决方案

本地部署 闻达：一个LLM调用平台

开源大型语言模型(llm)总结

如何评估大型语言模型（LLM）？

OpenAI 函数调用功能入门

本地部署闻达：一个LLM调用平台