Python&LLM

从 GPT4All 体验 LLM

尝试ChatGPT以了解LLM的内容很容易，但有时，您可能需要一个可以在您的计算机上运行的离线替代方案。在这篇文章中，您将了解GPT4All作为可以安装在计算机上的LLM。
·2023-09-11 18:24

大模型心高气傲，没有AI Agents生死难料

AIAgent，正在接棒大语言模型LLM，成为AI圈最火的话题。
脑极体·2023-09-11 10:39

轻松搭建本地知识库的ChatGLM2-6B

近期发现了一个项目，它的前身是ChatGLM，在我之前的博客中有关于ChatGLM的部署过程，本项目在前者基础上进行了优化，可以基于当前主流的LLM模型和庞大的知识库，实现本地部署自己的ChatGPT，
Dr.sky_·2023-09-11 09:05

AI、机器学习、大模型、生成式 AI 和安全

目录1.AI、机器学习、大模型、生成式AI和安全1.1.前言1.2.人工智能(AI)1.3.机器学习1.4.大模型(LLM)1.5.ChatGPT1.6.总结1.AI、机器学习、大模型、生成式AI和安全
云满笔记·2023-09-11 05:16

Try llama2 in NUC (by quqi99)

)据说现在在PC机上可以运行llama2大模型了，Way1于是照着这个文档[1]试了一下：#https://medium.com/@karankakwani/build-and-run-llama2-llm-locall
quqi99·2023-09-11 01:12

OpenAI：LLM能感知自己在被测试，为了通过会隐藏信息欺骗人类

AI发展到现在，到底是否具有了意识？前几天，由图灵奖得主Benjio参与的一个研究项目刊登上了Nature，给出了一个初步的答案：现在没有，但是未来可能有。按照这个研究中的说法，AI现在还不具备意识，但是已经有了意识的雏形。在未来的某一天，可能AI真的能像生物一样进化出全面的感知能力。然而，OpenAI和NYU，牛津大学的研究人员的一项新研究进一步表明，AI可能具有感知自己状态的能力！https:
疯狂创作者·2023-09-10 15:33

Langchain的一些问题和替代选择

Langchain因其简化大型语言模型(llm)的交互方面的到关注。凭借其高级的API可以简化将llm集成到各种应用程序中的过程。
·2023-09-10 09:53

AI大语言模型时代构建全新数据平台

Snowflake的未来重置，探讨了Databricks和Snowflake等知名平台，存储领域的Delta、udi、Iceberg，还是实时化数据处理领域的Databricks、Snowflake1、LLM
ejinxian·2023-09-10 06:06

[NLP]LLM---大模型指令微调中的“Prompt”

一指令微调数据集形式太多大家有没有分析过prompt对模型训练或者推理的影响？之前推理的时候，发现不加训练的时候prompt，直接输入模型性能会变差的，这个倒是可以理解。假如不加prompt直接训练，是不是测试的时候不加prompt也可以？还有一个就是多轮prompt和单轮prompt怎么构造的问题？好多模型训练方式不统一包括指令数据形式有所不同，选择困难症又来了。。先说一些观点，假如我们在微调一
舒克与贝克·2023-09-10 06:34

MATLAB算法实战应用案例精讲-【大模型】LLM算法（补充篇）

目录前言算法原理LM研究发展阶段LLM的关键技术如何利用LLM做多模态任务？mPLUG-Owl<
林聪木·2023-09-10 04:34

LLM推理优化技术综述：KVCache、PageAttention、FlashAttention、MQA、GQA

LLM推理优化技术综述：KVCache、PageAttention、FlashAttention、MQA、GQA随着大模型被越来越多的应用到不同的领域，随之而来的问题是应用过程中的推理优化问题，针对LLM
Garvin Li·2023-09-10 02:59

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

关键词：Transformer；PLM；SLM；NLM；LLM；Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200
·2023-09-10 01:44

【精华】AIGC专栏-Text/Img/Video/audio

（一）LLM专栏大模型相关技术原理以及实战经验：liguodongiot/llm-action1ColossalAI（1）参考资料：700亿参数LLaMA2训练加速195%，基础大模型最佳实践再升级（2
LeeZhao@·2023-09-09 22:27

LlamaIndex：将个人数据添加到LLM

推荐：使用NSDT场景编辑器快速搭建3D应用场景LlamaIndex是基于大型语言模型（LLM）的应用程序的数据框架。
ygtu2018·2023-09-09 21:20

文生图模型进化简史和生成能力比较——艺术肖像篇

不过他的课主要讲的是LLM，听说我在玩T2I，就邀请我回母校的商学院做了个分享。我为那次分享做了个简单时间线，罗列了我认为文生图领
创业者西乔·2023-09-09 20:35

【RapidAI】P1 中文文本切割程序

PDF重点切分去除数组中空字符串再度切分后长度附录附录一：完整代码附录二：可继续思考问题基本信息文件名：chinese_text_splitter.py文件地址：E:\Code\Knowledge-QA-LLM
脚踏实地的大梦想家·2023-09-09 20:55

LLM自动进行数据分析-论文《Data-Copilot: Bridging Billions of Data and Humans with Autonomous Workflow》笔记

文章目录概要接口设计InterfaceDesignExploreDatabySelf-RequestInterfacedefinitionInterfaceMergingInterfaceImplementation接口调度InterfaceDispatchIntentAnalysisPlanningworkflowMulti-formOutput总结参考资料概要论文《Data-Copilot:B
chencjiajy·2023-09-09 19:51

LLM 的推理优化技术纵览

推理是LLM应用的重要一环，在部署服务环节影响重大，本文将讨论主流的LLM的推理优化技术。
hellozhxy·2023-09-09 14:39

LLM推理提速2.8倍，CMU提出投机式推理引擎，小模型撬动大模型高效推理

随着ChatGPT的出现，大规模语言模型（LLM）研究及其应用得到学术界和工业界的广泛关注。一方面，开源的LLM模型不断涌现，比如OPT、BLOOM、LL
PaperWeekly·2023-09-09 14:09

文心一言、讯飞星火与GPT-4/3.5在回答中文历史问题的表现

如果将它们相互比较，并且和GPT系列模型等国际前沿水平的LLM进行比较，会得到什么样的结果呢？笔者对此非常好奇，于是决定自己动手试试。
叶锦鲤·2023-09-09 13:07

一站集齐近半年大模型前沿动态

大模型LLM近半年大模型一路狂飙，席卷全球，已经成为了AI领域的研究热点与必争之地。AITIME大模型系列活动定期特邀来自全球知名高校与研究机构的青年学者，分享最新大模型前沿动态，思辨大模型未来之路。
AITIME论道·2023-09-09 13:29

[NLP]LLM--使用LLama2进行离线推理

一模型下载二模型推理本文基于Chinese-LLaMA-Alpaca-2项目代码介绍，使用原生的llama2-hf克隆好了Chinese-LLaMA-Alpaca-2项目之后，基于GPU的部署非常简单。下载完成以后的模型参数(HuggingFace格式)如下：简单说明一下各个文件的作用文件名称示例说明config.json{"architectures":["LlamaForCausalLM"],
舒克与贝克·2023-09-09 07:55

[NLP]LLM---FineTune自己的Llama2模型

一数据集准备Let’stalkabitabouttheparameterswecantunehere.First,wewanttoloadallama-2-7b-hfmodelandtrainitonthemlabonne/guanaco-llama2-1k(1,000samples),whichwillproduceourfine-tunedmodelllama-2-7b-miniguanaco
舒克与贝克·2023-09-09 06:38

【AI Agent】Agent的原理介绍与应用发展思考

如何让LLM替代人去做事?
Taylor_29511·2023-09-09 02:51

如何使用PyTorch训练LLM

推荐：使用NSDT场景编辑器快速搭建3D应用场景像LangChain这样的库促进了上述端到端AI应用程序的实现。我们的教程介绍LangChainforDataEngineering&DataApplications概述了您可以使用Langchain做什么，包括LangChain解决的问题，以及数据用例的示例。本文将解释训练大型语言模型的所有过程，从设置工作区到使用Pytorch2.0.1的最终实现
ygtu2018·2023-09-09 02:05

【LangChain系列 5】Prompt模版——特征库

在一些LLM应用开发中，我们也需要将最新的数据输入给LLM，特征库非常适合这个场景，所以LangChain提供了链接
大白爱爬山·2023-09-09 02:58

吴恩达gradio课程：基于开源LLM（large language model）的聊天应用

文章目录内容简介构建应用程序使用gradio在线体验接下来结合llm模型使用gradio构建一个完整的应用程序内容简介Falcon40B是当前最好的开源语言模型之一。
Cachel wood·2023-09-09 02:28

如何用SSH克隆GitHub项目

报错fatal:unabletoaccess'https://github.com/PolarisRisingWar/llm-throught-ages.git/':GnuTLSrecverror(-110
诸神缄默不语·2023-09-08 16:36

LLM记录202304-202306

RLHFRAFTRAFT:RewardrAnkedFineTuningforGenerativeFoundationModelAlignmentcodeRRHFRRHF:RankResponsestoAlignLanguageModelswithHumanFeedbackwithouttearscodepi=∑tlog⁡Pπ(yi,t∣yi,
dragonchow123·2023-09-08 05:40

阿里 通义千问LLM Qwen-7B-Chat与Qwen-VL-Chat 使用

参考：https://github.com/QwenLM/Qwen-7Bhttps://github.com/QwenLM/Qwen-VL下载模型：https://huggingface.co/Qwen1、Qwen-7B-Chat下载好代码与模型后运行：python./Qwen-7B-main/web_demo.py-c./qwen-6b-4bit/--server-name0.0.0.0--se
loong_XL·2023-09-08 01:13

LLM大模型推理加速 vLLM；Qwen vLLM使用案例；模型生成速度吞吐量计算

参考：https://github.com/vllm-project/vllmhttps://zhuanlan.zhihu.com/p/645732302https://vllm.readthedocs.io/en/latest/getting_started/quickstart.html##文档1、vLLM这里使用的cuda版本是11.4，teslaT4卡加速原理：PagedAttention
loong_XL·2023-09-08 01:12

解锁无限的检索能力：谷歌的MEMORY-VQ以卓越的压缩力彻底改变了LLM

检索增强是一种常用且有效的方法，用于增强语言模型的事实知识，同时加快模型推理时间。尽管如此，这种方法带来了相当大的计算成本，这归因于存储预先计算的表示所需的大量存储需求。为了解决这一相关问题，谷歌研究小组在他们的新论文中提出了一个突破性的解决方案，题为“MEMORY-VQ：压缩可处理的互联网规模内存”。这种创新方法MEMORY-VQ显著减少了与基于内存的技术相关的存储先决条件，同时保持了高性能水平
大伟先生·2023-09-08 00:16

【LLM系列之LLaMA】LLaMA: Open and Efficient Foundation Language Models

论文题目：《LLaMA:OpenandEfficientFoundationLanguageModels》论文链接：https://arxiv.org/pdf/2302.13971.pdfgithub链接：https://github.com/facebookresearch/llama/tree/mainhuggingface链接：https://huggingface.co/decapoda-
致Great·2023-09-07 20:51

Meta推出Code Llama：编程的未来已来

今天，Meta推出了一项前沿技术——CodeLlama，这是一款基于Llama2构建的大型语言模型（LLM），专门用于生成和讨论代码。这一创新技术的发布标志着编程领域的新时代。
dotNET跨平台·2023-09-07 20:20

Meta AI 重磅发布代码大模型 Code Llama

刚刚，MetaAI如期而至发布了CodeLlama，这是一个可以使用文本提示生成代码的大型语言模型(LLM)。
技术狂潮AI·2023-09-07 20:48

阿里云大语言模型（LLM）实战训练营，火热开营中！

完成课程学习任务更有机会领取LAMY钢笔、小米充电宝、双肩包等精美礼品，快来一起学习体验吧~大语言模型（LLM）实战训练营入口：立即参与一、课程介绍介绍当下热门的大语言模型技术原理、发展历程及模型特性，
·2023-09-07 18:56

基于 LLM 的知识图谱另类实践

本文整理自社区用户陈卓见在「夜谈LLM」主题分享上的演讲，主要包括以下内容：利用大模型构建知识图谱利用大模型操作结构化数据利用大模型使用工具利用大模型构建知识图谱上图是之前，我基于大语言模型构建知识图谱的成品图
·2023-09-07 18:56

为什么企业需要私有化专属大模型

我们今天为大家带来的文章，作者探讨了与仅通过OpenAI等公司的API使用LLM相比，私有化部署大模型的优势。有力地说明了私有化的大模型仍然是我们理想的一种选
·2023-09-07 18:25

Flowise AI：用于构建LLM流的拖放UI

LangChain是一个框架/python库，可帮助您利用LLM构建自己的自定义NLP应用程序。Flowise使用LangChain作为其代理执行器，C
·2023-09-07 18:21

使用 LangChain 实现 AI 转型：文本数据游戏规则改变者

或LLM为朋友?—?风靡人工智能世界。随着OpenAI的GPT-3在2020年的突破性发布，我们见证了LLM的受欢迎程度稳步上升，随着该领域的最新进展，这种受欢迎程度只会加剧。
·2023-09-07 16:50

使用 LangChain 实现 AI 转型：文本数据游戏规则改变者

或LLM为朋友?—?风靡人工智能世界。随着OpenAI的GPT-3在2020年的突破性发布，我们见证了LLM的受欢迎程度稳步上升，随着该领域的最新进展，这种受欢迎程度只会加剧。
·2023-09-07 16:19

AI 时代的向量数据库、关系型数据库与 Serverless 技术丨TiDB Hackathon 2023 随想

大规模语言模型（LLM）的问世使得个人开发者能够在短短5分钟内为程序赋予推理能力，而这在以往，几乎只有超大型团队才能胜任。从应用开发者的角度来看，AI时代也已经到来了。
·2023-09-07 15:45

ssprompt：一个LLM Prompt分发管理工具

pip安装Linux,macOS,Windows(WSL)Windows(Powershell)Roadmap项目交流讨论前言自从OpenAI掀起了一轮新的AI革命，国内外众多玩家入场接受时代洗礼，一时间LLM
GoGeekBaird·2023-09-07 10:02

FPGA加速器支撑ChatGPT类大语言模型创新

Achronix人工智能/机器学习产品营销总监探索FPGA加速语言模型如何通过更快的推理、更低的延迟和更好的语言理解重塑生成式人工智能简介：大语言模型近年来，大型语言模型（LargeLanguageModels，LLM
电子科技圈·2023-09-07 09:46

LKPNR: LLM and KG for Personalized News Recommendation Framework

本文是LLM系列文章，针对《LKPNR:LLMandKGforPersonalizedNewsRecommendationFramework》的翻译。
UnknownBody·2023-09-07 09:42

Exploring Large Language Models for Knowledge Graph Completion

本文是LLM系列文章，针对《ExploringLargeLanguageModelsforKnowledgeGraphCompletion》的翻译。
UnknownBody·2023-09-07 09:49

ChatGPT Prompting开发实战（五）

如何编写有效的prompt对于大语言模型来说，编写出有效的prompt能够帮助模型更好地理解用户的意图(intents)，生成针对用户提问来说是有效的答案，避免用户与模型之间来来回回对话多次但是用户不能从LLM
m0_49380401·2023-09-07 06:59

Using Multiple RDF Knowledge Graphs for Enriching ChatGPT Responses

本文是LLM系列文章，针对《UsingMultipleRDFKnowledgeGraphsforEnrichingChatGPTResponses》的翻译。
UnknownBody·2023-09-07 06:40

LangChain 中文入门教程笔记

"]='你的apikey'fromlangchain.llmsimportOpenAIllm=OpenAI(model_name="text-davinci-003",max_tokens=1024)llm
日若·2023-09-06 23:47

A Survey of Knowledge-Enhanced Pre-trained Language Models

本文是LLM系列的文章，针对《ASurveyofKnowledge-EnhancedPre-trainedLanguageModels》的翻译。
UnknownBody·2023-09-06 19:35
上一页 84 85 86 87 88 89 90 91 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他