Python&LLM

【LLM系列之FLAN-T5/PaLM】Scaling Instruction-Finetuned Language Models

论文题目：《ScalingInstruction-FinetunedLanguageModels》论文链接：https://arxiv.org/pdf/2210.11416.pdfgithub链接：https://github.com/google-research/text-to-text-transfer-transformer#released-model-checkpointshuggin
致Great·2023-06-19 04:11

VALSE 2023 无锡线下参会个人总结 6月12日-3

-36月12日会议日程安排Workshop：多模态大模型与提示学习左旺孟：预训练模型和语言增强的零样本视觉学习余宙：知识增强的多模态预训练和提示学习王云鹤：多模态交织：高效模型架构和融合方法邵婧：基于LLM
乄洛尘·2023-06-19 02:28

LLM 优先的软件架构：源自 ArchGuard Co-mate 的四个基本设计原则

而正好要在公司内分享LLM+架构，便又整理了适合于更通用的四个架构设计原则。以此作为一个参考的架构原则基础，方便于我后续设计其它的LLM为核心的软件架构。TL；DR版
Phodal·2023-06-18 20:37

LLM 系列 | 08: 如何用ChatGPT构建点餐机器人？

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。
JasonLiu1919·2023-06-18 18:40

LLM系列 | 09: 基于ChatGPT构建智能客服系统(query分类&安全审核&防注入)

简介竹斋眠听雨，梦里长青苔。门寂山相对，身闲鸟不猜。小伙伴们好，我是卖热干面的小女孩。紧接前面几篇ChatGPTPrompt工程系列文章：04:ChatGPTPrompt编写指南05:如何优化ChatGPTPrompt？06:ChatGPTPrompt实践：文本摘要&推断&转换07:ChatGPTPrompt实践：以智能客服邮件为例08:ChatGPTPrompt实践：如何用ChatGPT构建点餐
JasonLiu1919·2023-06-18 18:10

LLM 系列 | 07：吴恩达ChatGPT Prompt课程实践：以智能客服邮件为例

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。
JasonLiu1919·2023-06-18 18:10

LLM_文本生成评估指标

一、BLEU(precision-basedmetric)评估准确率:和准确率类似-生成的多少词出现在reference的词中引起问题1：如果生成重复的词，并且该词在引用中出现，那么我们会得到较高的分数针对这点作者指出修正方法：一个单词只计算它在引用中出现的次数。example:ref-“thecatisonthemat”g-“thethethethethethe”Pvanlilla=66P_{v
Scc_hy·2023-06-18 16:26

吴恩达和OpenAI的《面向开发者的ChatGPT提示工程》精华笔记

LLM可完成的任务包括:总结（如总结用户评论）推断（如情绪分类、主题提取）转换文本（如翻译、改写）扩展（如自动写电子邮件）用ChatGPT总结概括https://chirper.ai/shadowa
shadowcz007·2023-06-18 15:45

6月人工智能论文推荐

PromptSpaceOptimizingFew-shotReasoningSuccesswithLargeLanguageModelshttps://arxiv.org/abs/2306.03799Promptengineering是通过提供明确和具体的指令来增强大型语言模型(llm
deephub·2023-06-18 14:05

【论文系列解读】MiniGPT-4: 增强视觉语言理解与先进的大型语言模型

EnhancingVision-LanguageUnderstandingwithAdvancedLargeLanguageModelsMiniGPT-4:增强视觉语言理解与先进的大型语言模型(0)总结&实测minigpt是先提出来的，将视觉编码器和LLM
JackCrum·2023-06-18 11:23

6月人工智能论文推荐

PromptSpaceOptimizingFew-shotReasoningSuccesswithLargeLanguageModelshttps://arxiv.org/abs/2306.03799Promptengineering是通过提供明确和具体的指令来增强大型语言模型(llm
·2023-06-18 10:45

AI：2023年6月9日北京智源大会演讲分享之基础模型前沿技术论坛—《工程化打造AI中的CPU》、《构建一个AI系统:在LLM上应用带有RLHF来推进定制》、《多模态预训练的进展回顾与展望》、《扩展大

AI：2023年6月9日北京智源大会演讲分享之基础模型前沿技术论坛—《工程化打造AI中的CPU》、《构建一个AI系统:在LLM上应用带有RLHF来推进定制》、《多模态预训练的进展回顾与展望》、《扩展大型语言模型
一个处女座的程序猿·2023-06-18 08:53

【GPT LLM】跟着论文学习gpt

GPT1开山之作：Improvinglanguageunderstandingbygenerativepre-training本文提出了gpt1，即使用无标签的数据对模型先进行训练，让模型学习能够适应各个任务的通用表示；后使用小部分task-aware的数据对模型进行微调，可以在各个task上实现更强大的功能。设计框架分为两块，pre-train和fine-tune，使用transformer模型
学渣渣渣渣渣·2023-06-18 06:58

ChatGPT Token优化与突破长度限制

，所以尽量用中文向LLM提问。
·2023-06-18 00:30

征稿 | IJCAI'23大模型论坛，DeepMind / EleutherAI / Oxford主题报告

第一届LLM@IJCAI'23Symposium征稿中，优秀投稿论文推荐《AIOpen》（EI检索）和《JCST》(CCF-B)发表。
AITIME论道·2023-06-17 22:56

征稿丨IJCAI'23大模型论坛，优秀投稿推荐AI Open和JCST(CCF-B)发表

第一届LLM@IJCAI'23Symposium征稿中，优秀投稿论文推荐《AIOpen》（EI检索）和《JCST》(CCF-B)发表。
AITIME论道·2023-06-17 22:55

LoRA 核心代码

《LoRA:Low-RankAdaptationofLargeLanguageModels》https://arxiv.org/abs/2106.09685核心内容：验证了只微调～1%的参数的LLM微调方法
CoderOnly·2023-06-17 20:54

scratch lenet(1): 读写 pgm 图像文件

pgm格式介绍2.1概要2.2meta信息2.3像素内容3.创建.pgm文件4.使用C语言读取.pgm灰度图文件4.1实现4.2解释5.使用C语言保存.pgm灰度图文件1.目的最近在github上关注了LLM
baiyu33·2023-06-17 19:37

揭秘RLHF；可商用开源LLM列表；领域编译器的前世今生

1.GPT创造者：第二次改变AI浪潮的方向那么，从推动这一系列变革的科学家角度，他究竟如何看待当先ChatGPT、GPT-4模型的发展？他对AI的思考和坚定信念从何而来？OpenAI下一步研究方向是什么？他又如何看待AI对社会的影响？链接：https://mp.weixin.qq.com/s/rZBEDlxFVsVXoL5YUVU3XQ2.科普：人类反馈的强化学习（RLHF）ChatGPT中的RL
OneFlow深度学习框架·2023-06-17 17:06

开源大型语言模型(llm)总结

大型语言模型（LLM）是人工智能领域中的一个重要研究方向，在ChatGPT之后，它经历了快速的发展。这些发展主要涉及以下几个方面：模型规模的增长：LLM的规模越来越大，参数数量显著增加。
deephub·2023-06-17 15:57

达观数据研发“曹植”大语言模型，致力于国产GPT模型

达观基于多年文本智能技术积累和垂直领域场景业务经验，正在积极探索大语言模型LLM的实践，研发国产版GPT“曹植”系统，作为垂直、专用、自主可控的国产版ChatGPT模型，不仅能实现专业领域的AIGC智能化应用
·2023-06-17 13:12

QLoRa：在消费级GPU上微调大型语言模型

大多数大型语言模型(LLM)都无法在消费者硬件上进行微调。例如，650亿个参数模型需要超过780Gb的GPU内存。这相当于10个A10080gb的gpu。
·2023-06-17 13:12

微调大型语言模型示例：使用T5将自然语言转换成SQL语句

NLP的进步使得我们不仅可以使用LLM(大型语言模型)，还可以通过微调教授他们新的技能，这也被称为迁移学习。
·2023-06-17 13:10

大语言模型(LLMs)和新兴机器学习技术栈

然而，随着大语言模型(LLM)的快速发展，新的技术栈开始出现，以支持和加速这些大型语言模型的实现和应用。
·2023-06-17 13:10

开源大型语言模型(llm)总结

大型语言模型（LLM）是人工智能领域中的一个重要研究方向，在ChatGPT之后，它经历了快速的发展。这些发展主要涉及以下几个方面：模型规模的增长：LLM的规模越来越大，参数数量显著增加。
·2023-06-17 13:06

ChatGPT详解

惊喜是因为没想到大型语言模型（LLM,LargeLanguageModel）效果能好成这样；惊醒是顿悟到我们对LLM的认知及发展理念，距离世界最先进的想法，差得有点远。
qiqi_ai_·2023-06-17 07:01

微信小程序| 基于ChatGPT+明基屏幕挂灯实现超智能家居物联网小程序

一、需求背景在尝试了这么多次的ChatGPT在纯软方向的应用开发后，深感LLM(大语言模型)的能力之强大。俗话说得好：心有多大舞台就有多大！基于AI大模型，可以尝试的方面实在是数不胜数！
陶人超有料·2023-06-17 02:26

吴恩达新课程：ChatGPT提示工程，ChatGPT Prompt Engineering for Developers

来源：专知本文为课程介绍，建议阅读5分钟您将学习如何使用大型语言模型(LLM)快速构建新的和强大的应用程序。
数据派THU·2023-06-16 23:52

吴恩达《ChatGPT Prompt Engineering for Developers》学习笔记

1引言总的来说，当前有两类大语言模型（LLM）：「基础LLM」和「指令微调LLM」。基础LLM基于大量文本数据训练而成，核心思想为预测一句话的下一个单词（即词语接龙）。
zenRRan·2023-06-16 23:50

《ChatGPT Prompt Engineering for Developers》课程中文版系列

课程简介吴恩达《ChatGPTPromptEngineeringforDevelopers》课程中文版，主要内容为指导开发者如何构建Prompt并基于OpenAIAPI构建新的、基于LLM的应用，包括：
evil-tomato·2023-06-16 23:19

《ChatGPT Prompt Engineering for Developers》课程-简介

IsaFulford是OpenAI的技术团队成员，曾开发过受欢迎的ChatGPT检索插件，并且在教授人们如何在产品中使用LLM或LLM技术方面做出了很大贡献。
evil-tomato·2023-06-16 23:19

吴恩达《ChatGPT Prompt Engineering for Developers》课程中文版

《ChatGPTPromptEngineeringforDevelopers》作为由吴恩达老师与OpenAI联合推出的官方教程，在可预见的未来会成为LLM的重要入门教程，但是目前还只支持英文版且国内访问受限
javastart·2023-06-16 23:19

开源LLM的创建步骤

开源LLM（语言模型）是功能强大的AI工具，旨在理解和生成自然语言。它们旨在从大量文本数据中学习并生成类似人类的文本。开源LLM在各个领域越来越受欢迎，包括自然语言处理、聊天机器人，甚至创意写作。
一支烟一朵花·2023-06-16 22:12

主流大模型介绍

近年来最重要的发展之一是大型语言模型(LLM)的出现。LLM一次处理所有顺序输入，并依靠自注意力来关注输入的小而重要的部分，这使得它们不同于一次处理一个单词的先前架构。
一支烟一朵花·2023-06-16 22:39

大型语言模型综述（一）

文章目录摘要1、简介2、概述2.1LLM的背景2.2GPT系列模型的技术演进3LLMs资源3.1公开可用的模型检查点或api3.2常用语料库3.3算法库资源4预训练4.1数据收集4.1.1数据源4.1.2
静静AI学堂·2023-06-16 21:32

解密Prompt系列3. 冻结LM微调Prompt: Prefix-tuning & Prompt-tuning & P-tuning

这类模型的优势很直观就是微调的参数量小，能大幅降低LLM的微调参数量，是轻量级的微调替代品。
AI生成曾小健·2023-06-16 15:45

大模型LLM领域，有哪些可以作为学术研究方向？

清湛人工智能研究院2023-05-3109:23发表于江苏编者：本文转载了清华大学计算机系刘知远教授对大模型的一些思索，以飨读者。刘知远CCF高级会员，CCCF前编委。清华大学计算机系副教授、博士生导师。已在ACL、IJCAI、AAAI等人工智能领域的著名国际期刊和会议发表相关论文80余篇，GoogleScholar统计引用超过1万次。承担多项国家自然科学基金。曾获中文信息学会青年创新奖，入选国家
AI生成曾小健·2023-06-16 07:23

Stuart Russell对话姚期智：为全人类设计AI系统，可以借鉴墨子「兼爱」思想丨2023智源大会AI安全与对齐论坛...

导读在2023智源大会「AI安全与对齐论坛」的对话环节，加州大学伯克利分校教授StuartRussell与图灵奖得主、中国科学院院士姚期智针对「如何设计对人类有益的AI」、「如何管控AI技术」，以及「LLM
智源社区·2023-06-16 01:57

被 ChatGPT 点燃的向量数据库们

向量数据库可以让开发者以向量嵌入的形式处理非结构化数据（两个向量之间的距离代表了它们的关联性），这对于使用和扩展大型语言模型（LLM）尤为
·2023-06-15 19:43

大语言模型: 新的摩尔定律？

译者按:最近一段时间，ChatGPT作为一个现象级应用迅速蹿红，也带动了对其背后的大语言模型(LLM)的讨论，这些讨论甚至出了AI技术圈，颇有些到了街谈巷议的程度。
·2023-06-15 16:39

Video-LLaMA 开源，大语言模型也能读懂视频了！

出品人：Towhee技术团队作者：张晨架构Video-LLaMA旨在使冻结的LLM能够理解视频中的视觉和听觉内容。
·2023-06-15 16:50

AnalyticDB(ADB)+LLM：构建AIGC时代下企业专属Chatbot

这个春天，最让人震感的科技产品莫过于ChatGPT的横空出世，通过大语言模型（LLM）让人们看到了生成式AI能实现到和人类语言高度相仿的语言表达能力，AI不再遥不可及而已经可以走进人类的工作和生活，这使得沉寂一段时间的
·2023-06-15 11:58

全民AI计划：通过langchain给LLM接上落地的大腿

一、企业困境:如何应用大语言模型大语言模型(LargeLanguageModel,LLM)如雨后春笋一般，噼里啪啦地陆续露头。一时间，LLM成为了网络流行
AI研究院·2023-06-15 10:36

使用大型语言模(LLM)构建系统(五)：输出结果检查

输出结果检查包含以下两部分内容：检查输出是否存在潜在有害内容检查输出是否基于提供的产品信息下面是我们访问大型语言模(LLM)的主要代码：importopenai#您的openai的apikeyopenai.api_key
-派神-·2023-06-15 07:45

使用大型语言模(LLM)构建系统(六)：构建端到端系统

之前我们已经学习了下面这些知识：使用大型语言模(LLM)构建系统(一)：分类使用大型语言模(LLM)构建系统(二):内容审核、预防Prompt注入使用大型语言模(LLM)构建系统(三)：思维链推理使用大型语言模
-派神-·2023-06-15 07:45

酷克数据简丽荣：“模型热”将引发云计算与数据库行业大变革

随着LLM智能涌现的发生和API的爆发式发展，各行各业都在关注如何用好通用模型，如何调校好适合自己的行业应用。LLM最重要的输入是数据，最频繁的接口是数据库。模型应用的普及会对数据库产生哪些影响？
HashData酷克数据·2023-06-15 04:48

ChatGPT使用进阶，你一定要知道的应用技巧

作为伴随着ChatGPT等大语言模型（LLM）出现的还有一个新的工程领域：提示工程（PromptEngineering）。
MavenTalk·2023-06-15 04:17

FinGPT：以数据为中心的方法革新开源金融

FinGPT由AI4FinanceFoundation开发，是一种以数据为中心的工具，可使大型语言模型(LLM)的金融数据民主化。它旨在成为开放式金融的开源解决方案，旨在彻底改变金融业。
北纬32.6·2023-06-15 01:59

LlamaIndex 简介：LLM 应用程序的数据框架

LlamaIndex是一个非凡的工具，创建为一个全面的“数据框架”，以促进LLM（大型语言模型）应用程序的开发。该框架与ChatGPT集成，充当大型语言模型和用户私人数据之间的桥梁。
北纬32.6·2023-06-15 01:59

低资源大语言模型LLM研究者的希望 LIMA + 4Bit 量化训练

人类的大模型炼丹可能也遵从2/8规则，RLHF训练能增强20%的大模型响应能力但是需要花费额外80%的训练成本。LIMA模型的研究（https://arxiv.org/abs/2305.11206）给大家指明了可能的低资源条件下大模型研究方向，概括起来就是以下几点：1。指令微调只是给模型增加风格，并不能提升能力2。指令微调数据的质量，每条指令遵从的质量和多样性才是关键。3。RLHF人类遵从的强化学
znsoft·2023-06-14 22:24
上一页 99 100 101 102 103 104 105 106 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他