Python&LLM

metagpt学习实践

─config.py├──const.py├──document_store├──environment.py├──__init__.py├──inspect_module.py├──learn├──llm.py
fengxiaoyangfeng·2023-12-16 16:34

TaskWeaver：代码优先的代理框架

大型语言模型(LLM)在自然语言理解和生成方面表现出了令人印象深刻的能力，导致它们在聊天机器人和虚拟助理等应用中得到使用。
南楚巫妖·2023-12-16 15:56

开源项目AnythingLLM：一个私人的 ChatGPT，可以与任何东西聊天

一个全栈应用程序，使您能够将任何文档、资源或内容转换为上下文，任何LLM都可以在聊天期间用作参考。此应用程序允许您选择要使用的LLM或矢量数据库，并支持多用户管理和权限。
秋水札记·2023-12-16 13:03

Mistral AI发布行业领先的Mixtral 8x7B专家混合模型&完成4.15亿美元融资

一、前言MistralAI是欧洲最强的LLM大模型公司，团队由来自Google、Meta和HuggingFace的新生代法国科学家们组成。
技术狂潮AI·2023-12-16 13:00

基于 LangChain 的优秀项目资源库

LangChain是一个令人惊叹的框架，可以在极短的时间内完成LLM项目，其生态系统正在快速发展。
Python算法实战·2023-12-16 13:29

WeChatMsg: 导出微信聊天记录 | 开源日报 No.108

Mozilla-Ocho/llamafileStars:3.5kLicense:NOASSERTIONllamafile是一个开源项目，旨在通过将lama.cpp与CosmopolitanLibc结合成一个框架，将LLM
开源服务指南·2023-12-16 13:27

南京农业大学研发古籍版的ChatGPT，AI大语言模型荀子面世

推动大语言模型与古籍处理深度融合，以古籍智能化的研究为目的，南京农业大学国家社科基金重大项目“中国古代典籍跨语言知识库构建及应用研究”课题组与中华书局古联公司推出了一系列古籍处理领域大语言模型：荀子古籍AI大语言模型（LLM
喜好儿aigc·2023-12-16 07:14

LLM（七）| Mamba：LLM新架构的浅探

目前大型语言模型（LLM）领域发展如火如荼，本文将重点探索在单个消费级GPU上可以有效运行的小型模型（≤7B个参数）。
wshzd·2023-12-16 02:53

【AIGC】prompt工程从入门到精通--用于破解LLM的prompt方法（大语言模型的黑客技术与防御）

破解提示（PromptHacking）是指通过操纵LLM的输入来利用LLM的漏洞的攻击类型。与通常利用软件漏洞的传统黑客攻击不同，破解提示依赖于精心设计的Prompt来欺骗法学硕士执行意想不到的操作。
Code_LT·2023-12-16 02:18

LLM之Agent（六）| 使用AutoGen、LangChian、RAG以及函数调用构建超级对话系统

本文我们将尝试AutoGen集成函数调用功能。函数调用最早出现在OpenAIAPI中，它允许用户调用外部API来增强系统的整体功能和效率。例如，在对话过程中根据需要调用天气API。函数调用和Agent有各种组合，在这里我们将通过函数调用调用RAG检索增强生成机制，并使用结果生成输出。本文将介绍如何使用Langchian、Autogen、RetrievalAugmentedGeneration（RA
wshzd·2023-12-16 02:17

【AIGC】大语言模型的采样策略--temperature、top-k、top-p等

总结如下：图片链接参考LLM解码-采样策略串讲LLM大模型解码生成方式总结LLM探索：GPT类模型的几个常用参数Top-k,Top-p,Temperature
Code_LT·2023-12-16 02:14

Video-LLaMA An Instruction-tuned Audio-Visual Language Model for Video Understanding 用于视频理解的指令调谐视听语言

1.摘要我们提出了一个多模态框架Video-LLaMA1，它使大型语言模型(LLM)能够理解视频中的视觉和听觉内容。视频-来自冻结的预训练视频和音频编码器和冻结的LLM的美洲驼引导跨模式训练。
庄园特聘拆椅狂魔·2023-12-16 02:25

Altair推出 Altair RapidMiner 2023 平台，提供生成式 AI 功能

将LLM（大语言模型）集成到业务应用程序的全新工具AltairRapidMiner内
Altair澳汰尔·2023-12-16 00:55

【NLP】如何管理大型语言模型 (LLM)

什么是LLM编排？LLM编排是管理和控制大型语言模型(LLM)的过程，以优化其性能和有效性。这包括以下任务：提示LLM：生成有效的提示，为LLMs提供适当的背景和信息以产生所需的输出。
Sonhhxg_柒·2023-12-15 20:42

如何基于 ChatGLM3 构建企业级应用？

▼最近直播超级多，预约保你有收获今晚直播：《ChatGLM3架构设计和案例实战》—1—今晚20点ChatGLM3案例实战直播ChatGLM3提供了更强大的LLM基座，在语义、数据、推理、代码、知识等不同数据集上表现出色
musicml·2023-12-15 16:44

从原理到实现教你搞定大模型在线推理架构

▼最近直播超级多，预约保你有收获今晚直播：《大模型在线推理架构设计与实践》—1—大模型在线推理工程架构设计LLM大模型整体架构由离线和在线两部分构成（架构如下图所示），离线部分主要是基于Transformer
musicml·2023-12-15 16:03

对话AI大模型：Prompts提示指南与应用探索

第1节：ChatGPT的潜力和应用范围随着人工智能的飞速发展，ChatGPT——一种基于最新大型语言模型（LLM）的聊天机器人——已经成为了一个引人注目的现象。
小雨淋林·2023-12-15 14:36

AI Agent来势凶猛，实在RPA Agent智能体领先落地金融领域

不管是生成式AI还是基于LLM的AIAgent，刚出现便引起广大金融公司的极大兴趣，纷纷在第一时间开启商业价值探索之旅。当然
实在智能RPA·2023-12-15 12:16

训练大语言模型等 AI 应用？您需要知道这些重要的网络技术

近两年，大语言模型（LLM）的崛起引领了AI时代的新风向。
申耀的科技观察·2023-12-15 10:24

干货 | 携程旅游大语言模型系统介绍及其应用

一、背景随着OpenAI的ChatGPT火遍全球，大语言模型（LargeLanguageModel，下文简称LLM）成为了人工智能领域的热门话题。
携程技术·2023-12-15 10:15

HuggingFists-低代码玩转LLM RAG(2) --Query

继上一篇文章我们探讨了如何使用HuggingFists实现文本的Embedding后。这一次我们将介绍如何使用HuggingFists实现LLMRAG的查询部分。首先我们回顾一下RAG的结构，如下图：基于向量数据库的RAG结构图我们在上篇文章中介绍了如何使用HuggingFists实现结构图右半部分的文档向量化入库的过程。本文我们将着重介绍如何使用HuggingFists从向量库检索数据并交由大模
colorknight·2023-12-15 10:15

LangChain 25: SQL Agent通过自然语言查询数据库sqlite

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:45

LangChain 23 Agents中的Tools用于增强和扩展智能代理agent的功能

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:44

LangChain 24 对本地文档的搜索RAG检索增强生成Retrieval-augmented generation

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:44

LangChain 20 Agents调用google搜索API搜索市场价格 Reason Action：在语言模型中协同推理和行动

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:13

LangChain 21 Agents自问自答与搜索 Self-ask with search

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:13

LangChain 22 LangServe用于一键部署LangChain应用程序

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:13

LangChain 19 Agents Reason+Action自定义agent处理OpenAI的计算缺陷

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:43

LangChain 26: 回调函数callbacks打印prompt verbose调用

系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math
AI架构师易筋·2023-12-15 08:59

LLM中的Prompt提示

简介在LLM中，prompt（提示）是一个预先设定的条件，它可以限制模型自由发散，而是围绕提示内容进行展开。输入中添加prompt，可以强制模型关注特定的信息，从而提高模型在特定任务上的表现。
赵昕彧·2023-12-15 08:57

提示（Prompt）工程中提示词的开发优化基础概念学习总结

提示工程：首先是关注提示词的开发和优化，帮助用户将大语言模型（LargeLanguageModel,LLM）用于各场景和研究领域。其次包含与大语言模型交互和研发的各种技能和技术。
FserSuN·2023-12-15 08:26

LLM之RAG实战（四）：Self-RAG如何革命工业LLM

论文地址：https://arxiv.org/pdf/2310.11511.pdfGithub地址：https://github.com/AkariAsai/self-rag尽管LLM（大型语言模型）的模型和数据规模不断增加
wshzd·2023-12-15 05:01

LLM推理部署（六）：TogetherAI推出世界上LLM最快推理引擎，性能超过vLLM和TGI三倍

LLM能有多快？答案在于LLM推理的最新突破。TogetherAI声称，他们在CUDA上构建了世界上最快的LLM推理引擎，该引擎运行在NVIDIATensorCoreGPU上。
wshzd·2023-12-15 05:31

LLM（六）| Gemini：谷歌Gemini Pro 开放API ，Gemini Pro 可免费使用

近期，GoogleGeminiPro开放API了，且GeminiPro可免费使用！GeminiPro支持全球180个国家的38种语言，目前接受文本作为输入并生成文本作为输出。GeminiAPI地址：http://ai.google.devGeminiPro的表现超越了其他同类模型，当前版本配备了32K文本上下文窗口，可免费使用，且其定价将十分有竞争力。具备丰富的功能：函数调用、数据嵌入、语义检索、
wshzd·2023-12-15 05:31

LLM之Prompt（三）| XoT：使用强化学习和蒙特卡罗树搜索将外部知识注入Prompt中，性能超过CoT，ToT和GoT

论文地址：https://arxiv.org/pdf/2311.04254.pdf一、当前Prompt技术的局限性LLM使用自然语言Prompt可以将复杂的问题分解为更易于管理的“thought”可以回复用户的问题
wshzd·2023-12-15 05:16

探索AIGC未来：CPU源码优化、多GPU编程与中国算力瓶颈与发展

★人工智能；大数据技术;AIGC;Turbo;DALL·E3;多模态大模型；MLLM；LLM；Agent；Llama2；国产GPU芯片；GPU;CPU；高性能计算机；边缘计算；大模型显存占用；5G;深度学习
高性能服务器·2023-12-15 04:30

不用再找，这是大模型 LLM 微调经验最全总结

大家好，今天对大模型微调项目代码进行了重构，支持ChatGLM和ChatGLM2模型微调的切换，增加了代码的可读性，并且支持Freeze方法、Lora方法、P-Tuning方法、「全量参数方法」微调。PS：在对Chat类模型进行SFT时，一定要遵循模型原始的系统指令，否则会出现严重的遗忘或微调效果不明显现象。https://github.com/Hello-MLClub/ChatGLM-Finet
Python算法实战·2023-12-15 02:32

LoRA 微调大模型的实践经验总结

文末附上原文，欢迎品读简单介绍下什么是LoRA在深度学习领域，特别是在大型语言模型（LLM）领域，模型的大小导致更新模型权重的成本非常高。
Python算法实战·2023-12-15 02:32

[论文浅谈] Can ChatGPT Replace Traditional KBQA Models?

一背景意义ChatGPT是一款强大的大型语言模型（LLM），它通过学习大量文本数据，包括维基百科等知识资源，使其具备广泛的自然语言理解能力。
是饿梦啊·2023-12-14 19:03

如何在Python中使用ChatGPT API处理实时数据

在这种情况下，需要有效地构建一个自定义的大型语言模型(LLM)应用程序来为回答过程提供场景
虚无火星车·2023-12-14 19:02

大模型应用_FastGPT

1功能整体功能，想解决什么问题官方说明：FastGPT是一个基于LLM大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。
xieyan0811·2023-12-14 18:01

Other -- ChatGPT 原理

id=1765556782543603120&wfr=spider&for=pc)1.了解一些基本概念大语言模型（LargeLanguageModel，LLM）是指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文
LtMamba·2023-12-14 16:33

免费获取GPT-4的五种工具

不可否认，由OpenAI带来的GPT-4已是全球最受欢迎的、功能最强大的大语言模型（LLM）之一。大多数人都需要使用ChatGPTPlus的订阅服务去访问GPT-4。
c++服务器开发·2023-12-14 12:20

大模型训练数据集汇总

大模型训练数据集汇总LLM数据集总结GLUE简介任务数据集大小SQuAD简介任务数据集大小下载地址XSUM简介下载地址LLM数据集总结GLUE简介当前大多数以上词级别的NLU模型都是针对特定任务设计的，
江小皮不皮·2023-12-14 12:01

用于 ChatGPT 的 FPGA 加速大型语言模型

简介：大型语言模型近年来，大型语言模型（LLM）彻底改变了自然语言处理领域，使机器能够生成类似人类的文本并进行有意义的对话。这些模型，例如OpenAI的GPT，具有惊人的理解和生成语言的能力。
FPGA技术联盟·2023-12-14 12:00

大型语言模型（LLM）技术精要

通向AGI之路：大型语言模型（LLM）技术精要ChatGPT出现后惊喜或惊醒了很多人。
只鸥周·2023-12-06 19:41

Llama 2：新一代开源LLM，可用于研究和商业用途

一、前言大型语言模型（LLMs）在各种复杂推理任务中表现出色，包括编程和创意写作等专业领域。LLMs通过直观的聊天界面与人类进行交互，这导致了它们在公众中的快速和广泛采用。然而，由于训练LLMs所需的计算量较大，只有少数公司能够实现其发展。目前已经有一些公开发布的预训练LLMs，如BLOOM、LLaMa-1和Falcon，它们与闭源预训练模型如GPT-3和Chinchilla相媲美。但是，这些模型
技术狂潮AI·2023-12-06 19:56

LLM微调（二）| 微调LLAMA-2和其他开源LLM的两种简单方法

本文将介绍两种开源工具来微调LLAMA-2。一、使用autotrain-advanced微调LLAMA-2AutoTrain是一种无代码工具，用于为自然语言处理（NLP）任务、计算机视觉（CV）任务、语音任务甚至表格任务训练最先进的模型。1）安装相关库，使用huggingface_hub下载微调数据!pipinstallautotrain-advanced!pipinstallhuggingfac
wshzd·2023-12-06 19:25

面向LLM的App架构——业务维度

这是两篇面向LLM的大前端架构的第一篇，主要写我对LLM业务的认知以及由此推演出的大前端架构。由于我是客户端出身，所以主要以客户端角度来描述，并不影响对前端的适用性。
为啥强制昵称·2023-12-06 18:41

第30期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。
云起无垠·2023-12-06 15:50
上一页 62 63 64 65 66 67 68 69 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他