Python&LLM

LLM - LLaMA-2 获取文本向量并计算 Cos 相似度

目录一.引言二.获取文本向量1.hidden_states与last_hidden_states◆hidden_states◆last_hidden_states2.LLaMA-2获取hidden_states◆modelconfig◆getEmbedding三.获取向量Cos相似度1.向量选择2.Cos相似度3.BERT-whitening特征白化四.总结一.引言前面提到了两种基于统计的机器翻译
BIT_666·2023-09-02 12:21

LangChain 手记 Conclusion结语

DeepLearning.AI×LangChain的官方课程：ConclusionConclusion结语本系列短课展示了大量使用LangChain构建的大语言模型应用，包括处理用户反馈、文档上的问答系统甚至使用LLM
从流域到海域·2023-09-02 08:01

LLM笔记：几个重要的数字

1提示词40-90%：通过在prompt中添加“请简要回答”可节省的金额大模型服务通常按照返回结果中的词元数来收费，因此要求大模型精简回复能为你省下很多钱。除了在提示词中添加“简要回答”这样简单的做法，还有很多做法可以尝试，比如：GPT-4为你的提问自动生成了10条答案，如果明确要求它只生成5条，就可以节省一半的费用。1.3:1--每个单词的平均token数大模型通过词元（tokens）来处理和生
UQI-LIUWJ·2023-09-02 05:23

2023年人工智能GPT-4时代，最新13个ChatGPT商业市场AIGC应用正在掀起革命性变革！

目录前言ChatGPT商业应用——LLM是星辰大海1.研究背景1.1研究背景1.2研究方法2.商业应用和案例分析2.1工具层ChatGPT+搜索ChatGPT+办公ChatGPT+教育2.2行业层ChatGPT
小胡说人工智能·2023-09-02 03:26

本地部署 FastGPT

本地部署FastGPT1.FastGPT是什么2.部署FastGPT1.FastGPT是什么FastGPT是一个基于LLM大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。
engchina·2023-09-02 01:49

langchain中的LLM模型使用介绍

简介构建在大语言模型基础上的应用通常有两种，第一种叫做textcompletion,也就是一问一答的模式，输入是text，输出也是text。这种模型下应用并不会记忆之前的问题内容，每一个问题都是最新的。通常用来做知识库。还有一种是类似聊天机器人这种会话模式，也叫Chatmodels。这种模式下输入是一个ChatMessages的列表。从而可以保存上下文信息，让模型的回复更加真实。实际上Chatmo
flydean程序那些事·2023-09-01 22:10

LM-INFINITE: SIMPLE ON-THE-FLY LENGTH GENERALIZATION FOR LARGE LANGUAGE MODELS

本文是LLM系列文章，针对《LM-INFINITE:SIMPLEON-THE-FLYLENGTHGENERALIZATIONFORLARGELANGUAGEMODELS》的翻译。
UnknownBody·2023-09-01 21:29

Arabic-Centric Foundation and Instruction-Tuned Open Generative Large Language Models

本文是LLM系列文章，针对《JaisandJais-chat:Arabic-CentricFoundationandInstruction-TunedOpenGenerativeLargeLanguageModels
UnknownBody·2023-09-01 21:29

Holistic Evaluation of Language Models

本文是LLM系列文章，针对《HolisticEvaluationofLanguageModels》的翻译。
UnknownBody·2023-09-01 21:29

Introducing Language Guidance in Prompt-based Continual Learning

本文是LLM系列文章，针对《IntroducingLanguageGuidanceinPrompt-basedContinualLearning》的翻译。
UnknownBody·2023-09-01 21:27

LLM强势挺进端侧，AI大语言模型端侧部署如何影响超自动化？

▲图片由AI生成算力资源吃紧，成本居高不下，数据隐私泄露，用户体验不佳……以OpenAI为代表的大语言模型爆发后，多重因素影响之下本地化部署成为LLM落地的主流模式。
RPA中国·2023-09-01 19:51

文心一言接入Promptulate，开发复杂LLM应用程序

简介最近在尝试将文心一言的LLM能力接入Promptulate，故写了一篇博客记录一下，Promptulate是PromptulateAI旗下的大语言模型自动化与应用开发框架，旨在帮助开发者通过更小的成本构建行业级的大模型应用
Zeeland·2023-09-01 18:05

使用全套开源工具构建 LLM 应用实战：在 Dify 调用 Baichuan 开源模型能力

背景在当下开源大语言模型火热的背景下，有很大一部分开发者希望本地部署开源LLM，用于研究LLM或者是基于开源LLM构建自己的LLM应用。
·2023-09-01 15:09

是否在业务中使用大语言模型？

但LLM究竟是什么，它们如何使你的企业受益?它只是一种炒作，还是会长期存在?在这篇文章中我们将讨论上面这个问题并尝试解答为什么LLM对企业来说是一项伟大的投资，或者不是。是大炮打蚊子还是物尽其用？
deephub·2023-09-01 14:44

Large Language Models and Knowledge Graphs: Opportunities and Challenges

本文是LLM系列的文章，针对《LargeLanguageModelsandKnowledgeGraphs:OpportunitiesandChallenges》的翻译。
UnknownBody·2023-09-01 14:16

LangChain-Chatchat：基于LangChain和ChatGLM2-6B构建本地离线私有化知识库

一、前言自从去年GPT模型火爆以来，降低了很多个人和企业进入人工智能领域的门槛，对于大模型尤其是开源的大模型国内应该比较受关注和期待，毕竟高额的成本也能将不少人阻挡在门外，其次，大家都希望在产品中集成LLM
技术狂潮AI·2023-09-01 13:40

景联文科技：高质量AI数据标注助力大语言模型训练，推动人工智能落地应用

大语言模型在各类LLM新技术的融会贯通下，不断加速Instruction-tuning、RLHF、思维链等新技术在大语言模型中的深度应用，人工智能技术以惊人的速度不断进化。
景联文科技·2023-09-01 10:20

代码生成综述

代码生成大模型属于LLM模型的一个子类，理论来讲也是属于语言模型的一种特例。代码本身其实也是一种特殊的语言表示，所以代码模型的实现应该是具备通用自然语言和代码两部分的能力。
远洋之帆·2023-09-01 09:31

营销文案流水线化生产——agent llm

背景：做过工厂生产的朋友应该对生产流程：BOM、SOP这两个词不陌生，然而这两个词更厉害的地方在于标准化流程化作业。其实经过这么多轮迭代的内容生成，特别是和商业营销相关的数字化内容生成和其不是在追求标准化、流程化、定制化的生产链路。通过标准化、流程化、定制化的生产链路搭建，构建内容消费品的批量高效高质量同时能够做到个性化和差异化。在这样一个大背景下把工厂标准化生产的流程化作业引入内容生成似乎是有可
远洋之帆·2023-09-01 09:01

如何增长LLM推理token，从直觉到数学

背景：最近大模型输入上文长度增长技术点的研究很火。为何要增长token长度,为何大家如此热衷于增长输入token的长度呢？其实你如果是大模型比价频繁的使用者，这个问题应该不难回答。增长了输入token的长度，那需要多次出入才能得到最终解，得到多个结果需要自己拼接得到最好答案的问题，可以变成一把梭哈直接输出结果。因为上下文长度不够导致对话时候忘记前面讲什么问题、因为背景知识不够需要向量知识库补上下文
远洋之帆·2023-09-01 09:00

《向量数据库》——为何向量数据库对大模型LLM很重要？

当您浏览Twitter、LinkedIn或新闻源上的时间轴时，可能会看到一些关于聊天机器人、LLM和GPT的内容。因为每周都有新的LLM发布，很多人都在谈论LLM。
LCHub低代码社区·2023-09-01 08:54

聊聊检索增强，LangChain一把梭能行吗？

背景ChatGPT诞生之初，大家仿佛从中看到了未来：可以拿着大语言模型（LLM）这把锤子，锤遍业务上的钉子。
CompHub·2023-09-01 08:08

Decomposed Prompting: A MODULAR APPROACH FOR SOLVING COMPLEX TASKS

本文是LLM系列文章，针对《DecomposedPrompting:AMODULARAPPROACHFORSOLVINGCOMPLEXTASKS》的翻译。
UnknownBody·2023-09-01 04:33

Vector Search with OpenAI Embeddings: Lucene Is All You Need

本文是LLM系列文章，针对《VectorSearchwithOpenAIEmbeddings:LuceneIsAllYouNeed》的翻译。
UnknownBody·2023-08-31 21:26

Giraffe: Adventures in Expanding Context Lengths in LLMs

本文是LLM系列文章，针对《Giraffe:AdventuresinExpandingContextLengthsinLLMs》的翻译。
UnknownBody·2023-08-31 21:26

Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning

本文是LLM系列文章，针对《RelationExtractionasOpen-bookExamination:Retrieval关系提取作为开卷测试：检索增强提示调整摘要1引言2方法3实验4相关工作5结论摘要经过预训练的语言模型通过表现出显著的小样本学习能力
UnknownBody·2023-08-31 21:55

Truncation Sampling as Language Model Desmoothing

本文是LLM系列文章，针对《TruncationSamplingasLanguageModelDesmoothing》的翻译。
UnknownBody·2023-08-31 21:55

15个关于AI的Github库

这里是我们精选的创新项目列表（排名不分先后），这些项目正在机器学习和人工智能领域蓬勃发展1：privateGPT作者：imartinezGithub星数：16.7K描述：利用LLM的力量，在没有互联网连接的情况下询问有关您文档的问题
Omer_·2023-08-31 17:20

将 Llama2 中文模型接入 FastGPT，再将 FastGPT 接入任意 GPT 套壳应用，真刺激！

FastGPT是一个基于LLM大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过Flow可视化进行工作流编排，从而实现复杂的问答场景！
米开朗基杨·2023-08-31 11:32

是否在业务中使用大语言模型？

但LLM究竟是什么，它们如何使你的企业受益?它只是一种炒作，还是会长期存在?在这篇文章中我们将讨论上面这个问题并尝试解答为什么LLM对企业来说是一项伟大的投资，或者不是。是大炮打蚊子还是物尽其用？
·2023-08-31 11:58

ModaHub魔搭社区：AI Agent在操作系统场景下的AgentBench基准测试

近日，来自清华大学、俄亥俄州立大学和加州大学伯克利分校的研究者设计了一个测试工具——AgentBench，用于评估LLM在多维度开放式生成环境中的推理能力和决策能力。
LCHub低代码社区·2023-08-31 09:55

ModaHub魔搭社区：如何基于向量数据库+LLM（大语言模型），打造更懂你的企业专属Chatbot？

3、LLM大语言模型+ADB-PG:打造企业专属Chatbot4、ADB-PG:内置向量检索+全文检索的一站式企业知识数据库5、总结1、为什么Chatbot需要大语言模型+向量数据库?
LCHub低代码社区·2023-08-31 09:22

Multitask Vision-Language Prompt Tuning

本文是LLM系列文章，针对《MultitaskVision-LanguagePromptTuning》的翻译。
UnknownBody·2023-08-31 09:34

大模型（LLM）精选42篇论文及开源代码汇总

在今年各大顶会的获奖论文中，大模型方向屡战头筹，这不难预料，自OpenAI发布ChatGPT至今，全球大模型热潮尚未停息，国内外已有相当多的大模型陆续出现，有些大模型的功能甚至不输ChatGPT。在大模型“封神”的这段时间，相关的论文数量也十分吓人，我也拜读了不少优秀的作品，今天就精选了部分论文来和大家分享。目前整理了42篇大模型论文，论文原文以及开源代码也都一并打包了，需要的资源包的同学文末领取
深度之眼·2023-08-31 05:52

2023大型语言模型推荐技术进展综述: 分类、进展、问题、趋势.

原文链接：https://arxiv.org/pdf/2305.19860.pdfASurveyonLargeLanguageModelsforRecommendation文章目录内容摘要1.内容引言2.LLM
山科智能信息处理实验室·2023-08-31 05:59

[LLM] 大模型训练

微调：工具：https://github.com/huggingface/peft对chatGLM微调：https://github.com/hiyouga/ChatGLM-Efficient-Tuning/blob/main/README_zh.mdhttps://github.com/ramonvc/freegpt-webuilangchain学习：https://zhuanlan.zhihu
风可。·2023-08-31 04:23

【llm论文】Scaling Instruction-Finetuned Language Models

https://arxiv.org/pdf/2210.11416.pdf扩展任务数量；扩展模型大小；在chain-of-thought数据上微调。提高模型能力。
风可。·2023-08-31 03:20

LLMs之Code：Code Llama的简介、安装、使用方法之详细攻略

LLMs之Code：CodeLlama的简介、安装、使用方法之详细攻略导读：2023年08月25日(北京时间)，Meta发布了CodeLlama，一个可以使用文本提示生成代码的大型语言模型(LLM)。
一个处女座的程序猿·2023-08-30 23:49

In-Context Retrieval-Augmented Language Models

本文是LLM系列文章，针对《In-ContextRetrieval-AugmentedLanguageModels》的翻译。
UnknownBody·2023-08-30 20:53

Parallel Context Windows for Large Language Models

本文是LLM系列文章，针对《ParallelContextWindowsforLargeLanguageModels》的翻译。
UnknownBody·2023-08-30 20:20

打破对ChatGPT的依赖以及如何应对ChatGPT的错误和幻觉

ChatGPT成为了基于大语言模型(LLM)的聊天机器人的同义词。但是现在是时候停止对ChatGPT的痴迷，开始发现这个新世界中强大的替代品了。首先，让我们明确我们在讨论什么。
漫画生成工具开发者·2023-08-30 18:10

[Agent]开发---csvAgent开发

://python.langchain.com/docs/integrations/toolkits/csvcsvagent需要csv文件和模型，该方法在后台使用pandas方法去处理该文件，然后调用LLM
_Amber·2023-08-30 16:30

开源双语对话语言模型 ChatGLM-6B 本地私有化部署

本文首发于：https://www.licorne.ink/2023/08/llm-chatglm-6b-local-deploy/ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel
Initialization_·2023-08-30 16:49

ExpeL: LLM Agents Are Experiential Learners

本文是LLM系列文章，针对《ExpeL:LLMAgentsAreExperientialLearners》的翻译。
UnknownBody·2023-08-30 15:48

SeamlessM4T—Massively Multilingual & Multimodal Machine Translation

本文是LLM系列的文章，针对《SeamlessM4T—MassivelyMultilingual&MultimodalMachineTranslation》的翻译。
UnknownBody·2023-08-30 15:48

Diffuse, Attend, and Segment: Unsupervised Zero-Shot Segmentation using Stable Diffusion

本文是LLM系列文章，针对《Diffuse,Attend,andSegment:UnsupervisedZero-ShotSegmentationusingStableDiffusion》的翻译。
UnknownBody·2023-08-30 15:18

LARGE LANGUAGE MODEL AS AUTONOMOUS DECISION MAKER

本文是LLM系列文章，针对《LARGELANGUAGEMODELASAUTONOMOUSDECISIONMAKER》的翻译。
UnknownBody·2023-08-30 15:16

目标检测模型 pdf (记录链接后期学习)

LayoutParserpython版面分析工具layoutparser的安装和使用使用layoutparser包分析PDFhttps://github.com/Layout-Parser/layout-parserChatPDF|LLM
桂花很香,旭很美·2023-08-30 13:24

Gorilla LLM：连接海量 API 的大型语言模型

一、前言在当今这个数字化时代，大型语言模型（LLM）的发展突飞猛进，国内外涌现的大型语言模型（LLM）可谓是百花齐放，不管是开源还是闭源都出现了一些非常优秀的模型，然而在利用LLM进行应用开发的时候，会发现每个模型从部署
技术狂潮AI·2023-08-30 09:19

如何增强大型语言模型LLM的学习能力？

众所周知,ChatGPT模型它所学习到的知识都是截止到2021年,所以当我们向ChatGPT询问2021年以后发生的事情时,ChatGPT往往会给出完全错误的答案，另外我们还发现ChatGPT对一些常识性的问题,如历史或文学方面的问题，有时候也会给出一些错误答案,这有可能是ChatGPT模型没有学习到相关知识所造成的。但是百度搜索却能给出我们正确答案：如何让ChatGPT学习到2021年以后的知识
-派神-·2023-08-30 08:04
上一页 86 87 88 89 90 91 92 93 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他