Python&LLM 第83页

用向量数据库Milvus Cloud 搭建AI聊天机器人

加入大语言模型（LLM）接着，需要在聊天机器人中加入LLM。这样，用户就可以和聊天机器人开展对话了。本示例中，我们将使用OpenAIChatGPT背后的模型服务：GPT-3.5。

LCHub低代码社区·2023-10-05 08:22

Boost程序库完全开发指南：1.2-C++基础知识点梳理

主要整理了N多年前（2010年）学习C++的时候开始总结的知识点，好长时间不写C++代码了，现在LLM量化和推理需要重新学习C++编程，看来出来混迟早要还的。

NLP工程化·2023-10-05 06:17

Llama2-Chinese项目：7-外延能力LangChain集成

1.调用Llama2类针对LangChain[1]框架封装的Llama2LLM类见examples/llama2_for_langchain.py，调用代码如下所示：fromllama2_for_langchainimportLlama2

NLP工程化·2023-10-05 05:08

CUDA C编程权威指南：1.1-CUDA基础知识点梳理

主要整理了N多年前（2013年）学习CUDA的时候开始总结的知识点，好长时间不写CUDA代码了，现在LLM推理需要重新学习CUDA编程，看来出来混迟早要还的。

NLP工程化·2023-10-05 05:06

ChainForge：衡量Prompt性能和模型稳健性的GUI工具包

ChainForge可以通过聊天节点对多个对话可以使用不同的llm并行运行。可以对聊天消息进行模板化，并且可以在此过程中为每个节点更新和更改底层LLM。聊天节点对于会话接口的生成审计非常重要。

deephub·2023-10-04 22:36

Kaggle - LLM Science Exam上：赛事概述、数据收集、BERT Baseline

文章目录一、赛事概述1.1OpenBookQADataset1.2比赛背景1.3评估方法和代码要求1.4比赛数据集1.5优秀notebook二、BERTBaseline2.1数据预处理2.2定义data_collator2.3加载模型，配置trainer并训练2.4预测结果并提交2.5相关优化前言：国庆期间哪也没去，重装了win10，conda和python环境，然后重点解读Kaggle-LL

神洛华·2023-10-04 20:01

【Java-LangChain:使用 ChatGPT API 搭建系统-1】简介

使用ChatGPT不仅仅是一个单一的Prompt或单一的模型调用，本课程将分享使用LLM构建复杂应用的最佳实践。

df007df·2023-10-04 19:29

AI数据技术02：RAG数据检索

RAG使用大型语言模型（LLM）等工具将信息检索的强大功能与自然语言生成无缝结合，为内容创建提供了一种变革性的方法。

无水先生·2023-10-04 13:17

为什么现在的LLM都是Decoder only的架构？

LLM是“LargeLanguageModel”的简写，目前一般指百亿参数以上的语言模型，主要面向文本生成任务。

TFATS·2023-10-04 12:38

【Java-LangChain:使用 ChatGPT API 搭建系统-2】语言模型，提问范式与 Token

第二章语言模型，提问范式与Token在本章中，我们将和您分享大型语言模型（LLM）的工作原理、训练方式以及分词器（tokenizer）等细节对LLM输出的影响。

df007df·2023-10-04 10:32

大规模语言模型--训练成本

目前，基于Transformers架构的大型语言模型(LLM)，如GPT、T5和BERT，已经在各种自然语言处理(NLP)任务中取得了SOTA结果。

hanscalZheng·2023-10-03 23:20

【LLM】主流大模型体验（文心一言科大讯飞字节豆包百川阿里通义千问商汤商量）

note智谱AI体验百度文心一言体验科大讯飞大模型体验字节豆包百川智能大模型阿里通义千问商汤商量简要分析：仅从测试“老婆饼为啥没有老婆”这个问题的结果来看，chatglm分点作答有条理（但第三点略有逻辑问题）；字节豆包的说法有点胡扯，老婆饼怎么会像低头微笑的女子；百川智能效果还行，把老婆饼的配料和名字缘由都讲了，逻辑也通；阿里通义千问和百度某个答案一毛一样哈哈。欢迎大家提出有意思的case，分享测

山顶夕景·2023-10-03 15:02

Mind Map：大语言模型中的知识图谱提示激发思维图10.1+10.2

露葵025·2023-10-03 13:56

【Java-LangChain:使用 ChatGPT API 搭建系统-11】用 ChatGPT API 构建系统总结篇

第十一章，用ChatGPTAPI构建系统总结篇本课程详细介绍了LLM工作原理，包括分词器（tokenizer）的细节、评估用户输入的质量和安全性的方法、使用思维链作为Prompt、通过链式Prompt分割任务以及返回用户前检查输出等

df007df·2023-10-03 12:26

【Java-LangChain:使用 ChatGPT API 搭建系统-9】评估（上）-存在一个简单的正确答案时

第九章，评估（上）-存在一个简单的正确答案时在之前的章节中，我们展示了如何使用LLM构建应用程序，包括评估输入、处理输入以及在向用户显示输出之前进行最终输出检查。

df007df·2023-10-03 12:56

【Java-LangChain:使用 ChatGPT API 搭建系统-10】评估（下）-当不存在一个简单的正确答案时

第十章，评估（下）-当不存在一个简单的正确答案时在上一章中，了解了如何评估LLM模型在有明确正确答案的情况下的输出，我们可以编写一个函数来判断LLM输出是否正确地分类并列出产品。

df007df·2023-10-03 12:56

ChatGPT简单科普

它还不能够产生意识，只是一个LLM（大语言模型），它还缺少一些灵魂和意识构成的本质要素，比如它对生存延续没有具体的概念和实现途径，对死亡也没有恐惧和敬畏。

大囚长·2023-10-03 01:06

算法框架-LLM-1-Prompt设计（一）

原文：算法框架-LLM-1-Prompt设计（一）-知乎目录收起1prompt-engineering-for-developers1.1PromptEngineering1.1.1提示原则1.openai

javastart·2023-10-02 22:57

基于大语言模型的智能问答系统应该包含哪些环节？

一个完整的基于LLM的端到端问答系统，应该包括用户输入检验、问题分流、模型响应、回答质量评估、Prompt迭代、回归测试，随着规模增大，围绕Prompt的版本管理、自动化测试和安全防护也是重要的话题，本篇文章就来探索下这个过程

Python算法实战·2023-10-02 21:29

【Java-LangChain:面向开发者的提示工程-5】推断

LLM的一个非常好的特点是

df007df·2023-10-02 20:21

【Java-LangChain:面向开发者的提示工程-4】文本概括

但欣喜的是，目前LLM在文本概括任务上展现了强大的水准，也已经有不少团队将概括功能实现在多种应用中。本章节将介绍如何使用编程的方式，调用API接口来实现“文本概括”功能。

df007df·2023-10-02 20:38

【Java-LangChain:面向开发者的提示工程-6】文本转换

第六章文本转换LLM非常擅长将输入转换成不同的格式，典型应用包括多语种文本翻译、拼写及语法纠正、语气调整、格式转换等。本章节将介绍如何使用编程的方式，调用API接口来实现“文本转换”功能。

df007df·2023-10-02 19:20

Java-langchain：在Java环境中构建强大的基于LLM的应用程序

在(企业)Java环境中构建强大的基于LLM的应用程序。这里持续连载详细的Java入门的LLM学习课程。

df007df·2023-10-02 19:50

阅读LINGO-1: Exploring Natural Language for Autonomous Driving

2Motivation大型语言模型LLM在AI领域研究和应用越来越多。

EEPI·2023-10-02 19:37

[DeepSpeed]RuntimeError: output tensor must have the same type as input tensor

最近在跑chatglm2的sft的时候出现了下面的错误，我的运行方式是bf16,deepspeedzero3，因为担心fp16会有很多的nan.File"/home/suser/.conda/envs/llm

农民小飞侠·2023-10-02 10:39

手动实现Transformer

Transformer和BERT可谓是LLM的基础模型，彻底搞懂极其必要。

NLP工程化·2023-10-02 00:04

AutoDL初体验

搞了个4090体验一下，一小时只要两块五（主要是，之前没有GPU，好多想玩的LLM开源项目都体验不了，实在是太难受了)文章目录AutoDL初体验一.注册及认证二.租用实例三.如何开放端口四.我的几个测试

临风而眠·2023-10-01 16:43

ChatGPT Prompting开发实战（十）

一、关于文本内容翻译/语法检查/格式转换等相关任务的prompt开发使用LLM可以完成以下关于文本内容的任务：-识别文本内容使用的语言，并且根据需要翻译为另外的语言-输入一段文本，让模型来检查是否有拼写或者语法方面的错误

m0_49380401·2023-10-01 15:06

ChatGPT Prompting开发实战（十一）

一、根据用户评论编写prompt生成定制化的客户服务邮件设想客户服务部门会收集很多用户针对购买的产品的使用评论，那么可以利用LLM来分析每个评论的内容所表达的是正面的反馈还是负面的反馈，然后自动生成相应的定制化的致客户的服务邮件

m0_49380401·2023-10-01 15:06

ChatGPT Prompting开发实战（十二）

一、如何开发prompts实现个性化的对话方式通过设置“system”和“user”等roles，可以实现个性化的对话方式，并且可以结合参数“temperature”的设定来差异化LLM的输出内容。

m0_49380401·2023-10-01 15:05

LLM之Colossal-LLaMA-2：Colossal-LLaMA-2的简介、安装、使用方法之详细攻略

LLM之Colossal-LLaMA-2：Colossal-LLaMA-2的简介、安装、使用方法之详细攻略导读：2023年9月25日，Colossal-AI团队推出了开源模型Colossal-LLaMA

一个处女座的程序猿·2023-09-30 19:49

本地部署川虎 Chat

本地部署川虎Chat1.川虎Chat项目概述2.Github地址3.部署川虎Chat4.配置config.json5.启动川虎Chat1.川虎Chat项目概述为ChatGPT等多种LLM提供了一个轻快好用的

engchina·2023-09-30 15:12

LongLoRA:不需要大量计算资源的情况下增强了预训练语言模型的上下文能力

训练LLM往往需要大量信息和花费大量的时间和计算机能力。使用大量数据(上下文长度为8192)进行训练所需的计算机能力是使用较少数据(上下文长度为2048)的16倍。LongLoR

deephub·2023-09-30 12:04

【论文极速读】Prompt Tuning——一种高效的LLM模型下游任务适配方式

【论文极速读】PromptTuning——一种高效的LLM模型下游任务适配方式FesianXu20230928atBaiduSearchTeam前言PromptTuning是一种PEFT方法（Parameter-EfficientFineTune

FesianXu·2023-09-30 02:21

大语言模型LLM知多少？

你知道哪些流行的大语言模型？你都体验过哪写？GPT-4，Llamma2,T5,BERT还是BART?1.GPT-41.1.GPT-4模型介绍GPT-4（GenerativePre-trainedTransformer4）是由OpenAI开发的一种大型语言模型。GPT-4是前作GPT系列模型的进一步改进，旨在提高语言理解和生成的能力，并在多个自然语言处理任务上取得更好的性能。GPT-4模型基于Tra

Entropy-Go·2023-09-30 01:04

LLM应用的技术栈与设计模式详解

在这篇文章中，我们将分享新兴LLM应用程序的参考架构。它展示了我们所见过的人工智能初创公司和先进科技公司使用的最常见的系统、工具和设计模式。

新缸中之脑·2023-09-30 00:38

大语言模型（LLM）分布式训练框架总结

有一份来自OpenAI的研究报告(Scalinglawsforneurallanguagemodels)曾经指出模型的性能常与模型的参数规模息息相关，那么如何训练一个超大规模的LLM也是大家比较关心的问题

PaperWeekly·2023-09-30 00:07

LIDA:让LLM自动可视化数据-《LIDA: A Tool for Automatic Generation of Grammar-Agnostic Visualizations and Info》

1.简介LIDA用LLM来自动对数据进行可视化，其基本信息如下：论文名称：LIDA:AToolforAutomaticGenerationofGrammar-AgnosticVisualizationsandInfographicsusingLargeLanguageModels

chencjiajy·2023-09-29 22:56

戒慎乎不睹，大模型体验记

简单来说，所谓的大模型是大语言模型之简称，英文一般称为LargeLanguageModels，简称LLM。与上一波AI技术的浪潮以图像识别为主不同，这一波的主要形式是聊天，通过文字问答。

advdbgger·2023-09-29 14:46

大模型长上下文运行的关键问题

上下文长度的增加是LLM的一个显著发展趋势。

OneFlow深度学习框架·2023-09-29 12:25

揭秘编码器与解码器语言模型

通过LLM进化树（github.com/Mooler0410/LLMsPracticalGuide）来看，这些语言模型主要分为三类：一是“仅编码器”，该类语言模型擅长文本理解，因为它们允许信息在文本的两个方向上流动

OneFlow深度学习框架·2023-09-29 12:24

在亚马逊云科技Amazon SageMaker上部署构建聊天机器人的开源大语言模型

开源大型语言模型（LLM）已经变得流行起来，研究人员、开发人员和组织都可以使用这些模型来促进创新和实验。这促进了开源社区开展合作，从而为LLM的开发和改进做出贡献。

caijingshiye·2023-09-29 09:53

Open Book LLM Science Exam

国庆期间，抽空找个baseline继续学习一波https://www.kaggle.com/code/jjinho/open-book-llm-science-exam/notebook首先将维基百科数据都保存为

YueTann·2023-09-29 03:04

MLC LLM

MLCLLM是一种通用解决方案，它允许将任何语言模型本地部署在各种硬件后端和本地应用程序上，此外还提供了一个高效的框架，供每个人根据自己的用例进一步优化模型性能。我们的使命是让每个人都能在每个人的设备上本地开发、优化和部署AI模型。一切都在本地运行，无需服务器支持，并通过手机和笔记本电脑上的本地GPU加速。支持的平台包括：

AI生成式曾小健2·2023-09-29 01:30

hhh百度地铁广告太搞笑了；24家国内大模型公司面经；LLM法律应用实践；AI+教育产品图谱与工作流 | ShowMeAI日报

日报&周刊合集|生产力工具与行业应用大全|点赞关注评论拜托啦！会玩儿！承包地铁专列，真人移动广告|百度世界大会预热百度也是会玩儿！承包了北京地铁一号线的「大模型专列」，贴满了大语言模型和生成式AI相关主题的内饰，还有真(shuai)人(ge)版移动广告！广告板上密密集集全是梗，精准戳中我的笑点啊~知道了知道了，百度要开大会了https://baiduworld.baidu.com/m/world/

ShowMeAI·2023-09-28 23:11

【云上探索实验室】编程范式变革进行时——CodeWhisperer实践全流程及测评分析报告

目录一、基于LLM的辅助编程——编程范式变革进行时二、CodeWhisperer+VSCode安装与配置2.1、扩展安装2.2、配置三、CodeWhisperer实践全流程3.1、CodeWhisperer

中杯可乐多加冰·2023-09-28 19:53

ChatGPT 在机器学习中的应用

我们来测试一下吧请记住，以下信息只是LLM生成的信息，可能完全不正确。二、热门榜单在本节中，我将测试各个领域中机器学习最常见

无水先生·2023-09-28 13:10

《大模型AIGC系列课程》大纲

第1章：初识ChatGPT【大模型AIGC系列课程1-1】ChatGPT与OpenAIAPI的应用【大模型AIGC系列课程1-2】创建并部署自己的ChatGPT机器人第2章：LLM的第二大脑【大模型AIGC

小爷毛毛（卓寿杰）·2023-09-28 11:01

大模型技术实践（四）｜参数高效微调技术解析及AdaLoRA的应用

在上一期的大模型技术实践中，我们为大家介绍了基于“LangChain+LLM”框架快速搭建知识增强后的问答机器人，并探讨了提升模型内容理解和执行能力的潜在优化方向。

AI 研习所·2023-09-28 03:26

推荐频道

Python&LLM