大模型微调:从零到实践,掌握AI大模型的核心技能
之之为知知
12大模型人工智能机器学习特征工程pytorch深度学习大模型微调
大模型微调:从零到实践,掌握AI大模型的核心技能引言大规模语言模型(如DeepSeek、通义千问)的出现,彻底改变了自然语言处理的格局。这些模型不仅在学术界取得了突破性进展,在工业界也得到了广泛应用。对于许多初学者来说,直接训练一个完整的大型语言模型可能显得遥不可及。幸运的是,微调(Fine-tuning)技术为我们提供了一条捷径,让我们可以基于已有的预训练模型,针对特定任务进行调整,从而快速实现
oracle health check,ORACLE SQL Tuning Health-Check(SQLHC)
爱护哼哼
oraclehealthcheck
一条sql语句的性能主要依赖于好的物理结构,准确的系统统计数据,准确的对象统计数据,合理的查询优化器参数,合理的系统参数.这些数据也就是CBO计算的基本参数,SQLHC(文档ID1366133.1)正是为用户提供sql的这些数据,来辅助sql调优.特别适合无法在客户环境中调优的情况,SQLHC虽然没有SQLT(文档ID215187.1)更强大,但不需要在采集的库上建用户,会被更多的客户所接受.以下
高通平台的 Camera HAL 架构解析:QCamera 与 CHI HAL 实战剖析
高通平台的CameraHAL架构解析:QCamera与CHIHAL实战剖析关键词:QCamera3、CHIHAL、QTICameraStack、HAL3、CamX、ISPPipeline、QCamera调试、Snapdragon成像架构、CameraDriver协同摘要:高通平台是Android移动终端中主流的SoC方案之一,其CameraHAL架构发展历程丰富,从传统QCamera到模块化CHI
CameraService 源码解读(一):服务注册与启动流程全路径解析
观熵
视觉项目实战:从YOLO到行业解决方案Camera影像linux
CameraService源码解读(一):服务注册与启动流程全路径解析关键词:CameraService、cameraserver、ServiceManager、AIDL接口、native启动流程、Binder注册、CameraProviderManager、AOSP源码分析摘要:本篇文章聚焦AOSP相机系统核心服务CameraService的注册与启动过程,基于Android14最新源码链路,逐
Prompt Engineering(提示词工程)基础了解
Fuly1024
LLMprompt
参考:https://blog.csdn.net/qq_56438555/article/details/1448865171.基础概念:提示词工程(promptEngineering)是指通过设计、优化输入给大语言模型的文本指令(即“提示词”),引导LLM输出我们期望的结果。让大模型在无需微调(Fine-tuning)的情况下,通过“更好的提问方式”完成复杂任务(开发潜力,不会的还是不会)。但是
Android Camera 框架全景解析1
记录美好
android相机学习androidlinux性能优化程序人生c++
AndroidCamera框架全景解析一、AndroidCamera概述1.1相机模块的重要性1.2核心设计目标二、AndroidCamera架构解析2.1分层架构设计2.1.1app层2.1.2fwk层2.1.3hal层详解2.1.3.1基本概念与架构定位2.1.3.2架构分层与核心组件2.1.3.2.1分层结构2.1.3.2.2关键组件解析2.1.3.2.3核心工作流程2.1.3.2.3.1初
想进大厂?LLMs 10道面试题提前看,有问有答,图文详解!
AI大模型-大飞
人工智能大模型chatgpt产品经理AI程序员大模型面试题
一、微调与优化21、LLM的微调流程是什么?微调(Fine-tuning)LLMs指的是在特定任务或数据上对预训练好的模型进行进一步训练,使其能更好地适应目标场景的过程,其主要流程如下:数据准备:数据收集:根据目标任务收集高质量、有代表性的数据;数据预处理:对原始数据进行清洗,如去除噪声、重复项、不相关内容等。根据模型输入要求对数据进行格式化;数据划分:将数据分为训练集、验证集和测试集,为后续模型
【美团3面】大模型面试题详解:大模型使用几十条数据微调后为啥性能差的很多?
AI大模型-王哥
产品经理大模型学习AI大模型人工智能大模型大模型教程程序员
一个很有意思的回答:大模型的LossLandscape是由多个“Basin”(盆地)组成的,而不是一个平滑的曲面。如果微调(Fine-Tuning)的优化方向偏离了BasicCapacityBasin,就可能容易训崩掉,虽然训崩的概率不大。大模型(如LLM)在预训练阶段通过海量数据学习,优化出一个“基本能力盆地”(BasicCapacityBasin),这个Basin代表模型具备通用语言理解、生成
Android Camera之createCaptureSession()
菜鸡UP
AndroidCameraandroid
前言在openCamera成功之后,便会调用createCaptureSession()进行配置操作,CaptureSession是APP与Camera设备之间的通道,从camera获取图像,或者是Reprocess图像,APP对Camera设备的控制都是通过这个CaptureSession来完成的createCaprureSession的整个过程从App调用createCaptureSessio
Android Studio中调用USB摄像头
yuyu_0304
androidstudioandroidide
在AndroidStudio中调用USB摄像头,通常要借助Android的USBHostAPI或第三方UVC(USBVideoClass)库。下面是一个基于开源UVCCamera项目的示例流程和代码(Java):1.添加依赖在app/build.gradle中加入UVCCamera库(以saki4510t的UVCCamera为例):dependencies{//UVCCamera核心库implem
Camera图像处理原理及实例分析-重要图像概念
xw面朝大海
图像处理
Camera图像处理原理及实例分析做为拍照手机的核心模块之一,camerasensor效果的调整,涉及到众多的参数,如果对基本的光学原理及sensor软/硬件对图像处理的原理能有深入的理解和把握的话,对我们的工作将会起到事半功倍的效果。否则,缺乏了理论的指导,只能是凭感觉和经验去碰,往往无法准确的把握问题的关键,不能掌握sensor调试的核心技术,无法根本的解决问题。1.1色彩感应及校正1.1.1
论文笔记:EMR-MERGING: Tuning-Free High-Performance Model Merging
UQI-LIUWJ
论文笔记论文阅读
2024neurips1intro随着HuggingFace、timm和torchvision等开源仓库的发展,预训练与微调模型的数量激增,这导致模型部署的存储和成本负担加重。多任务学习(MTL)通过联合训练多数据集来部分缓解上述问题,但它存在以下缺陷:(i)计算成本高;(ii)隐私数据限制导致数据不可获取因此,近年来出现了**模型融合(modelmerging)**方法,试图通过权重合并的方式绕
Android Camera openCamera
星空梦想plus
我与相机android相机
由头今日调休,终于终于闲下来了,可以写一下博客了,刚好打开自己电脑,就有四年前下的谷歌Android12源码,不是很旧,刚好够用,不用再另外下载新源码了,不得不感慨这时间过得真快啊~废话不多说,开整!过程分解我们知道Camera操作过程中最重要的四个步骤(这边仅先以preview,capture流说明,video流还得另说):CameraManager–>openCamera—>打开相机Camer
非全日制用工员工无须缴纳工伤保险
维特悟予
案情:吕某与上海市某餐饮管理公司签订了非全日制劳动合同后,成为了该公司的非全日制员工。其劳动合同约定,吕某每天的工作时间是3小时,公司按每小时9元的标准向吕某支付工资,该工资中包含了吕某的社会保险费。但吕某在领到工资时并没有委托当地的职业介绍机构为自己代理缴纳社会保险费。一个月后的一天,吕某在工作中发生工伤事故,造成右臂多处骨折,并失去部分功能。经有关部门鉴定后,评为伤残6级,符合部分丧失劳动能力
大模型微调技术的详细解析及对比
老兵发新帖
人工智能大数据
以下是四种主流大模型微调技术的详细解析及对比,结合技术原理、适用场景与性能表现进行说明:1.Full-tuning(全量微调)核心原理:加载预训练模型的所有参数,用特定任务数据(通常为指令-回答对)继续训练,更新全部权重。相当于对模型整体知识结构进行重构。操作流程:加载预训练模型;用任务数据集(如分类文本)和优化目标(如最小化误差)训练;所有参数参与梯度更新。优势:模型充分学习任务特征,效果通常最
大模型训练中的“训练阶段”(如Pre-training、SFT、RLHF等)与“微调技术”
老兵发新帖
人工智能深度学习机器学习
大模型训练中的“训练阶段”(如Pre-training、SFT、RLHF等)与“微调技术”(如Full-tuning、Freeze-tuning、LoRA、QLoRA)是两类不同维度的概念,二者共同构成模型优化的完整流程。以下是二者的关系解析及技术对照:一、训练阶段的核心流程与目标预训练(Pre-training)目标:在无标注通用数据(如互联网文本)上训练模型,学习语言、视觉等通用特征。微调技术
基于小样本学习的图像分类综述
cdyyyyyyy
学习分类机器学习
目录引言基本概念小样本学习方法分类1、数据增强2、迁移学习3、元学习小样本学习主流方法1、基于度量的小样本学习2、基于Pretraining+FineTuning的方法3、基于元学习的小样本学习总结引言因为课程设计要求,所以进行了关于小样本学习的调研。目前小样本学习还是一个比较热门的研究,很多关于小样本学习的论文也陆续发表。本文只是一个概述,具体方法研究还有待深入。基本概念小样本学习(FSL:Fe
Android 系统设置,“隐私”中关闭相机权限
Android系统设置中,“隐私”里面,有一项是关于“摄像头使用权限”,如果关闭了,则所有的app都没法正常去打开相机。我们如果需要做类似禁用相机的功能,也是可以参考该部分的代码流程逻辑。这一功能涉及到的相关代码,如下图所示。CameraService.cpp---------CameraService.cppSetcameramutingbehaviorbool isCameraPrivacyE
视频直播源码在Android端实现1对1音视频实时通话
程序员老舅
音视频开发进阶音视频androidstudio视频编解码webrtc实时音视频
我们要使用WebRTC进行音视频互动时需要申请访问硬件的权限,至少要申请以下三种权限Camera权限RecordAudio权限Intenet权限在Android中,申请权限分为静态权限申请和动态权限申请,这对于做Android开发的同学来说已经是习以为常的事情了。下面我们就看一下具体如何申请权限:静态权限申请在Android项目中的AndroidManifest.xml中增加以下代码:视频直播源码
Android Camera内核级驱动程序设计
荣敢飞
Android驱动学习2android嵌入式硬件人工智能linux
Camera内核级驱动程序设计一硬件抽象层HAL分析——分析打开设备流程和拍照流程二Ov5640摄像头驱动程序一、硬件抽象层HAL分析——分析打开设备流程和拍照流程首先找到摄像头代码——在vendor…libcamera中只找到对应的.so文件,说明没有开源实际的路径是在hardware/samsung目录下——就是对应平台Rockchip等也是secCameraHWInterface.cpp1、
Android Camera驱动分析
Mr.How
MTK智能机安卓驱动工作小记androidCamera摄像头驱动
文章目录一、Camera的硬件接口二、代码路径三、Camera代码分析1、硬件接口设置2、Camera设备驱动3、模组驱动代码一、Camera的硬件接口引脚名称及作用VCAMA就是AVDD,模拟供电,主要给感光区和ADC部分供电,2.8VVCAMD就是DVDD,数字供电,主要给 ISP 供电,1.2VVCAM_IO就是VDDIO,数字IO供电,主要给 I2C 部分供电,1.8VVCAM_AF自动对
camera驱动电源配置_Camera driver&V4L2驱动架构介绍
大约一年前写的东西,介绍性部分是当时在网络上找的内容,后面的分析部分是基于当时的项目,基于MavellPxa920,希望对初学者有点点的帮助吧。转载请注明出。1.Camera相关介绍1.1.手机Camera介绍手机的数码相机功能指的是手机通过内置数码相机进行拍摄静态图片或短片拍摄,作为手机的一项新的附加功能,手机的数码相机功能得到了迅速的发展。手机摄像头分为内置与外置,内置摄像头是指摄像头在手机内
相机驱动:从按下快门到照片成型的全揭秘
你一身傲骨怎能输
Android操作系统数码相机
文章摘要本文用照相馆拍照的比喻形象展示了摄像机驱动的工作流程:用户(App)提出拍照请求,CameraService(前台)接收并转达给HAL层(摄影师),HAL配置参数后交由内核驱动(助手)操作硬件(相机)采集数据。数据经过驱动→HAL→Service→App逐层传回。整个流程分层协作,涵盖应用请求、框架调度、硬件抽象、驱动操作和硬件采集五个关键环节,生动诠释了从用户指令到图像获取的完整链路。一
论文阅读:LLaVA1.5:Improved Baselines with Visual Instruction Tuning
微风❤水墨
LLM&AIGC&VLPLLM
论文:https://arxiv.org/abs/2310.03744代码:https://github.com/haotian-liu/LLaVA#train微调:https://github.com/haotian-liu/LLaVA/blob/main/docs/Finetune_Custom_Data.md模型论文时间VisionEncoderVLAdapterProjectionLaye
Java 并发包之线程池和原子计数
lijingyao8206
Java计数ThreadPool并发包java线程池
对于大数据量关联的业务处理逻辑,比较直接的想法就是用JDK提供的并发包去解决多线程情况下的业务数据处理。线程池可以提供很好的管理线程的方式,并且可以提高线程利用率,并发包中的原子计数在多线程的情况下可以让我们避免去写一些同步代码。
这里就先把jdk并发包中的线程池处理器ThreadPoolExecutor 以原子计数类AomicInteger 和倒数计时锁C
java编程思想 抽象类和接口
百合不是茶
java抽象类接口
接口c++对接口和内部类只有简介的支持,但在java中有队这些类的直接支持
1 ,抽象类 : 如果一个类包含一个或多个抽象方法,该类必须限定为抽象类(否者编译器报错)
抽象方法 : 在方法中仅有声明而没有方法体
package com.wj.Interface;
[房地产与大数据]房地产数据挖掘系统
comsci
数据挖掘
随着一个关键核心技术的突破,我们已经是独立自主的开发某些先进模块,但是要完全实现,还需要一定的时间...
所以,除了代码工作以外,我们还需要关心一下非技术领域的事件..比如说房地产
&nb
数组队列总结
沐刃青蛟
数组队列
数组队列是一种大小可以改变,类型没有定死的类似数组的工具。不过与数组相比,它更具有灵活性。因为它不但不用担心越界问题,而且因为泛型(类似c++中模板的东西)的存在而支持各种类型。
以下是数组队列的功能实现代码:
import List.Student;
public class
Oracle存储过程无法编译的解决方法
IT独行者
oracle存储过程
今天同事修改Oracle存储过程又导致2个过程无法被编译,流程规范上的东西,Dave 这里不多说,看看怎么解决问题。
1. 查看无效对象
XEZF@xezf(qs-xezf-db1)> select object_name,object_type,status from all_objects where status='IN
重装系统之后oracle恢复
文强chu
oracle
前几天正在使用电脑,没有暂停oracle的各种服务。
突然win8.1系统奔溃,无法修复,开机时系统 提示正在搜集错误信息,然后再开机,再提示的无限循环中。
无耐我拿出系统u盘 准备重装系统,没想到竟然无法从u盘引导成功。
晚上到外面早了一家修电脑店,让人家给装了个系统,并且那哥们在我没反应过来的时候,
直接把我的c盘给格式化了 并且清理了注册表,再装系统。
然后的结果就是我的oracl
python学习二( 一些基础语法)
小桔子
pthon基础语法
紧接着把!昨天没看继续看django 官方教程,学了下python的基本语法 与c类语言还是有些小差别:
1.ptyhon的源文件以UTF-8编码格式
2.
/ 除 结果浮点型
// 除 结果整形
% 除 取余数
* 乘
** 乘方 eg 5**2 结果是5的2次方25
_&
svn 常用命令
aichenglong
SVN版本回退
1 svn回退版本
1)在window中选择log,根据想要回退的内容,选择revert this version或revert chanages from this version
两者的区别:
revert this version:表示回退到当前版本(该版本后的版本全部作废)
revert chanages from this versio
某小公司面试归来
alafqq
面试
先填单子,还要写笔试题,我以时间为急,拒绝了它。。时间宝贵。
老拿这些对付毕业生的东东来吓唬我。。
面试官很刁难,问了几个问题,记录下;
1,包的范围。。。public,private,protect. --悲剧了
2,hashcode方法和equals方法的区别。谁覆盖谁.结果,他说我说反了。
3,最恶心的一道题,抽象类继承抽象类吗?(察,一般它都是被继承的啊)
4,stru
动态数组的存储速度比较 集合框架
百合不是茶
集合框架
集合框架:
自定义数据结构(增删改查等)
package 数组;
/**
* 创建动态数组
* @author 百合
*
*/
public class ArrayDemo{
//定义一个数组来存放数据
String[] src = new String[0];
/**
* 增加元素加入容器
* @param s要加入容器
用JS实现一个JS对象,对象里有两个属性一个方法
bijian1013
js对象
<html>
<head>
</head>
<body>
用js代码实现一个js对象,对象里有两个属性,一个方法
</body>
<script>
var obj={a:'1234567',b:'bbbbbbbbbb',c:function(x){
探索JUnit4扩展:使用Rule
bijian1013
java单元测试JUnitRule
在上一篇文章中,讨论了使用Runner扩展JUnit4的方式,即直接修改Test Runner的实现(BlockJUnit4ClassRunner)。但这种方法显然不便于灵活地添加或删除扩展功能。下面将使用JUnit4.7才开始引入的扩展方式——Rule来实现相同的扩展功能。
1. Rule
&n
[Gson一]非泛型POJO对象的反序列化
bit1129
POJO
当要将JSON数据串反序列化自身为非泛型的POJO时,使用Gson.fromJson(String, Class)方法。自身为非泛型的POJO的包括两种:
1. POJO对象不包含任何泛型的字段
2. POJO对象包含泛型字段,例如泛型集合或者泛型类
Data类 a.不是泛型类, b.Data中的集合List和Map都是泛型的 c.Data中不包含其它的POJO
 
【Kakfa五】Kafka Producer和Consumer基本使用
bit1129
kafka
0.Kafka服务器的配置
一个Broker,
一个Topic
Topic中只有一个Partition() 1. Producer:
package kafka.examples.producers;
import kafka.producer.KeyedMessage;
import kafka.javaapi.producer.Producer;
impor
lsyncd实时同步搭建指南——取代rsync+inotify
ronin47
1. 几大实时同步工具比较 1.1 inotify + rsync
最近一直在寻求生产服务服务器上的同步替代方案,原先使用的是 inotify + rsync,但随着文件数量的增大到100W+,目录下的文件列表就达20M,在网络状况不佳或者限速的情况下,变更的文件可能10来个才几M,却因此要发送的文件列表就达20M,严重减低的带宽的使用效率以及同步效率;更为要紧的是,加入inotify
java-9. 判断整数序列是不是二元查找树的后序遍历结果
bylijinnan
java
public class IsBinTreePostTraverse{
static boolean isBSTPostOrder(int[] a){
if(a==null){
return false;
}
/*1.只有一个结点时,肯定是查找树
*2.只有两个结点时,肯定是查找树。例如{5,6}对应的BST是 6 {6,5}对应的BST是
MySQL的sum函数返回的类型
bylijinnan
javaspringsqlmysqljdbc
今天项目切换数据库时,出错
访问数据库的代码大概是这样:
String sql = "select sum(number) as sumNumberOfOneDay from tableName";
List<Map> rows = getJdbcTemplate().queryForList(sql);
for (Map row : rows
java设计模式之单例模式
chicony
java设计模式
在阎宏博士的《JAVA与模式》一书中开头是这样描述单例模式的:
作为对象的创建模式,单例模式确保某一个类只有一个实例,而且自行实例化并向整个系统提供这个实例。这个类称为单例类。 单例模式的结构
单例模式的特点:
单例类只能有一个实例。
单例类必须自己创建自己的唯一实例。
单例类必须给所有其他对象提供这一实例。
饿汉式单例类
publ
javascript取当月最后一天
ctrain
JavaScript
<!--javascript取当月最后一天-->
<script language=javascript>
var current = new Date();
var year = current.getYear();
var month = current.getMonth();
showMonthLastDay(year, mont
linux tune2fs命令详解
daizj
linuxtune2fs查看系统文件块信息
一.简介:
tune2fs是调整和查看ext2/ext3文件系统的文件系统参数,Windows下面如果出现意外断电死机情况,下次开机一般都会出现系统自检。Linux系统下面也有文件系统自检,而且是可以通过tune2fs命令,自行定义自检周期及方式。
二.用法:
Usage: tune2fs [-c max_mounts_count] [-e errors_behavior] [-g grou
做有中国特色的程序员
dcj3sjt126com
程序员
从出版业说起 网络作品排到靠前的,都不会太难看,一般人不爱看某部作品也是因为不喜欢这个类型,而此人也不会全不喜欢这些网络作品。究其原因,是因为网络作品都是让人先白看的,看的好了才出了头。而纸质作品就不一定了,排行榜靠前的,有好作品,也有垃圾。 许多大牛都是写了博客,后来出了书。这些书也都不次,可能有人让为不好,是因为技术书不像小说,小说在读故事,技术书是在学知识或温习知识,有
Android:TextView属性大全
dcj3sjt126com
textview
android:autoLink 设置是否当文本为URL链接/email/电话号码/map时,文本显示为可点击的链接。可选值(none/web/email/phone/map/all) android:autoText 如果设置,将自动执行输入值的拼写纠正。此处无效果,在显示输入法并输
tomcat虚拟目录安装及其配置
eksliang
tomcat配置说明tomca部署web应用tomcat虚拟目录安装
转载请出自出处:http://eksliang.iteye.com/blog/2097184
1.-------------------------------------------tomcat 目录结构
config:存放tomcat的配置文件
temp :存放tomcat跑起来后存放临时文件用的
work : 当第一次访问应用中的jsp
浅谈:APP有哪些常被黑客利用的安全漏洞
gg163
APP
首先,说到APP的安全漏洞,身为程序猿的大家应该不陌生;如果抛开安卓自身开源的问题的话,其主要产生的原因就是开发过程中疏忽或者代码不严谨引起的。但这些责任也不能怪在程序猿头上,有时会因为BOSS时间催得紧等很多可观原因。由国内移动应用安全检测团队爱内测(ineice.com)的CTO给我们浅谈关于Android 系统的开源设计以及生态环境。
1. 应用反编译漏洞:APK 包非常容易被反编译成可读
C#根据网址生成静态页面
hvt
Web.netC#asp.nethovertree
HoverTree开源项目中HoverTreeWeb.HVTPanel的Index.aspx文件是后台管理的首页。包含生成留言板首页,以及显示用户名,退出等功能。根据网址生成页面的方法:
bool CreateHtmlFile(string url, string path)
{
//http://keleyi.com/a/bjae/3d10wfax.htm
stri
SVG 教程 (一)
天梯梦
svg
SVG 简介
SVG 是使用 XML 来描述二维图形和绘图程序的语言。 学习之前应具备的基础知识:
继续学习之前,你应该对以下内容有基本的了解:
HTML
XML 基础
如果希望首先学习这些内容,请在本站的首页选择相应的教程。 什么是SVG?
SVG 指可伸缩矢量图形 (Scalable Vector Graphics)
SVG 用来定义用于网络的基于矢量
一个简单的java栈
luyulong
java数据结构栈
public class MyStack {
private long[] arr;
private int top;
public MyStack() {
arr = new long[10];
top = -1;
}
public MyStack(int maxsize) {
arr = new long[maxsize];
top
基础数据结构和算法八:Binary search
sunwinner
AlgorithmBinary search
Binary search needs an ordered array so that it can use array indexing to dramatically reduce the number of compares required for each search, using the classic and venerable binary search algori
12个C语言面试题,涉及指针、进程、运算、结构体、函数、内存,看看你能做出几个!
刘星宇
c面试
12个C语言面试题,涉及指针、进程、运算、结构体、函数、内存,看看你能做出几个!
1.gets()函数
问:请找出下面代码里的问题:
#include<stdio.h>
int main(void)
{
char buff[10];
memset(buff,0,sizeof(buff));
ITeye 7月技术图书有奖试读获奖名单公布
ITeye管理员
活动ITeye试读
ITeye携手人民邮电出版社图灵教育共同举办的7月技术图书有奖试读活动已圆满结束,非常感谢广大用户对本次活动的关注与参与。
7月试读活动回顾:
http://webmaster.iteye.com/blog/2092746
本次技术图书试读活动的优秀奖获奖名单及相应作品如下(优秀文章有很多,但名额有限,没获奖并不代表不优秀):
《Java性能优化权威指南》