大模型微调:从零到实践,掌握AI大模型的核心技能
之之为知知
12大模型人工智能机器学习特征工程pytorch深度学习大模型微调
大模型微调:从零到实践,掌握AI大模型的核心技能引言大规模语言模型(如DeepSeek、通义千问)的出现,彻底改变了自然语言处理的格局。这些模型不仅在学术界取得了突破性进展,在工业界也得到了广泛应用。对于许多初学者来说,直接训练一个完整的大型语言模型可能显得遥不可及。幸运的是,微调(Fine-tuning)技术为我们提供了一条捷径,让我们可以基于已有的预训练模型,针对特定任务进行调整,从而快速实现
oracle health check,ORACLE SQL Tuning Health-Check(SQLHC)
爱护哼哼
oraclehealthcheck
一条sql语句的性能主要依赖于好的物理结构,准确的系统统计数据,准确的对象统计数据,合理的查询优化器参数,合理的系统参数.这些数据也就是CBO计算的基本参数,SQLHC(文档ID1366133.1)正是为用户提供sql的这些数据,来辅助sql调优.特别适合无法在客户环境中调优的情况,SQLHC虽然没有SQLT(文档ID215187.1)更强大,但不需要在采集的库上建用户,会被更多的客户所接受.以下
高通平台的 Camera HAL 架构解析:QCamera 与 CHI HAL 实战剖析
高通平台的CameraHAL架构解析:QCamera与CHIHAL实战剖析关键词:QCamera3、CHIHAL、QTICameraStack、HAL3、CamX、ISPPipeline、QCamera调试、Snapdragon成像架构、CameraDriver协同摘要:高通平台是Android移动终端中主流的SoC方案之一,其CameraHAL架构发展历程丰富,从传统QCamera到模块化CHI
CameraService 源码解读(一):服务注册与启动流程全路径解析
观熵
视觉项目实战:从YOLO到行业解决方案Camera影像linux
CameraService源码解读(一):服务注册与启动流程全路径解析关键词:CameraService、cameraserver、ServiceManager、AIDL接口、native启动流程、Binder注册、CameraProviderManager、AOSP源码分析摘要:本篇文章聚焦AOSP相机系统核心服务CameraService的注册与启动过程,基于Android14最新源码链路,逐
Prompt Engineering(提示词工程)基础了解
Fuly1024
LLMprompt
参考:https://blog.csdn.net/qq_56438555/article/details/1448865171.基础概念:提示词工程(promptEngineering)是指通过设计、优化输入给大语言模型的文本指令(即“提示词”),引导LLM输出我们期望的结果。让大模型在无需微调(Fine-tuning)的情况下,通过“更好的提问方式”完成复杂任务(开发潜力,不会的还是不会)。但是
Android Camera 框架全景解析1
记录美好
android相机学习androidlinux性能优化程序人生c++
AndroidCamera框架全景解析一、AndroidCamera概述1.1相机模块的重要性1.2核心设计目标二、AndroidCamera架构解析2.1分层架构设计2.1.1app层2.1.2fwk层2.1.3hal层详解2.1.3.1基本概念与架构定位2.1.3.2架构分层与核心组件2.1.3.2.1分层结构2.1.3.2.2关键组件解析2.1.3.2.3核心工作流程2.1.3.2.3.1初
想进大厂?LLMs 10道面试题提前看,有问有答,图文详解!
AI大模型-大飞
人工智能大模型chatgpt产品经理AI程序员大模型面试题
一、微调与优化21、LLM的微调流程是什么?微调(Fine-tuning)LLMs指的是在特定任务或数据上对预训练好的模型进行进一步训练,使其能更好地适应目标场景的过程,其主要流程如下:数据准备:数据收集:根据目标任务收集高质量、有代表性的数据;数据预处理:对原始数据进行清洗,如去除噪声、重复项、不相关内容等。根据模型输入要求对数据进行格式化;数据划分:将数据分为训练集、验证集和测试集,为后续模型
【美团3面】大模型面试题详解:大模型使用几十条数据微调后为啥性能差的很多?
AI大模型-王哥
产品经理大模型学习AI大模型人工智能大模型大模型教程程序员
一个很有意思的回答:大模型的LossLandscape是由多个“Basin”(盆地)组成的,而不是一个平滑的曲面。如果微调(Fine-Tuning)的优化方向偏离了BasicCapacityBasin,就可能容易训崩掉,虽然训崩的概率不大。大模型(如LLM)在预训练阶段通过海量数据学习,优化出一个“基本能力盆地”(BasicCapacityBasin),这个Basin代表模型具备通用语言理解、生成
Android Camera之createCaptureSession()
菜鸡UP
AndroidCameraandroid
前言在openCamera成功之后,便会调用createCaptureSession()进行配置操作,CaptureSession是APP与Camera设备之间的通道,从camera获取图像,或者是Reprocess图像,APP对Camera设备的控制都是通过这个CaptureSession来完成的createCaprureSession的整个过程从App调用createCaptureSessio
Android Studio中调用USB摄像头
yuyu_0304
androidstudioandroidide
在AndroidStudio中调用USB摄像头,通常要借助Android的USBHostAPI或第三方UVC(USBVideoClass)库。下面是一个基于开源UVCCamera项目的示例流程和代码(Java):1.添加依赖在app/build.gradle中加入UVCCamera库(以saki4510t的UVCCamera为例):dependencies{//UVCCamera核心库implem
Camera图像处理原理及实例分析-重要图像概念
xw面朝大海
图像处理
Camera图像处理原理及实例分析做为拍照手机的核心模块之一,camerasensor效果的调整,涉及到众多的参数,如果对基本的光学原理及sensor软/硬件对图像处理的原理能有深入的理解和把握的话,对我们的工作将会起到事半功倍的效果。否则,缺乏了理论的指导,只能是凭感觉和经验去碰,往往无法准确的把握问题的关键,不能掌握sensor调试的核心技术,无法根本的解决问题。1.1色彩感应及校正1.1.1
论文笔记:EMR-MERGING: Tuning-Free High-Performance Model Merging
UQI-LIUWJ
论文笔记论文阅读
2024neurips1intro随着HuggingFace、timm和torchvision等开源仓库的发展,预训练与微调模型的数量激增,这导致模型部署的存储和成本负担加重。多任务学习(MTL)通过联合训练多数据集来部分缓解上述问题,但它存在以下缺陷:(i)计算成本高;(ii)隐私数据限制导致数据不可获取因此,近年来出现了**模型融合(modelmerging)**方法,试图通过权重合并的方式绕
Android Camera openCamera
星空梦想plus
我与相机android相机
由头今日调休,终于终于闲下来了,可以写一下博客了,刚好打开自己电脑,就有四年前下的谷歌Android12源码,不是很旧,刚好够用,不用再另外下载新源码了,不得不感慨这时间过得真快啊~废话不多说,开整!过程分解我们知道Camera操作过程中最重要的四个步骤(这边仅先以preview,capture流说明,video流还得另说):CameraManager–>openCamera—>打开相机Camer
大模型微调技术的详细解析及对比
老兵发新帖
人工智能大数据
以下是四种主流大模型微调技术的详细解析及对比,结合技术原理、适用场景与性能表现进行说明:1.Full-tuning(全量微调)核心原理:加载预训练模型的所有参数,用特定任务数据(通常为指令-回答对)继续训练,更新全部权重。相当于对模型整体知识结构进行重构。操作流程:加载预训练模型;用任务数据集(如分类文本)和优化目标(如最小化误差)训练;所有参数参与梯度更新。优势:模型充分学习任务特征,效果通常最
大模型训练中的“训练阶段”(如Pre-training、SFT、RLHF等)与“微调技术”
老兵发新帖
人工智能深度学习机器学习
大模型训练中的“训练阶段”(如Pre-training、SFT、RLHF等)与“微调技术”(如Full-tuning、Freeze-tuning、LoRA、QLoRA)是两类不同维度的概念,二者共同构成模型优化的完整流程。以下是二者的关系解析及技术对照:一、训练阶段的核心流程与目标预训练(Pre-training)目标:在无标注通用数据(如互联网文本)上训练模型,学习语言、视觉等通用特征。微调技术
基于小样本学习的图像分类综述
cdyyyyyyy
学习分类机器学习
目录引言基本概念小样本学习方法分类1、数据增强2、迁移学习3、元学习小样本学习主流方法1、基于度量的小样本学习2、基于Pretraining+FineTuning的方法3、基于元学习的小样本学习总结引言因为课程设计要求,所以进行了关于小样本学习的调研。目前小样本学习还是一个比较热门的研究,很多关于小样本学习的论文也陆续发表。本文只是一个概述,具体方法研究还有待深入。基本概念小样本学习(FSL:Fe
Android 系统设置,“隐私”中关闭相机权限
Android系统设置中,“隐私”里面,有一项是关于“摄像头使用权限”,如果关闭了,则所有的app都没法正常去打开相机。我们如果需要做类似禁用相机的功能,也是可以参考该部分的代码流程逻辑。这一功能涉及到的相关代码,如下图所示。CameraService.cpp---------CameraService.cppSetcameramutingbehaviorbool isCameraPrivacyE
视频直播源码在Android端实现1对1音视频实时通话
程序员老舅
音视频开发进阶音视频androidstudio视频编解码webrtc实时音视频
我们要使用WebRTC进行音视频互动时需要申请访问硬件的权限,至少要申请以下三种权限Camera权限RecordAudio权限Intenet权限在Android中,申请权限分为静态权限申请和动态权限申请,这对于做Android开发的同学来说已经是习以为常的事情了。下面我们就看一下具体如何申请权限:静态权限申请在Android项目中的AndroidManifest.xml中增加以下代码:视频直播源码
Android Camera内核级驱动程序设计
荣敢飞
Android驱动学习2android嵌入式硬件人工智能linux
Camera内核级驱动程序设计一硬件抽象层HAL分析——分析打开设备流程和拍照流程二Ov5640摄像头驱动程序一、硬件抽象层HAL分析——分析打开设备流程和拍照流程首先找到摄像头代码——在vendor…libcamera中只找到对应的.so文件,说明没有开源实际的路径是在hardware/samsung目录下——就是对应平台Rockchip等也是secCameraHWInterface.cpp1、
Android Camera驱动分析
Mr.How
MTK智能机安卓驱动工作小记androidCamera摄像头驱动
文章目录一、Camera的硬件接口二、代码路径三、Camera代码分析1、硬件接口设置2、Camera设备驱动3、模组驱动代码一、Camera的硬件接口引脚名称及作用VCAMA就是AVDD,模拟供电,主要给感光区和ADC部分供电,2.8VVCAMD就是DVDD,数字供电,主要给 ISP 供电,1.2VVCAM_IO就是VDDIO,数字IO供电,主要给 I2C 部分供电,1.8VVCAM_AF自动对
camera驱动电源配置_Camera driver&V4L2驱动架构介绍
大约一年前写的东西,介绍性部分是当时在网络上找的内容,后面的分析部分是基于当时的项目,基于MavellPxa920,希望对初学者有点点的帮助吧。转载请注明出。1.Camera相关介绍1.1.手机Camera介绍手机的数码相机功能指的是手机通过内置数码相机进行拍摄静态图片或短片拍摄,作为手机的一项新的附加功能,手机的数码相机功能得到了迅速的发展。手机摄像头分为内置与外置,内置摄像头是指摄像头在手机内
相机驱动:从按下快门到照片成型的全揭秘
你一身傲骨怎能输
Android操作系统数码相机
文章摘要本文用照相馆拍照的比喻形象展示了摄像机驱动的工作流程:用户(App)提出拍照请求,CameraService(前台)接收并转达给HAL层(摄影师),HAL配置参数后交由内核驱动(助手)操作硬件(相机)采集数据。数据经过驱动→HAL→Service→App逐层传回。整个流程分层协作,涵盖应用请求、框架调度、硬件抽象、驱动操作和硬件采集五个关键环节,生动诠释了从用户指令到图像获取的完整链路。一
论文阅读:LLaVA1.5:Improved Baselines with Visual Instruction Tuning
微风❤水墨
LLM&AIGC&VLPLLM
论文:https://arxiv.org/abs/2310.03744代码:https://github.com/haotian-liu/LLaVA#train微调:https://github.com/haotian-liu/LLaVA/blob/main/docs/Finetune_Custom_Data.md模型论文时间VisionEncoderVLAdapterProjectionLaye
简单英语语法2 - 可数与不可数名词
louyang
1可数名词这些名词代表的东西,可以被一个个数出来。pen,computer,bottle,spoon,desk,cup,television,chair,shoe,finger,flower,camera,stick,balloon,book,table,comb,etc.大多数名词的复数是-直接+spens,computers,bottles,spoons,desks,cups,televisi
PHP,安卓,UI,java,linux视频教程合集
cocos2d-x小菜
javaUIPHPandroidlinux
╔-----------------------------------╗┆
各表中的列名必须唯一。在表 'dbo.XXX' 中多次指定了列名 'XXX'。
bozch
.net.net mvc
在.net mvc5中,在执行某一操作的时候,出现了如下错误:
各表中的列名必须唯一。在表 'dbo.XXX' 中多次指定了列名 'XXX'。
经查询当前的操作与错误内容无关,经过对错误信息的排查发现,事故出现在数据库迁移上。
回想过去: 在迁移之前已经对数据库进行了添加字段操作,再次进行迁移插入XXX字段的时候,就会提示如上错误。
&
Java 对象大小的计算
e200702084
java
Java对象的大小
如何计算一个对象的大小呢?
 
Mybatis Spring
171815164
mybatis
ApplicationContext ac = new ClassPathXmlApplicationContext("applicationContext.xml");
CustomerService userService = (CustomerService) ac.getBean("customerService");
Customer cust
JVM 不稳定参数
g21121
jvm
-XX 参数被称为不稳定参数,之所以这么叫是因为此类参数的设置很容易引起JVM 性能上的差异,使JVM 存在极大的不稳定性。当然这是在非合理设置的前提下,如果此类参数设置合理讲大大提高JVM 的性能及稳定性。 可以说“不稳定参数”
用户自动登录网站
永夜-极光
用户
1.目标:实现用户登录后,再次登录就自动登录,无需用户名和密码
2.思路:将用户的信息保存为cookie
每次用户访问网站,通过filter拦截所有请求,在filter中读取所有的cookie,如果找到了保存登录信息的cookie,那么在cookie中读取登录信息,然后直接
centos7 安装后失去win7的引导记录
程序员是怎么炼成的
操作系统
1.使用root身份(必须)打开 /boot/grub2/grub.cfg 2.找到 ### BEGIN /etc/grub.d/30_os-prober ### 在后面添加 menuentry "Windows 7 (loader) (on /dev/sda1)" { 
Oracle 10g 官方中文安装帮助文档以及Oracle官方中文教程文档下载
aijuans
oracle
Oracle 10g 官方中文安装帮助文档下载:http://download.csdn.net/tag/Oracle%E4%B8%AD%E6%96%87API%EF%BC%8COracle%E4%B8%AD%E6%96%87%E6%96%87%E6%A1%A3%EF%BC%8Coracle%E5%AD%A6%E4%B9%A0%E6%96%87%E6%A1%A3 Oracle 10g 官方中文教程
JavaEE开源快速开发平台G4Studio_V3.2发布了
無為子
AOPoraclemysqljavaeeG4Studio
我非常高兴地宣布,今天我们最新的JavaEE开源快速开发平台G4Studio_V3.2版本已经正式发布。大家可以通过如下地址下载。
访问G4Studio网站
http://www.g4it.org
G4Studio_V3.2版本变更日志
功能新增
(1).新增了系统右下角滑出提示窗口功能。
(2).新增了文件资源的Zip压缩和解压缩
Oracle常用的单行函数应用技巧总结
百合不是茶
日期函数转换函数(核心)数字函数通用函数(核心)字符函数
单行函数; 字符函数,数字函数,日期函数,转换函数(核心),通用函数(核心)
一:字符函数:
.UPPER(字符串) 将字符串转为大写
.LOWER (字符串) 将字符串转为小写
.INITCAP(字符串) 将首字母大写
.LENGTH (字符串) 字符串的长度
.REPLACE(字符串,'A','_') 将字符串字符A转换成_
Mockito异常测试实例
bijian1013
java单元测试mockito
Mockito异常测试实例:
package com.bijian.study;
import static org.mockito.Mockito.mock;
import static org.mockito.Mockito.when;
import org.junit.Assert;
import org.junit.Test;
import org.mockito.
GA与量子恒道统计
Bill_chen
JavaScript浏览器百度Google防火墙
前一阵子,统计**网址时,Google Analytics(GA) 和量子恒道统计(也称量子统计),数据有较大的偏差,仔细找相关资料研究了下,总结如下:
为何GA和量子网站统计(量子统计前身为雅虎统计)结果不同?
首先:没有一种网站统计工具能保证百分之百的准确出现该问题可能有以下几个原因:(1)不同的统计分析系统的算法机制不同;(2)统计代码放置的位置和前后
【Linux命令三】Top命令
bit1129
linux命令
Linux的Top命令类似于Windows的任务管理器,可以查看当前系统的运行情况,包括CPU、内存的使用情况等。如下是一个Top命令的执行结果:
top - 21:22:04 up 1 day, 23:49, 1 user, load average: 1.10, 1.66, 1.99
Tasks: 202 total, 4 running, 198 sl
spring四种依赖注入方式
白糖_
spring
平常的java开发中,程序员在某个类中需要依赖其它类的方法,则通常是new一个依赖类再调用类实例的方法,这种开发存在的问题是new的类实例不好统一管理,spring提出了依赖注入的思想,即依赖类不由程序员实例化,而是通过spring容器帮我们new指定实例并且将实例注入到需要该对象的类中。依赖注入的另一种说法是“控制反转”,通俗的理解是:平常我们new一个实例,这个实例的控制权是我
angular.injector
boyitech
AngularJSAngularJS API
angular.injector
描述: 创建一个injector对象, 调用injector对象的方法可以获得angular的service, 或者用来做依赖注入. 使用方法: angular.injector(modules, [strictDi]) 参数详解: Param Type Details mod
java-同步访问一个数组Integer[10],生产者不断地往数组放入整数1000,数组满时等待;消费者不断地将数组里面的数置零,数组空时等待
bylijinnan
Integer
public class PC {
/**
* 题目:生产者-消费者。
* 同步访问一个数组Integer[10],生产者不断地往数组放入整数1000,数组满时等待;消费者不断地将数组里面的数置零,数组空时等待。
*/
private static final Integer[] val=new Integer[10];
private static
使用Struts2.2.1配置
Chen.H
apachespringWebxmlstruts
Struts2.2.1 需要如下 jar包: commons-fileupload-1.2.1.jar commons-io-1.3.2.jar commons-logging-1.0.4.jar freemarker-2.3.16.jar javassist-3.7.ga.jar ognl-3.0.jar spring.jar
struts2-core-2.2.1.jar struts2-sp
[职业与教育]青春之歌
comsci
教育
每个人都有自己的青春之歌............但是我要说的却不是青春...
大家如果在自己的职业生涯没有给自己以后创业留一点点机会,仅仅凭学历和人脉关系,是难以在竞争激烈的市场中生存下去的....
&nbs
oracle连接(join)中使用using关键字
daizj
JOINoraclesqlusing
在oracle连接(join)中使用using关键字
34. View the Exhibit and examine the structure of the ORDERS and ORDER_ITEMS tables.
Evaluate the following SQL statement:
SELECT oi.order_id, product_id, order_date
FRO
NIO示例
daysinsun
nio
NIO服务端代码:
public class NIOServer {
private Selector selector;
public void startServer(int port) throws IOException {
ServerSocketChannel serverChannel = ServerSocketChannel.open(
C语言学习homework1
dcj3sjt126com
chomework
0、 课堂练习做完
1、使用sizeof计算出你所知道的所有的类型占用的空间。
int x;
sizeof(x);
sizeof(int);
# include <stdio.h>
int main(void)
{
int x1;
char x2;
double x3;
float x4;
printf(&quo
select in order by , mysql排序
dcj3sjt126com
mysql
If i select like this:
SELECT id FROM users WHERE id IN(3,4,8,1);
This by default will select users in this order
1,3,4,8,
I would like to select them in the same order that i put IN() values so:
页面校验-新建项目
fanxiaolong
页面校验
$(document).ready(
function() {
var flag = true;
$('#changeform').submit(function() {
var projectScValNull = true;
var s ="";
var parent_id = $("#parent_id").v
Ehcache(02)——ehcache.xml简介
234390216
ehcacheehcache.xml简介
ehcache.xml简介
ehcache.xml文件是用来定义Ehcache的配置信息的,更准确的来说它是定义CacheManager的配置信息的。根据之前我们在《Ehcache简介》一文中对CacheManager的介绍我们知道一切Ehcache的应用都是从CacheManager开始的。在不指定配置信
junit 4.11中三个新功能
jackyrong
java
junit 4.11中两个新增的功能,首先是注解中可以参数化,比如
import static org.junit.Assert.assertEquals;
import java.util.Arrays;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.junit.runn
国外程序员爱用苹果Mac电脑的10大理由
php教程分享
windowsPHPunixMicrosoftperl
Mac 在国外很受欢迎,尤其是在 设计/web开发/IT 人员圈子里。普通用户喜欢 Mac 可以理解,毕竟 Mac 设计美观,简单好用,没有病毒。那么为什么专业人士也对 Mac 情有独钟呢?从个人使用经验来看我想有下面几个原因:
1、Mac OS X 是基于 Unix 的
这一点太重要了,尤其是对开发人员,至少对于我来说很重要,这意味着Unix 下一堆好用的工具都可以随手捡到。如果你是个 wi
位运算、异或的实际应用
wenjinglian
位运算
一. 位操作基础,用一张表描述位操作符的应用规则并详细解释。
二. 常用位操作小技巧,有判断奇偶、交换两数、变换符号、求绝对值。
三. 位操作与空间压缩,针对筛素数进行空间压缩。
&n
weblogic部署项目出现的一些问题(持续补充中……)
Everyday都不同
weblogic部署失败
好吧,weblogic的问题确实……
问题一:
org.springframework.beans.factory.BeanDefinitionStoreException: Failed to read candidate component class: URL [zip:E:/weblogic/user_projects/domains/base_domain/serve
tomcat7性能调优(01)
toknowme
tomcat7
Tomcat优化: 1、最大连接数最大线程等设置
<Connector port="8082" protocol="HTTP/1.1"
useBodyEncodingForURI="t
PO VO DAO DTO BO TO概念与区别
xp9802
javaDAO设计模式bean领域模型
O/R Mapping 是 Object Relational Mapping(对象关系映射)的缩写。通俗点讲,就是将对象与关系数据库绑定,用对象来表示关系数据。在O/R Mapping的世界里,有两个基本的也是重要的东东需要了解,即VO,PO。
它们的关系应该是相互独立的,一个VO可以只是PO的部分,也可以是多个PO构成,同样也可以等同于一个PO(指的是他们的属性)。这样,PO独立出来,数据持