Prompt Tuning与自然语言微调对比解析

Prompt Tuning 与输入提示词自然语言微调的区别和联系

一、核心定义与区别

维度	Prompt Tuning（提示微调）	输入提示词自然语言微调
本质	优化连续向量空间中的提示嵌入（不可直接阅读）	优化离散自然语言文本（人类可理解）
操作对象	模型输入嵌入层的连续向量（如WordEmbedding）	自然语言文本字符串（如“请判断：{text}”）
训练方式	端到端梯度下降，更新提示向量的数值	离散搜索（如波束搜索、强化学习）或人工设计