粤ICP备17114055号
微信扫码
添加专属顾问
支持私有云部署
我要投稿
Prefix Tuning和Prompt Tuning最大的区别就是向每层的Transformer Block添加可训练的张量，而上一期的Prompt Tuning只是在输入的时候添加。
此外，通过全连接层（具有两层的迷你MLP和介于两者之间的非线性激活函数）来进行桥接。下图左侧为原始的Transformer块，而右侧为添加之后的Prefix Tuning架构。
根据最初的Prefix Tuning的论文，这种技术实现了与全微调的性能，然而只需要训练0.1%的参数（当然当时它对标的是GPT-2模型）。有一种猜测它的表现如此的好，是因为它调整了较少的参数，有助于减少较小训练上面的过渡拟合。下面第一行为全部参数微调训练，第五行为Prefix Tuning。
其实这个家族还有一个叫做P-Tuning的，它分为1.0版本和2.0版本。1.0版本和Prompt Tuning的区别在于额外Token的填充位置，1.0在输入序列的任意位置插入可训练的连续提示向量，使用一个小型的神经网络（比如LSTM）来生成这些提示向量。2,.0在模型的每一层都添加了可训练的提示向量，类似于 Prefix-tuning，它简化了提示向量的生成方式，直接对这些向量进行优化，而不使用 LSTM。
2023年5月份的Adaptive Prefix Tuning提出新的架构，它将额外的prefix加在K和V的输入前面，<一直以来，相信读者都默认QKV的尺寸是相同的，这个时候只在K和V加上，能对得上尺寸么！>这里就留个家庭作业，让读者推敲一下，为什么是可行的~
下面为它的评测指标，分别在在SuperGLUE开发集和NER 测试集上进行。SuperGLUE的指标是准确率，其他是micro-f1分数。其中FT代表最普通的微调，PT-2就是上文中P-Tuning 2.0版本，而APT就是新提出的方法。结果表明这项技术还是可取的~
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-03-10
基于 Apple Silicon 架构的Mac部署DeepSeek-R1-671B 模型本地化指南
2025-03-10
RoostGPT：改变了自动化软件测试的游戏规则
2025-03-09
8分钟打造一个DeepSeek API智能测试引擎：当咖啡还没凉，测试报告已出炉
2025-03-09
lceberg 助力 B 站商业化模型样本行级更新的实践
2025-03-09
单卡4090微调DeepSeek-R1-32B
2025-03-08
QwQ总结能力测评，32b小模型真能超过deepseek吗
2025-03-08
为什么vLLM做不到？解密Ollama越级部署黑科技：以DeepSeek-R1-8B为例
2025-03-07
为什么Manus底层模型没用DeepSeek？——Manus六问六答
2025-02-04
2025-02-04
2024-09-18
2024-07-11
2024-07-09
2024-07-11
2024-07-26
2025-02-05
2025-01-27
2025-02-01
回到顶部