编辑：rome rome
通过对 GPT-3.5 和 Llama 2 在不同任务上的微调对比，我们可以得知在什么情况下选择 GPT-3.5，什么情况下选择 Llama 2 或其他模型。
众所周知，对 GPT-3.5 进行微调是非常昂贵的。本文通过实验来验证手动微调模型是否可以接近 GPT-3.5 的性能，而成本只是 GPT-3.5 的一小部分。有趣的是，本文确实做到了。
在 SQL 任务和 functional representation 任务上的结果对比，本文发现：
GPT-3.5 在两个数据集（Spider 数据集的子集以及 Viggo functional representation 数据集）上都比经过 Lora 微调的 Code Llama 34B 表现略微好一点。
GPT-3.5 的训练成本高出 4-6 倍，部署成本也更高。
本实验的结论之一是微调 GPT-3.5 适用于初始验证工作，但在那之后，像 Llama 2 这样的模型可能是最佳选择，简单总结一下：
如果你想验证微调是解决特定任务 / 数据集的正确方法，又或者想要一个完全托管的环境，那么微调 GPT-3.5。
如果想省钱、想从数据集中获取最大性能、想要在训练和部署基础设施方面具有更大的灵活性、又或者想要保留一些私有数据，那么就微调类似 Llama 2 的这种开源模型。
接下来我们看看，本文是如何实现的。
下图为 Code Llama 34B 和 GPT-3.5 在 SQL 任务和 functional representation 任务上训练至收敛的性能。结果表明，GPT-3.5 在这两个任务上都取得了更好的准确率。
在硬件使用上，实验使用的是 A40 GPU，每小时约 0.475 美元。
此外，实验选取了两个非常适合进行微调的数据集，Spider 数据集的子集以及 Viggo functional representation 数据集。
为了与 GPT-3.5 模型进行公平的比较，实验对 Llama 进行了最少超参数微调。
本文实验的两个关键选择是使用 Code Llama 34B 和 Lora 微调，而不是全参数微调。
实验在很大程度上遵循了有关 Lora 超参数微调的规则，Lora 适配器配置如下：
SQL 提示示例如下：
SQL 提示部分展示，完整提示请查看原博客
实验没有使用完整的 Spider 数据集，具体形式如下
department : Department_ID [ INT ] primary_key Name [ TEXT ] Creation [ TEXT ] Ranking [ INT ] Budget_in_Billions [ INT ] Num_Employees [ INT ] head : head_ID [ INT ] primary_key name [ TEXT ] born_state [ TEXT ] age [ INT ] management : department_ID [ INT ] primary_key management.department_ID = department.Department_ID head_ID [ INT ] management.head_ID = head.head_ID temporary_acting [ TEXT ]
实验选择使用 sql-create-context 数据集和 Spider 数据集的交集。为模型提供的上下文是一个 SQL 创建命令，如下所示：
CREATE TABLE table_name_12 (class VARCHAR, frequency_mhz VARCHAR, city_of_license VARCHAR)
SQL 任务的代码和数据地址：https://github.com/samlhuillier/spider-sql-finetune
functional representation 提示的示例如下所示：
functional representation 提示部分展示，完整提示请查看原博客
输出如下所示：
verify_attribute(name[Little Big Adventure], rating[average], has_multiplayer[no], platforms[PlayStation])
评估阶段，两个实验很快就收敛了：
相关：
月薪两万的新中产，都在沉迷这种快乐“徒步而行让每件事都可以串联在一起，因为只有在行走时，一个人才可以活在整个世界中，而不只是分割出的一个个小小世界中。”作者 |魏言封面&题图 | 《爱情的理解》美国作家丽贝卡·索尔尼打算写一篇关于行走..
“听劝”的年轻人，在小红书互助式旅游用人与人的连接和馈赠，提供独特个体体验的“互助式旅游”，或许为大众旅游的需求升级提供了新的解法。在国庆中秋“双节”8天长假中，你感受到出游的热潮了吗？据文旅部此前公布的数据，假期内共有8.26亿人次完成..