通过蒸馏创建你自己的 GPT-4o-mini 迷你模型 - 更便宜更快速,但几乎一样聪明
5分钟内在 OpenAI 面板中直接用 Distill 按钮对 GPT-4o-mini 进行 fine-tuning,基于 GPT-4o 的回答 - 无需代码
- 1.打开 OpenAI 面板中的 Chat Completions 页面,确认你已保存了使用 gpt-4o 模型的请求。如果数量不够 - 通过 Playground 或 API 向 gpt-4o 发送 10 - 50 条不同输入数据的请求,针对你的任务。为每条请求添加元数据标记,例如 distillation: my-task,方便后续筛选。
蒸馏的原理是:GPT-4o(教师模型)生成高质量回答,GPT-4o-mini(学生模型)通过 fine-tuning 学习模仿这些回答。元数据可以帮助区分不同模型的请求。如果该服务在你所在地区不可用,请使用 VPN 或代理。
OpenAI Dashboard ↗关于该工具 - 2.在同一 Chat Completions 页面中筛选已保存的完成记录:选择模型 gpt-4o 并添加元数据过滤条件 distillation: my-task。用复选框全选所有找到的记录。
务必选择 gpt-4o - 你要蒸馏的是聪明模型的回答,而不是 mini 本身的。
OpenAI Dashboard ↗关于该工具 - 3.点击右上角的「Distill」按钮。在弹出的窗口中选择基础模型 gpt-4o-mini,超参数保持 auto,然后点击「Create」。
OpenAI 会自动从选中的完成记录创建 fine-tuning 文件并启动训练任务。过程从几分钟到几小时不等,取决于数据量。
OpenAI Dashboard ↗关于该工具 - 4.进入 Fine-tuning 页面,找到你的任务并等待状态变为「succeeded」。复制新模型的名称 - 格式类似 ft:gpt-4o-mini-2024-07-18:personal:XXXXX。
新模型的名称用于通过 API 或 Playground 调用 - 这就是你的优化版迷你模型。
OpenAI Fine-tuning ↗关于该工具 - 5.在 Playground 中验证结果:从列表中选择你的 fine-tuned 模型,发送一条你的任务相关的测试请求。将回答与普通 gpt-4o-mini 的输出对比 - 质量应明显更接近 gpt-4o。
你也可以使用 OpenAI 面板中的 Evaluations 工具,按标准指标对模型进行正式比较。
OpenAI Playground ↗关于该工具提示词你是一个有用的助手。[在此填写你的任务专用系统提示] 用户:[在此填写你的测试输入]
这个提示词的作用这是用于在 Playground 中测试的提示。请将 [在此填写你的任务专用系统提示] 替换为你任务的系统提示,将 [在此填写你的测试输入] 替换为具体的用户测试请求。在此之前,别忘了在模型下拉列表中选择你的 fine-tuned 模型,而不是标准的 gpt-4o-mini。
💰 跟着做需要花多少钱价格截至 2026-10
- APIOpenAI API - 按使用量付费蒸馏需要通过 gpt-4o(教师模型)生成请求 - 这些是付费 API 调用。gpt-4o-mini 的 fine-tuning 也需要付费。具体费用取决于数据量;按使用量计费,无需单独订阅。所有价格见 pricing.openai.com。
试一试,做第一个打卡的人
为什么是今天
datacamp.comweb
每周攻略发到邮箱
AI 服务变化很快 - 界面和免费额度可能与描述有所不同。