Crie sua mini-modelo GPT-4o-mini por destilação - mais barato e rápido, mas quase tão inteligente
Em 5 minutos você configura o fine-tuning do GPT-4o-mini com respostas do GPT-4o direto no painel da OpenAI - sem código, com o botão Distill
- 1.Abra a página Chat Completions no painel da OpenAI e verifique se você tem requisições salvas com o modelo gpt-4o. Se forem poucas - envie 10 a 50 requisições ao gpt-4o pelo Playground ou API com diferentes dados de entrada da sua tarefa. Marque cada requisição com metadados, por exemplo distillation: my-task, para filtrar facilmente depois.
A destilação funciona assim: o GPT-4o (professor) gera respostas de qualidade, e o GPT-4o-mini (aluno) aprende a repeti-las via fine-tuning. Os metadados ajudam a não misturar requisições de modelos diferentes. Se o serviço não estiver disponível na sua região, use VPN ou proxy.
OpenAI Dashboard ↗Sobre a ferramenta - 2.Na mesma página Chat Completions, filtre as conclusões salvas: selecione o modelo gpt-4o e adicione o filtro por metadados distillation: my-task. Selecione todos os registros encontrados com as caixas de seleção.
É importante escolher exatamente o gpt-4o - você quer destilar respostas do modelo inteligente, não da própria mini.
OpenAI Dashboard ↗Sobre a ferramenta - 3.Clique no botão «Distill» no canto superior direito. Na janela que aparecer, selecione gpt-4o-mini como modelo base, deixe os hiperparâmetros em auto e clique em «Create».
A OpenAI criará automaticamente um arquivo de fine-tuning a partir das conclusões selecionadas e iniciará a tarefa de treinamento. O processo leva de alguns minutos a algumas horas, dependendo do volume de dados.
OpenAI Dashboard ↗Sobre a ferramenta - 4.Vá para a página Fine-tuning, encontre sua tarefa e aguarde o status «succeeded». Copie o nome do novo modelo - ele se parece com ft:gpt-4o-mini-2024-07-18:personal:XXXXX.
O nome do novo modelo será necessário para chamadas via API ou no Playground - é a sua mini-modelo otimizada.
OpenAI Fine-tuning ↗Sobre a ferramenta - 5.Verifique o resultado no Playground: selecione seu modelo fine-tuned na lista e envie uma requisição de teste da sua tarefa. Compare a resposta com a que a gpt-4o-mini comum retornaria - a qualidade deve ser visivelmente mais próxima do gpt-4o.
Você também pode usar a ferramenta Evaluations no painel da OpenAI para comparar formalmente os modelos por critérios.
OpenAI Playground ↗Sobre a ferramentaPromptVocê é um assistente útil. [Seu system prompt específico da tarefa aqui] Usuário: [Seu input de teste aqui]
O que este prompt fazPrompt em português para teste no Playground. Substitua [Seu system prompt específico da tarefa aqui] pelo system prompt da sua tarefa, e [Seu input de teste aqui] - por uma requisição de teste específica do usuário. Antes disso, não se esqueça de selecionar no menu suspenso de modelos o seu modelo fine-tuned, e não o gpt-4o-mini padrão.
- APIOpenAI API - pagamento por usoA destilação requer gerar requisições via gpt-4o (professor) - são chamadas de API pagas. O fine-tuning do gpt-4o-mini também é tarifado. O custo exato depende do volume de dados; a cobrança é por uso, sem assinatura separada. Todos os preços estão na página pricing.openai.com.
Por que hoje
Serviços de IA mudam rápido - interfaces e limites gratuitos podem diferir do descrito.