Crea tu propio mini-modelo GPT-4o-mini por destilación - más barato y rápido, pero casi igual de inteligente
En 5 minutos configuras fine-tuning de GPT-4o-mini con respuestas de GPT-4o directamente en el panel de OpenAI - sin código, con el botón Distill
- 1.Abre la página Chat Completions en el panel de OpenAI y verifica que tienes consultas guardadas con el modelo gpt-4o. Si tienes pocas - envía 10 - 50 consultas a gpt-4o mediante Playground o API con diferentes datos de entrada de tu tarea. Marca cada consulta con metadatos, por ejemplo distillation: my-task, para filtrarlas fácilmente después.
La destilación funciona así: GPT-4o (profesor) genera respuestas de calidad, y GPT-4o-mini (alumno) aprende a imitarlas mediante fine-tuning. Los metadatos ayudan a no mezclar consultas de distintos modelos. Si el servicio no está disponible en tu región, usa VPN o proxy.
OpenAI Dashboard ↗Sobre la herramienta - 2.En la misma página de Chat Completions, filtra los completados guardados: selecciona el modelo gpt-4o y añade un filtro por metadatos distillation: my-task. Selecciona todos los registros encontrados con las casillas.
Es importante elegir gpt-4o - quieres destilar las respuestas del modelo inteligente, no del propio mini.
OpenAI Dashboard ↗Sobre la herramienta - 3.Pulsa el botón «Distill» en la esquina superior derecha. En la ventana que aparece, selecciona gpt-4o-mini como modelo base, deja los hiperparámetros en auto y pulsa «Create».
OpenAI creará automáticamente un archivo para fine-tuning a partir de los completados seleccionados e iniciará la tarea de entrenamiento. El proceso dura desde unos minutos hasta un par de horas según el volumen de datos.
OpenAI Dashboard ↗Sobre la herramienta - 4.Ve a la página Fine-tuning, busca tu tarea y espera a que el estado sea «succeeded». Copia el nombre del nuevo modelo - se ve como ft:gpt-4o-mini-2024-07-18:personal:XXXXX.
El nombre del nuevo modelo lo necesitarás para llamarlo mediante API o en Playground - es tu mini-modelo optimizado.
OpenAI Fine-tuning ↗Sobre la herramienta - 5.Comprueba el resultado en Playground: selecciona tu modelo fine-tuned de la lista y envía una consulta de prueba de tu tarea. Compara la respuesta con la que daría un gpt-4o-mini normal - la calidad debería estar notablemente más cerca de gpt-4o.
También puedes usar la herramienta Evaluations en el panel de OpenAI para comparar modelos formalmente según criterios.
OpenAI Playground ↗Sobre la herramientaPromptEres un asistente útil. [Tu system prompt específico de tarea aquí] Usuario: [Tu entrada de prueba aquí]
Qué hace este promptPrompt en español para probar en Playground. Sustituye [Tu system prompt específico de tarea aquí] por el system prompt de tu tarea, y [Tu entrada de prueba aquí] por la consulta de prueba concreta del usuario. Antes de esto, no olvides seleccionar en el menú desplegable de modelos tu modelo fine-tuned, no el gpt-4o-mini estándar.
- APIOpenAI API - pago por usoLa destilación requiere generar consultas mediante gpt-4o (profesor) - son llamadas de API de pago. El fine-tuning de gpt-4o-mini también se factura. El costo exacto depende del volumen de datos; la facturación es por uso, sin suscripción aparte. Todos los precios están en pricing.openai.com.
Por qué hoy
Los servicios de IA cambian rápido - las interfaces y los límites gratuitos pueden diferir de lo descrito.