Buat mini-model GPT-4o-mini sendiri melalui distilasi - lebih murah dan cepat, tapi hampir sama pintarnya
Dalam 5 menit, atur fine-tuning GPT-4o-mini pada jawaban GPT-4o langsung di panel OpenAI - tanpa kode, dengan tombol Distill
- 1.Buka halaman Chat Completions di panel OpenAI dan pastikan Anda memiliki permintaan tersimpan dengan model gpt-4o. Jika masih sedikit - kirim 10 - 50 permintaan ke gpt-4o melalui Playground atau API dengan berbagai input untuk tugas Anda. Tandai setiap permintaan dengan metadata, misalnya distillation: my-task, agar nanti mudah difilter.
Distilasi bekerja seperti ini: GPT-4o (guru) menghasilkan jawaban berkualitas, dan GPT-4o-mini (murid) belajar menirunya melalui fine-tuning. Metadata membantu agar permintaan dari model berbeda tidak tercampur. Jika layanan tidak tersedia di wilayah Anda, gunakan VPN atau proksi.
OpenAI Dashboard ↗Tentang alat ini - 2.Di halaman Chat Completions yang sama, filter completion tersimpan: pilih model gpt-4o dan tambahkan filter metadata distillation: my-task. Centang semua catatan yang ditemukan.
Penting memilih gpt-4o - Anda ingin mendistilasi jawaban dari model pintar, bukan mini itu sendiri.
OpenAI Dashboard ↗Tentang alat ini - 3.Klik tombol «Distill» di pojok kanan atas. Pada jendela yang muncul, pilih gpt-4o-mini sebagai model dasar, biarkan hyperparameter pada auto dan klik «Create».
OpenAI akan otomatis membuat file fine-tuning dari completion yang dipilih dan menjalankan tugas pelatihan. Prosesnya memakan waktu beberapa menit hingga beberapa jam tergantung volume data.
OpenAI Dashboard ↗Tentang alat ini - 4.Buka halaman Fine-tuning, temukan tugas Anda dan tunggu hingga statusnya «succeeded». Salin nama model baru - bentuknya seperti ft:gpt-4o-mini-2024-07-18:personal:XXXXX.
Nama model baru akan Anda butuhkan untuk pemanggilan melalui API atau di Playground - ini adalah mini-model yang sudah dioptimalkan.
OpenAI Fine-tuning ↗Tentang alat ini - 5.Periksa hasilnya di Playground: pilih model fine-tuned Anda dari daftar dan kirim permintaan uji dari tugas Anda. Bandingkan jawabannya dengan apa yang dihasilkan gpt-4o-mini biasa - kualitasnya harus terasa lebih dekat ke gpt-4o.
Anda juga bisa menggunakan alat Evaluations di panel OpenAI untuk perbandingan model secara formal berdasarkan kriteria.
OpenAI Playground ↗Tentang alat iniPromptAnda adalah asisten yang membantu. [System prompt khusus tugas Anda di sini] User: [Input uji Anda di sini]
Apa fungsi prompt iniPrompt Indonesia untuk pengujian di Playground. Ganti [System prompt khusus tugas Anda di sini] dengan system prompt tugas Anda, dan [Input uji Anda di sini] dengan permintaan pengguna untuk pengujian. Sebelum itu, jangan lupa memilih model fine-tuned Anda di dropdown model, bukan gpt-4o-mini standar.
- APIOpenAI API - bayar untuk penggunaanDistilasi memerlukan pembuatan permintaan melalui gpt-4o (guru) - ini adalah panggilan API berbayar. Fine-tuning gpt-4o-mini juga dikenakan biaya. Biaya tepatnya tergantung volume data; tarif berdasarkan penggunaan, tanpa langganan terpisah. Semua harga ada di halaman pricing.openai.com.
Kenapa hari ini
Layanan AI berubah cepat - antarmuka dan batas gratis bisa berbeda dari yang dijelaskan.