डिस्टिलेशन से अपनी मिनी GPT-4o-mini मॉडल बनाएं - सस्ती और तेज, लेकिन लगभग उतनी ही समझदार
5 मिनट में OpenAI पैनल में सीधे GPT-4o के जवाबों पर GPT-4o-mini का fine-tuning सेट करें - बिना कोड, Distill बटन से
- 1.OpenAI पैनल में Chat Completions पेज खोलें और जांचें कि आपके पास gpt-4o मॉडल के सहेजे गए अनुरोध हैं। अगर कम हैं तो Playground या API के जरिए gpt-4o को 10 - 50 अनुरोध भेजें, अपने काम के अलग-अलग इनपुट के साथ। हर अनुरोध को मेटाडेटा से चिह्नित करें, जैसे distillation: my-task, ताकि बाद में आसानी से फ़िल्टर किया जा सके।
डिस्टिलेशन ऐसे काम करता है: GPT-4o (शिक्षक) अच्छे जवाब बनाता है, और GPT-4o-mini (छात्र) fine-tuning से उन्हें दोहराना सीखता है। मेटाडेटा अलग-अलग मॉडलों के अनुरोधों को मिलने से रोकता है। अगर यह सेवा आपके क्षेत्र में उपलब्ध नहीं है, तो VPN या प्रॉक्सी का उपयोग करें।
OpenAI Dashboard ↗टूल के बारे में - 2.उसी Chat Completions पेज पर सहेजे गए completions फ़िल्टर करें: gpt-4o मॉडल चुनें और मेटाडेटा फ़िल्टर distillation: my-task जोड़ें। मिली सभी रिकॉर्ड्स को चेकबॉक्स से चुनें।
ज़रूरी है कि आप gpt-4o ही चुनें - आप स्मार्ट मॉडल के जवाब डिस्टिल करना चाहते हैं, mini के नहीं।
OpenAI Dashboard ↗टूल के बारे में - 3.ऊपर दाएं कोने में «Distill» बटन दबाएं। खुलने वाली विंडो में बेस मॉडल gpt-4o-mini चुनें, हाइपरपैरामीटर्स को auto पर रखें और «Create» दबाएं।
OpenAI चुने गए completions से fine-tuning के लिए फ़ाइल अपने आप बनाएगा और ट्रेनिंग कार्य शुरू करेगा। यह प्रक्रिया डेटा के आकार के अनुसार कुछ मिनटों से लेकर कुछ घंटों तक लग सकती है।
OpenAI Dashboard ↗टूल के बारे में - 4.Fine-tuning पेज पर जाएं, अपना कार्य खोजें और «succeeded» स्टेटस का इंतज़ार करें। नए मॉडल का नाम कॉपी करें - यह ft:gpt-4o-mini-2024-07-18:personal:XXXXX जैसा दिखता है।
नए मॉडल का नाम आपको API या Playground के जरिए कॉल करने में चाहिए होगा - यही आपकी ऑप्टिमाइज़्ड मिनी-मॉडल है।
OpenAI Fine-tuning ↗टूल के बारे में - 5.Playground में नतीजा जांचें: लिस्ट से अपनी fine-tuned मॉडल चुनें और अपने काम का टेस्ट अनुरोध भेजें। जवाब को सामान्य gpt-4o-mini के जवाब से तुलना करें - गुणवत्ता gpt-4o के क़रीब स्पष्ट रूप से दिखनी चाहिए।
आप OpenAI पैनल में Evaluations टूल का उपयोग करके भी मॉडलों की औपचारिक तुलना कर सकते हैं।
OpenAI Playground ↗टूल के बारे मेंप्रॉम्प्टआप एक सहायक सहायक हैं। [अपना कार्य-विशिष्ट सिस्टम प्रॉम्प्ट यहां लिखें] उपयोगकर्ता: [अपना टेस्ट इनपुट यहां लिखें]
यह प्रॉम्प्ट क्या करता हैPlayground में टेस्ट के लिए यह प्रॉम्प्ट है। [अपना कार्य-विशिष्ट सिस्टम प्रॉम्प्ट यहां लिखें] को अपने काम के सिस्टम प्रॉम्प्ट से बदलें, और [अपना टेस्ट इनपुट यहां लिखें] को उपयोगकर्ता के टेस्ट अनुरोध से बदलें। इससे पहले मॉडल ड्रॉपडाउन में सामान्य gpt-4o-mini के बजाय अपनी fine-tuned मॉडल चुनना न भूलें।
- APIOpenAI API - उपयोग का भुगतानडिस्टिलेशन के लिए gpt-4o (शिक्षक) के जरिए अनुरोध बनाने होते हैं - ये पेड API कॉल हैं। GPT-4o-mini का fine-tuning भी भुगतान किया जाता है। सटीक कीमत डेटा के आकार पर निर्भर करती है; बिलिंग उपयोग के अनुसार होती है, बिना अलग सदस्यता के। सभी कीमतें pricing.openai.com पर देखें।
आज ही क्यों
AI सेवाएँ तेज़ी से बदलती हैं - इंटरफ़ेस और मुफ़्त सीमाएँ बताए गए से अलग हो सकती हैं।