ডিস্টিলেশনের মাধ্যমে আপনার নিজস্ব GPT-4o-mini মডেল তৈরি করুন - সস্তা এবং দ্রুত, কিন্তু প্রায় এতই বুদ্ধিমান
৫ মিনিটে OpenAI প্যানেলে সরাসরি GPT-4o-এর উত্তরের উপর GPT-4o-mini fine-tuning সেট আপ করুন - কোড ছাড়া, Distill বোতাম ব্যবহার করে
- 1.OpenAI প্যানেলে Chat Completions পেজ খুলুন এবং নিশ্চিত করুন যে gpt-4o মডেলের সাথে আপনার সংরক্ষিত অনুরোধ আছে। যদি কম থাকে - Playground বা API-এর মাধ্যমে আপনার কাজের বিভিন্ন ইনপুট ডেটা দিয়ে gpt-4o-তে 10 - 50টি অনুরোধ পাঠান। পরে সহজে ফিল্টার করার জন্য প্রতিটি অনুরোধে মেটাডেটা, যেমন distillation: my-task দিয়ে চিহ্নিত করুন।
ডিস্টিলেশন এভাবে কাজ করে: GPT-4o (শিক্ষক) মানসম্মত উত্তর তৈরি করে এবং GPT-4o-mini (ছাত্র) fine-tuning-এর মাধ্যমে সেগুলো অনুকরণ করতে শেখে। মেটাডেটা বিভিন্ন মডেলের অনুরোধগুলো মিশে না যাওয়ার জন্য সাহায্য করে। আপনার অঞ্চলে পরিষেবা উপলব্ধ না থাকলে VPN বা প্রক্সি ব্যবহার করুন।
OpenAI Dashboard ↗টুল সম্পর্কে - 2.একই Chat Completions পেজে সংরক্ষিত সম্পূর্ণগুলো ফিল্টার করুন: gpt-4o মডেল নির্বাচন করুন এবং distillation: my-task মেটাডেটা দ্বারা ফিল্টার যোগ করুন। পাওয়া সমস্ত রেকর্ড টিক চিহ্ন দিয়ে নির্বাচন করুন।
অবশ্যই gpt-4o নির্বাচন করা গুরুত্বপূর্ণ - আপনি বুদ্ধিমান মডেলের উত্তরগুলো ডিস্টিল করতে চান, mini-এর নিজের নয়।
OpenAI Dashboard ↗টুল সম্পর্কে - 3.উপরের ডানদিকের কোণে «Distill» বোতামে ক্লিক করুন। পপ-আপ উইন্ডোতে বেস মডেল হিসেবে gpt-4o-mini নির্বাচন করুন, হাইপারপ্যারামিটারগুলো auto-তে রাখুন এবং «Create» চাপুন।
OpenAI নির্বাচিত সম্পূর্ণগুলো থেকে fine-tuning-এর জন্য স্বয়ংক্রিয়ভাবে একটি ফাইল তৈরি করবে এবং প্রশিক্ষণের কাজ শুরু করবে। ডেটার পরিমাণের উপর নির্ভর করে এই প্রক্রিয়াটি কয়েক মিনিট থেকে কয়েক ঘণ্টা সময় নেয়।
OpenAI Dashboard ↗টুল সম্পর্কে - 4.Fine-tuning পেজে যান, আপনার কাজটি খুঁজুন এবং «succeeded» স্ট্যাটাসের জন্য অপেক্ষা করুন। নতুন মডেলের নাম কপি করুন - এটি ft:gpt-4o-mini-2024-07-18:personal:XXXXX এর মতো দেখাবে।
API বা Playground-এর মাধ্যমে কল করার জন্য আপনার নতুন মডেলের নাম প্রয়োজন হবে - এটিই আপনার অপ্টিমাইজ করা মিনি-মডেল।
OpenAI Fine-tuning ↗টুল সম্পর্কে - 5.Playground-এ ফলাফল যাচাই করুন: তালিকা থেকে আপনার fine-tuned মডেল নির্বাচন করুন এবং আপনার কাজ থেকে একটি পরীক্ষামূলক অনুরোধ পাঠান। সাধারণ gpt-4o-mini যা দিত তার সাথে উত্তর তুলনা করুন - গুণমান gpt-4o-এর কাছাকাছি হওয়া উচিত।
মানদণ্ড অনুযায়ী মডেলগুলোর আনুষ্ঠানিক তুলনার জন্য OpenAI প্যানেলে Evaluations টুল ব্যবহার করা যেতে পারে।
OpenAI Playground ↗টুল সম্পর্কেপ্রম্পটআপনি একজন সহায়ক সহকারী। [আপনার কাজ-নির্দিষ্ট সিস্টেম প্রম্পট এখানে] ব্যবহারকারী: [আপনার পরীক্ষামূলক ইনপুট এখানে]
এই প্রম্পটটি কী করেPlayground-এ পরীক্ষার জন্য বাংলা প্রম্পট। [আপনার কাজ-নির্দিষ্ট সিস্টেম প্রম্পট এখানে] কে আপনার কাজের সিস্টেম প্রম্পট দিয়ে প্রতিস্থাপন করুন এবং [আপনার পরীক্ষামূলক ইনপুট এখানে] কে ব্যবহারকারীর নির্দিষ্ট পরীক্ষামূলক অনুরোধ দিয়ে প্রতিস্থাপন করুন। এর আগে মডেলের ড্রপডাউন তালিকায় আপনার fine-tuned মডেলটি নির্বাচন করতে ভুলবেন না, স্ট্যান্ডার্ড gpt-4o-mini নয়।
- APIOpenAI API - ব্যবহারের জন্য পেমেন্টডিস্টিলেশনের জন্য gpt-4o (শিক্ষক)-এর মাধ্যমে অনুরোধ তৈরি করা প্রয়োজন - এগুলো প্রদেয় API কল। GPT-4o-mini fine-tuning-ও চার্জ করা হয়। সঠিক খরচ ডেটার পরিমাণের উপর নির্ভর করে; বিলিং ব্যবহারের উপর ভিত্তি করে হয়, কোনো আলাদা সাবস্ক্রিপশন ছাড়া। সমস্ত দাম pricing.openai.com পেজে রয়েছে।
আজ কেন
এআই পরিষেবা দ্রুত বদলায় - ইন্টারফেস ও ফ্রি সীমা বর্ণনার থেকে আলাদা হতে পারে।