আপনার কম্পিউটারে Meta-র ভাষা মডেল চালান - ইন্টারনেট, সাবস্ক্রিপশন বা ক্লাউড ছাড়াই
Ollama ইনস্টল করুন, ওপেন-সোর্স Llama মডেল ডাউনলোড করুন এবং ৫ মিনিটে চ্যাট শুরু করুন
- 1.অফিসিয়াল ওয়েবসাইট থেকে Ollama ডাউনলোড করুন এবং সাধারণ প্রোগ্রামের মতো ইনস্টল করুন। macOS-এ আইকনটি Applications-এ টেনে নিন, Windows-এ ইনস্টলার চালান এবং Next চাপুন। ইনস্টলের পর অ্যাপটি ব্যাকগ্রাউন্ডে চলে।
Ollama একটি বিনামূল্যের ওপেন-সোর্স প্রোগ্রাম। এটি ইন্টারনেটে ডেটা না পাঠিয়ে সরাসরি আপনার কম্পিউটারে ভাষা মডেল চালায়। ৮ বিলিয়ন প্যারামিটারের মডেলের জন্য কমপক্ষে ৮ জিবি RAM দরকার, আরামদায়ক ব্যবহারের জন্য ১৬ জিবি।
Ollama ↗টুল সম্পর্কে - 2.Terminal খুলুন: macOS-এ Cmd+Space চাপুন এবং «Terminal» লিখুন, Windows-এ Win+R চাপুন, «cmd» লিখুন এবং Enter চাপুন। PowerShell ও ব্যবহার করতে পারেন।
টার্মিনাল হলো কম্পিউটার নিয়ন্ত্রণের একটি টেক্সট-ভিত্তিক প্রোগ্রাম। কালো উইন্ডো দেখে ভয় পাবেন না: মাত্র একটি কমান্ড লাগবে। Ollama ঠিকমতো ইনস্টল থাকলে ollama --version কমান্ডটি ভার্সন নম্বর দেখাবে।
- 3.নিচের কমান্ডটি লিখুন এবং Enter চাপুন। প্রথমবার চালালে Ollama মডেল ডাউনলোড করবে (প্রায় ৪.৭ জিবি), তারপর স্বয়ংক্রিয়ভাবে চ্যাট খুলবে। ইন্টারনেটের গতি অনুযায়ী ডাউনলোডে কয়েক মিনিট লাগতে পারে।
আপনার RAM কম থাকলে llama3.1:8b এর বদলে llama3.2:3b (~৪ জিবি দরকার) বা llama3.2:1b (~২ জিবি দরকার) ব্যবহার করুন। Meta-র সব উপলব্ধ মডেল ভার্সন দেখতে চালান: ollama search llama
Ollama ↗টুল সম্পর্কেপ্রম্পটollama run llama3.1:8b
এই প্রম্পটটি কী করেএই কমান্ডটি Meta-র Llama 3.1 মডেল (৮ বিলিয়ন প্যারামিটার) ডাউনলোড করে টার্মিনালে চ্যাট খোলে। ডাউনলোড শেষে >>> লাইন আসবে - মডেলকে মেসেজ লিখতে পারবেন। - 4.>>> লাইন আসলে মডেল প্রস্তুত। বাংলা বা ইংরেজিতে প্রশ্ন লিখুন এবং Enter চাপুন - উত্তর টার্মিনালেই দেখা যাবে। পরীক্ষার জন্য এই প্রম্পটটি চেষ্টা করুন:
চ্যাট থেকে বের হতে /bye লিখুন বা Ctrl+D চাপুন। মডেল ডিস্কে থাকে - পরের বার তা তৎক্ষণাৎ চালু হবে। শুধু ডাউনলোডের জন্য ollama run এর বদলে ollama pull ব্যবহার করুন।
টুল সম্পর্কেপ্রম্পটতুমি একজন সহায়ক। সহজ ভাষায় Python উদাহরণ দিয়ে রিকার্সন ব্যাখ্যা করো। উত্তর ১০ লাইনের বেশি নয়।
এই প্রম্পটটি কী করেপ্রম্পটটি মডেলকে ভূমিকা ও নির্দিষ্ট কাজ দেয় - রিকার্সন ব্যাখ্যা করা কোড উদাহরণসহ। যেকোনো প্রয়োজনীয় বিষয়ে পরিবর্তন করুন: টেক্সট, কোড, অনুবাদ, আইডিয়া। Llama 3.1 বাংলা ভালো বোঝে। - 5.ChatGPT-স্টাইলের সুবিধাজনক ইন্টারফেসের জন্য Chatbox ইনস্টল করুন - এটি Ollama-র সাথে যুক্ত হওয়া ডেস্কটপ অ্যাপ। ইনস্টলার ডাউনলোড করুন, প্রোগ্রাম চালান, সেটিংসে Ollama প্রোভাইডার হিসেবে বেছে নিন এবং llama3.1:8b মডেল নির্বাচন করুন।
Chatbox পরিচিত ইন্টারফেস দেয় - চ্যাট ইতিহাস, টেক্সট ফরম্যাটিং ও ডায়ালগ সংরক্ষণসহ। অ্যাপটি বিনামূল্যে এবং লোকালি চলে। বিকল্প: LM Studio (lmstudio.ai) বা Open WebUI (Docker দরকার)।
Chatbox ↗
- বিনামূল্যেOllamaসম্পূর্ণ বিনামূল্যের ওপেন-সোর্স প্রোগ্রাম, রিকোয়েস্ট বা মডেল সংখ্যায় কোনো সীমা নেই।
- বিনামূল্যেLlama 3.1 মডেল (Meta)মডেল বিনামূল্যে ডাউনলোড হয়। 8B ভার্সনের জন্য কমপক্ষে ৮ জিবি RAM দরকার, 3B-র জন্য প্রায় ৪ জিবি, 1B-র জন্য প্রায় ২ জিবি।
- বিনামূল্যেChatboxবিনামূল্যের ওপেন-সোর্স ডেস্কটপ অ্যাপ, কোনো সীমা নেই। লোকালি চলে, ডেটা সার্ভারে যায় না।
এআই পরিষেবা দ্রুত বদলায় - ইন্টারফেস ও ফ্রি সীমা বর্ণনার থেকে আলাদা হতে পারে।