अपने कंप्यूटर पर Meta की भाषा मॉडल चलाएं - बिना इंटरनेट, सब्सक्रिप्शन और क्लाउड के
Ollama इंस्टॉल करें, open-source Llama मॉडल डाउनलोड करें और 5 मिनट में बातचीत शुरू करें
- 1.Ollama को आधिकारिक वेबसाइट से डाउनलोड करें और सामान्य प्रोग्राम की तरह इंस्टॉल करें। macOS पर - आइकन को Applications में खींचें, Windows पर - इंस्टॉलर चलाएं और Next दबाएं। इंस्टॉल के बाद ऐप बैकग्राउंड में चलता है।
Ollama एक मुफ्त ओपन-सोर्स प्रोग्राम है। यह आपके कंप्यूटर पर सीधे भाषा मॉडल डाउनलोड और चलाता है, बिना डेटा इंटरनेट पर भेजे। 8 बिलियन पैरामीटर वाले मॉडल के लिए कम से कम 8 GB RAM चाहिए, आरामदायक उपयोग के लिए 16 GB।
Ollama ↗टूल के बारे में - 2.Terminal खोलें: macOS पर Cmd+Space दबाएं और «Terminal» टाइप करें, Windows पर Win+R दबाएं, «cmd» टाइप करें और Enter दबाएं। PowerShell का भी उपयोग कर सकते हैं।
टर्मिनल कंप्यूटर को नियंत्रित करने का एक टेक्स्ट प्रोग्राम है। काली विंडो से डरें नहीं: बस एक कमांड चाहिए। अगर Ollama सही इंस्टॉल है, तो ollama --version कमांड वर्शन नंबर दिखाएगा।
- 3.नीचे दी गई कमांड टाइप करें और Enter दबाएं। पहली बार Ollama मॉडल डाउनलोड करेगा (लगभग 4.7 GB), फिर अपने आप चैट खुल जाएगी। इंटरनेट स्पीड के अनुसार डाउनलोड में कुछ मिनट लगेंगे।
अगर आपके पास कम RAM है, तो llama3.1:8b की जगह llama3.2:3b (को ~4 GB चाहिए) या llama3.2:1b (को ~2 GB चाहिए) इस्तेमाल करें। Meta के सभी उपलब्ध मॉडल वर्शन देखने के लिए चलाएं: ollama search llama
Ollama ↗टूल के बारे मेंप्रॉम्प्टollama run llama3.1:8b
यह प्रॉम्प्ट क्या करता हैयह कमांड Meta का Llama 3.1 मॉडल (8 बिलियन पैरामीटर) डाउनलोड करता है और टर्मिनल में चैट खोलता है। डाउनलोड पूरा होने पर >>> लाइन दिखेगी - अब आप मॉडल को संदेश लिख सकते हैं। - 4.जब >>> लाइन दिखे, तो मॉडल तैयार है। हिंदी या अंग्रेजी में अपना सवाल लिखें और Enter दबाएं - जवाब सीधे टर्मिनल में दिखेगा। जांचने के लिए यह प्रॉम्प्ट आजमाएं:
चैट से बाहर निकलने के लिए /bye लिखें या Ctrl+D दबाएं। मॉडल डिस्क पर रहता है - अगली बार तुरंत शुरू होगा। बिना चैट के (केवल डाउनलोड) चलाने के लिए ollama run की जगह ollama pull इस्तेमाल करें।
टूल के बारे मेंप्रॉम्प्टआप एक सहायक हैं। रिकर्शन क्या है, इसे सरल शब्दों में Python उदाहरण के साथ समझाएं। उत्तर 10 पंक्तियों से अधिक लंबा न हो।
यह प्रॉम्प्ट क्या करता हैप्रॉम्प्ट मॉडल को भूमिका और विशिष्ट कार्य देता है - रिकर्शन को कोड उदाहरण से समझाना। विषय अपनी जरूरत के अनुसार बदलें: टेक्स्ट, कोड, अनुवाद, आइडिया में मदद। Llama 3.1 मॉडल हिंदी अच्छी तरह समझता है। - 5.ChatGPT जैसे सुविधाजनक इंटरफेस के लिए Chatbox इंस्टॉल करें - एक डेस्कटॉप ऐप जो Ollama से जुड़ता है। इंस्टॉलर डाउनलोड करें, प्रोग्राम चलाएं, सेटिंग्स में Ollama को प्रदाता चुनें और llama3.1:8b मॉडल चुनें।
Chatbox चैट इतिहास, टेक्स्ट फॉर्मेटिंग और वार्तालाप सहेजने वाला परिचित इंटरफेस देता है। ऐप मुफ्त है और लोकल चलता है। विकल्प: LM Studio (lmstudio.ai) या Open WebUI (Docker चाहिए)।
Chatbox ↗
- मुफ़्तOllamaपूरी तरह मुफ्त ओपन-सोर्स प्रोग्राम, अनुरोधों या मॉडलों की संख्या पर कोई सीमा नहीं।
- मुफ़्तLlama 3.1 मॉडल (Meta)मॉडल मुफ्त डाउनलोड होता है। 8B वर्शन के लिए कम से कम 8 GB RAM चाहिए, 3B को ~4 GB, 1B को ~2 GB।
- मुफ़्तChatboxमुफ्त ओपन-सोर्स डेस्कटॉप ऐप, बिना किसी सीमा के। लोकल चलता है, डेटा सर्वर पर नहीं जाता।
AI सेवाएँ तेज़ी से बदलती हैं - इंटरफ़ेस और मुफ़्त सीमाएँ बताए गए से अलग हो सकती हैं।