Jalankan model bahasa Meta di komputer Anda - tanpa internet, langganan, dan cloud
Pasang Ollama, unduh model open-source Llama, dan mulai obrolan dalam 5 menit aktif
- 1.Unduh Ollama dari situs resmi dan pasang seperti program biasa. Di macOS - seret ikon ke Applications, di Windows - jalankan installer dan klik Next. Setelah dipasang, aplikasi berjalan di latar belakang.
Ollama adalah program gratis dengan sumber terbuka. Program ini mengunduh dan menjalankan model bahasa langsung di komputer Anda, tanpa mengirim data ke internet. Untuk model 8 miliar parameter dibutuhkan minimal 8 GB RAM, untuk penggunaan nyaman - 16 GB.
Ollama ↗Tentang alat ini - 2.Buka Terminal: di macOS tekan Cmd+Space dan ketik «Terminal», di Windows tekan Win+R, ketik «cmd» dan tekan Enter. Anda juga bisa menggunakan PowerShell.
Terminal adalah program teks untuk mengontrol komputer. Jangan takut dengan jendela hitam: hanya butuh satu perintah. Jika Ollama terpasang dengan benar, perintah ollama --version akan menampilkan nomor versi.
- 3.Ketik perintah di bawah dan tekan Enter. Saat pertama kali dijalankan, Ollama akan mengunduh model (sekitar 4,7 GB), lalu otomatis membuka obrolan. Pengunduhan memakan beberapa menit tergantung kecepatan internet.
Jika RAM Anda terbatas, ganti llama3.1:8b dengan llama3.2:3b (butuh ~4 GB) atau llama3.2:1b (butuh ~2 GB). Untuk melihat semua versi model Meta yang tersedia, jalankan: ollama search llama
Ollama ↗Tentang alat iniPromptollama run llama3.1:8b
Apa fungsi prompt iniPerintah ini mengunduh model Llama 3.1 dari Meta (8 miliar parameter) dan langsung membuka obrolan di terminal. Setelah unduhan selesai, muncul baris >>> - Anda bisa mulai menulis pesan ke model. - 4.Ketika muncul baris >>>, model siap. Tulis permintaan dalam bahasa Indonesia atau Inggris dan tekan Enter - jawaban muncul langsung di terminal. Coba prompt berikut untuk uji coba:
Untuk keluar dari obrolan, ketik /bye atau tekan Ctrl+D. Model tetap di disk - saat berikutnya akan langsung berjalan. Untuk menjalankan tanpa obrolan (hanya mengunduh), gunakan ollama pull alih-alih ollama run.
Tentang alat iniPromptKamu adalah asisten. Jelaskan apa itu rekursi dengan kata-kata sederhana dan contoh dalam Python. Jawaban tidak lebih dari 10 baris.
Apa fungsi prompt iniPrompt memberikan peran dan tugas spesifik pada model - menjelaskan rekursi dengan contoh kode. Ganti topik sesuai kebutuhan: bantuan teks, kode, terjemahan, ide. Model Llama 3.1 memahami bahasa Indonesia dengan baik. - 5.Untuk antarmuka nyaman bergaya ChatGPT, pasang Chatbox - aplikasi desktop yang terhubung ke Ollama. Unduh installer, jalankan program, di pengaturan pilih Ollama sebagai penyedia dan model llama3.1:8b.
Chatbox memberi antarmuka yang nyaman dengan riwayat obrolan, format teks, dan penyimpanan dialog. Aplikasi gratis dan berjalan secara lokal. Alternatif: LM Studio (lmstudio.ai) atau Open WebUI (butuh Docker).
Chatbox ↗
- gratisOllamaProgram gratis sepenuhnya dengan sumber terbuka, tanpa batasan jumlah permintaan atau model.
- gratisModel Llama 3.1 (Meta)Model diunduh gratis. Untuk versi 8B butuh minimal 8 GB RAM, untuk 3B - sekitar 4 GB, untuk 1B - sekitar 2 GB.
- gratisChatboxAplikasi desktop gratis dengan sumber terbuka, tanpa batasan. Berjalan secara lokal, data tidak dikirim ke server.
Layanan AI berubah cepat - antarmuka dan batas gratis bisa berbeda dari yang dijelaskan.