Запустите модель Gemma на телефоне с 1 ГБ ОЗУ за 5 минут
Локальный ИИ без интернета: установка PocketPal AI и загрузка урезанной модели Gemma
- 1.Установите приложение PocketPal AI из Google Play или App Store. Откройте приложение после установки.
Приложение бесплатное и работает офлайн. На iOS ищите «PocketPal AI» в App Store, на Android - в Google Play.
PocketPal AI ↗ - 2.При первом запуске приложение запросит разрешения - нажмите Allow / Разрешить. На главном экране откройте вкладку Models (иконка кубика или вкладка снизу).
Если приложение предложит загрузить модель при первом запуске - выберите «Choose manually», чтобы самому выбрать лёгкую версию.
PocketPal AI ↗ - 3.В разделе Models найдите Gemma 2B или Gemma 2 2B Instruct в формате GGUF с квантованием Q4_K_M или Q3_K_S. Нажмите на модель и нажмите Download / Загрузить.
Для 1 ГБ ОЗУ нужна модель размером не более 1.5 - 1.8 ГБ. Версия Q4_K_M весит около 1.6 ГБ, Q3_K_S - около 1.3 ГБ. Если tảiка идёт медленно - подключитесь к Wi-Fi.
Hugging Face (через PocketPal) ↗ - 4.После загрузки вернитесь на главный экран (вкладка Chat). Вверху выберите загруженную модель Gemma из выпадающего списка. Начните разговор - отправьте первый промпт.
Первый запрос может занять 30 - 60 секунд: модель прогружается в память. Дальнейшие ответы будут быстрее.
PocketPal AI ↗ПромптYou are a helpful assistant. Answer in Russian. Explain quantum computing in one simple sentence that a 10-year-old can understand.
Что делает этот промптЭтот промпт задаёт модели роль и просит объяснить квантовые вычисления одним простым предложением на русском языке. Замените тему «quantum computing» на любую свою - например «photosynthesis» или «how VPN works». - 5.Проверьте, что интернет отключён (включите авиарежим). Отправьте ещё один запрос - модель должна ответить без подключения к сети.
Если модель не отвечает или падает - попробуйте квантование Q3_K_S или уменьшите контекст в Settings → Inference → Context length до 1024.
PocketPal AI ↗ПромптGive me 5 ideas for a weekend trip within 100 km of my city.
Что делает этот промптПросит модель предложить 5 идей для поездки на выходные в радиусе 100 км от вашего города. Ответ будет на английском - добавьте «Answer in Russian» в конец промпта, если нужен русский.
- бесплатноPocketPalПриложение полностью бесплатно, без подписок и рекламы; вся работа выполняется локально на телефоне.
- бесплатноHugging Face (загрузка модели)Скачивание моделей GGUF через веб и приложение бесплатно без регистрации; единственная затрата - мобильный трафик на файл размером 600 - 800 МБ.
Почему сегодня
ИИ-сервисы быстро меняются - интерфейсы и бесплатные лимиты могут отличаться от описанных.