Запустите локальный AI-агента без интернета за 10 минут
Бесплатная модель на вашей машине с функциями агента (вызов инструментов, работа с файлами) в LM Studio
- 1.Скачайте и установите LM Studio с официального сайта (Windows, Mac или Linux). Запустите установщик - займёт 1 - 2 минуты.
Приложение полностью бесплатно. Выбирайте версию для вашей ОС. Mac автоматически выберет MLX для ускорения на Apple Silicon.
LM Studio ↗ - 2.Откройте LM Studio и перейдите на вкладку Discover (значок поиска). Найдите модель Phi-4-mini Q4_K_M - она займёт ~3 ГБ памяти и подойдёт даже для слабых видеокарт.
Phi-4-mini - лучший выбор для локального агента с ограниченной памятью. Работает с функциями и инструментами прямо из коробки. Зелёная иконка ракеты рядом означает, что модель подойдёт вашему железу.
LM Studio ↗ - 3.Нажмите Download и дождитесь загрузки модели (3 - 4 минуты на нормальной сети). Статус покажет прогресс в процентах.
Модель загружается один раз. Дальше она останется на вашем диске и будет работать оффлайн, без интернета и без отправки данных куда-либо.
LM Studio ↗ - 4.Перейдите на вкладку Chat, выберите Phi-4-mini из выпадающего списка и нажмите Load Model. Дождитесь, пока модель загрузится в память (10 - 60 секунд).
Когда модель загрузится, строка ввода внизу станет активной. Это значит, что агент готов к работе.
LM Studio ↗ - 5.Откройте вкладку Developer, найдите переключатель Agent Mode и включите его. Теперь модель сможет вызывать инструменты и выполнять задачи пошагово.
Agent Mode даёт локальной модели возможность вызывать функции, работать с файлами, выполнять код - всё без облака и без API.
LM Studio ↗ - 6.Вернитесь на Chat и напишите задачу для агента. Пример: "Анализ этого текста. Что в нём главное?" или "Какие функции может вызывать этот агент?"
Убедитесь, что Mode в левой части интерфейса установлен на Chat или Agent (видно вверху окна). Нажмите Enter или кнопку Send.
LM Studio ↗ПромптAnalyze this content and list the key points in a structured way. [Вставьте текст или описание задачи]
Что делает этот промптЭто базовый промпт для первого теста. Замените [Вставьте текст...] на ваш текст или задачу. Phi-4-mini автоматически разделит сложные задачи на этапы и выполнит их последовательно благодаря Agent Mode. - 7.Смотрите ответ в чате. Модель отобразит процесс решения пошагово: какие инструменты она выбрала, какие данные обработала. Всё работает локально на вашей машине.
Первый ответ агента может занять 30 - 90 секунд в зависимости от размера задачи и вашего железа. Это нормально. Следующие ответы будут быстрее, так как модель уже в памяти.
LM Studio ↗
- бесплатноOllamaПолностью бесплатен, работает локально без интернета после загрузки модели.
- бесплатноDeepSeek R1 7B / Hermes 7B / Qwen 7BМодели распространяются по открытой лицензии, загрузка бесплатна, требует 5 - 7 ГБ дискового пространства.
- бесплатноPython + requestsPython и библиотека requests - полностью бесплатны с открытым исходным кодом.
Почему сегодня
ИИ-сервисы быстро меняются - интерфейсы и бесплатные лимиты могут отличаться от описанных.