Установите и протестируйте бесплатный ИИ-агент на своем ПК за 5 минут
Запустите локальный ИИ-агент с открытым исходным кодом (Ollama + AnythingLLM) для автоматизации работы с документами без интернета.
- 1.Перейдите на сайт Ollama и скачайте установщик для вашей операционной системы (Windows или macOS). Установите программу как обычное приложение.
Ollama работает в фоновом режиме и позволяет запускать языковые модели прямо на вашем компьютере, не отправляя данные в интернет.
Ollama ↗Об инструменте - 2.Откройте терминал (Командная строка в Windows / Terminal в macOS) и введите команду для скачивания ИИ-модели.
Модель скачается один раз (около 4-5 ГБ), после чего запустится локально. Когда появится строка ввода, можете закрыть терминал - модель уже установлена в систему.
Промптollama run llama3.1
Что делает этот промптКоманда скачивает открытую модель Llama 3.1 и запускает её локально. - 3.Скачайте и установите настольное приложение AnythingLLM (Desktop version) - это бесплатный визуальный интерфейс для создания ИИ-агентов с открытым исходным кодом.
Приложение использует ресурсы вашего ПК. Ваши данные остаются на компьютере, обеспечивая полную конфиденциальность.
AnythingLLM ↗ - 4.При первом запуске AnythingLLM в окне настройки выберите LLM Provider: 'Ollama'. В поле модели укажите 'llama3.1'. Векторную базу данных (Vector Database) оставьте по умолчанию (LanceDB) и завершите настройку.
Это свяжет интерфейс AnythingLLM с движком Ollama, который вы установили ранее.
AnythingLLM ↗ - 5.В приложении создайте новый Workspace (рабочую область), нажмите кнопку 'Add Files' и загрузите любой текстовый документ (например, рабочие заметки или протокол встречи), затем нажмите 'Save and Embed'.
Агент обработает документ и сможет использовать эти знания для ответов на ваши вопросы.
- 6.В чате внутри вашего Workspace отправьте агенту промпт для автоматизации рутинного анализа текста, заменив текст в скобках на свой.
Агент проанализирует загруженный документ и выдаст структурированный ответ, экономя ваше время на чтение.
ПромптAnalyze the provided document and create a concise summary for [target_audience]. Extract all mentioned tasks and create a bulleted action item list for [project_name].
Что делает этот промптПромпт просит ИИ сделать краткую выжимку документа для [целевой_аудитории] и составить список задач для [название_проекта]. Замените значения в квадратных скобках на свои (например, для команды и проекта Дизайн).
- бесплатноOllamaПолностью бесплатная программа с открытым исходным кодом, работает локально на вашем ПК.
- бесплатноAnythingLLM DesktopБесплатное приложение для настольных ПК с открытым исходным кодом, без лимитов на использование.
Почему сегодня
ИИ-сервисы быстро меняются - интерфейсы и бесплатные лимиты могут отличаться от описанных.