Анализируйте документы на сотни страниц локально через Qwen3 и LM Studio без отправки данных в облако
Запустите модель с окном контекста 128K на своём компьютере и получите краткое содержание, ключевые тезисы и ответы по тексту любого большого PDF или DOCX
- 1.Скачайте и установите LM Studio - программу для запуска ИИ-моделей локально. Перейдите на сайт, выберите версию для вашей ОС (Windows / Mac / Linux) и установите.
Программа бесплатная и работает офлайн после установки. Если сайт не открывается из вашего региона - попробуйте VPN для скачивания, сама работа модели интернета не требует.
LM Studio ↗Об инструменте - 2.Откройте LM Studio, в строке поиска введите «Qwen3 32B GGUF» и скачайте квантованную версию (ищите файл с Q4_K_M в названии - он оптимально балансирует качество и потребление памяти). Нажмите Download.
Модель Qwen3 32B поддерживает окно контекста до 128 000 токенов - это примерно 300 - 400 страниц текста. Для её запуска желательно 16+ ГБ ОЗУ. Если у вас меньше памяти - поищите Qwen3 14B или Qwen3 8B, они тоже поддерживают большой контекст.
LM Studio ↗Об инструменте - 3.После загрузки модели перейдите на вкладку чата (значок diálogo в левом меню). Вверху в выпадающем списке выберите скачанную модель Qwen3. В панели настроек справа найдите параметр «Context Length» и установите его на 131072 (или максимум, который позволяет ваша видеокарта/ОЗУ).
Чем больше контекстное окно, тем больше ОЗУ используется. Если модель не запускается - уменьшите Context Length до 65536 или 32768. Для большинства документов хватит и 32K.
LM Studio ↗Об инструменте - 4.Нажмите кнопку со скрепкой (или «Attach File») в строке ввода чата и выберите ваш документ - PDF, DOCX или TXT. LM Studio извлечёт текст и загрузит его в контекст модели. Дождитесь, пока файл отобразится в чате как вложение.
⚠️ Внимание: документ обрабатывается локально и не отправляется на внешние серверы. Это безопасно для конфиденциальных материалов. Поддерживаются текстовые PDF; сканы без текстового слоя сначала прогоните через OCR (например, через бесплатный OCR MyPDF).
LM Studio ↗Об инструменте - 5.Вставьте в чат следующий промпт, заменяя текст в квадратных скобках на вашу задачу. Нажмите Send и дождитесь ответа модели.
Модель может генерировать ответ от 30 секунд до нескольких минут в зависимости от размера документа и мощности вашего железа. Прогресс виден по потоковому выводу текста.
LM Studio ↗Об инструментеПромптYou are an expert analyst. Read the attached document carefully and do the following: 1. Write a concise summary in 5-7 sentences. 2. List the 10 most important key points as bullet points. 3. Extract all dates, numbers, and proper names mentioned in the document. 4. Answer this question based ONLY on the document: [ВАШ_ВОПРОС_ПО_ДОКУМЕНТУ] If the answer to the question cannot be found in the document, say: "This information is not present in the document."
Что делает этот промптПромпт на английском просит модель: 1) написать краткое содержание в 5 - 7 предложениях, 2) выделить 10 ключевых тезисов, 3) извлечь все даты, числа и имена собственные, 4) ответить на ваш вопрос строго по тексту документа. Замените [ВАШ_ВОПРОС_ПО_ДОКУМЕНТУ] на конкретный вопрос, например «Какие риски указаны в договоре?» или «Каков общий бюджет проекта?». Модель ответит на русском, если зададите вопрос по-русски. - 6.При необходимости задайте уточняющие вопросы - модель «помнит» весь документ в контексте, и вы можете вести диалог без повторной загрузки файла.
История чата сохраняется в LM Studio. Чтобы начать новый анализ другого документа - нажмите «New Chat» в верхней панели, иначе контекст накопится и скорость упадёт.
LM Studio ↗Об инструментеПромптNow compare section [A] with section [B] from the document. Highlight any contradictions, overlaps, or gaps between them. Present the comparison as a table.
Что делает этот промптЭтот промпт просит модель сравнить два раздела документа, найти противоречия, совпадения и пробелы, а результат оформить таблицей. Замените [A] и [B] на названия или номера разделов, например «Раздел 3» и «Приложение 2».
- бесплатноLM StudioПрограмма полностью бесплатная, без ограничений по количеству запросов или документов.
- бесплатноQwen3 32B GGUF (модель)Модель бесплатная и скачивается прямо из LM Studio. Для запуска версии 32B желательно 16+ ГБ ОЗУ; более лёгкие версии (8B, 14B) работают на 8 ГБ.
Почему сегодня
ИИ-сервисы быстро меняются - интерфейсы и бесплатные лимиты могут отличаться от описанных.