← Рецепты дняРабота✓ Проверено 8 окт. 2026 г.

Проверьте AI-модель на бэкдор и скрытый код до того, как скачаете её с Hugging Face

За 5 минут просканируйте любой файл модели с Hugging Face прямо из командной строки - сканер ModelAudit проверит pickle-файлы, веса и конфиги на вредоносный код, встроенные секреты и сетевые «маячки», не загружая и не выполняя модель.

  1. 1.Убедитесь, что на компьютере есть Python подходящей версии. Откройте терминал (в Windows - PowerShell) и выполните команду ниже. ModelAudit требует Python от 3.10 до 3.13.

    Если версия ниже 3.10 или выше 3.13, установите Python 3.12 с официального сайта python.org - это бесплатно. Если вместо версии появляется ошибка, попробуйте команду py --version (Windows) или python3 --version (macOS/Linux).

    Python ↗
    Промпт
    python --version
    Что делает этот промптКоманда выводит номер версии Python, установленной на вашем компьютере. Ничего заменять не нужно - просто скопируйте и нажмите Enter.
  2. 2.Установите сканер ModelAudit одной командой:

    Если pip не найден, попробуйте pip3 install "modelaudit[all]". Установка занимает 1 - 2 минуты. Модель при этом не скачивается и не запускается - сканер анализирует файлы статически.

    ModelAudit ↗
    Промпт
    pip install "modelaudit[all]"
    Что делает этот промптКоманда устанавливает сканер ModelAudit вместе со всеми модулями для разных форматов моделей (PyTorch, ONNX, TensorFlow, Keras, SafeTensors, GGUF и другие). Заменять ничего не нужно.
  3. 3.Проверьте, что сканер установился, и посмотрите список доступных сканеров:

    В списке вы увидите около 45 модулей: проверка pickle-опкодов, ZIP-архивов, конфигов и т.д. Если команда не находится, закройте и заново откройте терминал.

    ModelAudit ↗
    Промпт
    modelaudit scan --list-scanners
    Что делает этот промптКоманда показывает ID всех встроенных сканеров - их можно будет при желании запускать выборочно. Ничего заменять не нужно.
  4. 4.Просканируйте модель с Hugging Face, не скачивая её вручную. Возьмите адрес модели из браузера и подставьте в команду вместо плейсхолдера:

    Пример реального адреса: https://huggingface.co/bert-base-uncased - тогда команда будет modelaudit scan hf://bert-base-uncased. ModelAudit сам скачает файлы модели во временную папку, просканирует их и удалит. Если сервис недоступен в вашем регионе, используйте зеркало или скачайте файл модели

    ModelAudit ↗
    Промпт
    modelaudit scan hf://[имя_владельца]/[имя_модели]
    Что делает этот промптЗамените [имя_владельца]/[имя_модели] на адрес модели со страницы Hugging Face. Например, для страницы https://huggingface.co/microsoft/resnet-50 команда выглядит так: modelaudit scan hf://microsoft/resnet-50. Сканирование занимает от нескольких секунд до пары минут в зависимости от размера модели.
  5. 5.Прочитайте итог: сканер покажет таблицу с находками (issues) и уровнем опасности каждой. Зелёные строки - проверка пройдена, жёлтые/красные - подозрительные места: опасные pickle-опкоды, встроенные ссылки и IP-адреса, спрятанные API-ключи, подозрительные слои вроде Lambda в Keras.

    Единственная находка с URL вида huggingface.co в метаданных - обычно нормально (модель ссылается на саму себя). Красные находки уровня error, особенно связанные с выполнением кода (code execution) - повод отказаться от этой модели и поискать другую.

    ModelAudit ↗
  6. 6.Если модель чистая - скачивайте и пользуйтесь как обычно. Хотите сохранить отчёт (например, для коллег или для CI) - выведите его в JSON-файл:

    В JSON-отчёте находки лежат в массиве issues - считайте именно их; массив checks дублирует те же проблемы, не считайте их дважды. Официальная документация по командам - на сайте promptfoo.dev.

    ModelAudit ↗
    Промпт
    modelaudit scan hf://[имя_владельца]/[имя_модели] --format json --output results.json
    Что делает этот промптТа же проверка, но результат сохраняется в файл results.json в вашей текущей папке. Замените [имя_владельца]/[имя_модели] на адрес модели со Hugging Face, как в шаге 4.
💰 Сколько это стоитцены на 2026-10
  • бесплатноModelAuditИнструмент с открытым кодом: установка и сканирование полностью бесплатны, карта не нужна.
  • бесплатноHugging Face (скачивание моделей)Скачивание моделей и просмотр репозиториев бесплатны и без ограничений на бесплатном тарифе; пробные запросы через виджеты на страницах моделей тоже бесплатны, но с лимитами частоты.
Попробуй и отметься первым

Почему сегодня

promptfoo/modelaudit — GitHubweb
PyPI — modelaudit v0.2.52web
Promptfoo — ModelAudit Advanced Usageweb
Promptfoo — ModelAudit Scannersweb

ИИ-сервисы быстро меняются - интерфейсы и бесплатные лимиты могут отличаться от описанных.