在从 Hugging Face 下载 AI 模型之前，检查其后门和隐藏代码
只需5分钟，即可直接从命令行扫描 Hugging Face 上的任何模型文件 - ModelAudit 扫描器将检查 pickle 文件、权重和配置中的恶意代码、内置密钥和网络「探针」，无需加载或运行模型。
- 1.确保您的电脑上安装了合适版本的 Python。打开终端（Windows 下为 PowerShell）并运行以下命令。ModelAudit 需要 Python 3.10 到 3.13 版本。
如果版本低于 3.10 或高于 3.13，请从官方网站 python.org 安装免费的 Python 3.12。如果显示的不是版本号而是错误，请尝试运行命令 py --version (Windows) 或 python3 --version (macOS/Linux)。
Python ↗提示词python --version
这个提示词的作用该命令会输出您电脑上安装的 Python 版本号。无需修改任何内容 - 直接复制并按回车键即可。 - 2.使用一条命令安装 ModelAudit 扫描器：
如果找不到 pip，请尝试运行 pip3 install 'modelaudit[all]'。安装大约需要 1-2 分钟。此过程不会下载或运行模型 - 扫描器仅对文件进行静态分析。
ModelAudit ↗提示词pip install 'modelaudit[all]'
这个提示词的作用该命令将安装 ModelAudit 扫描器以及适用于各种模型格式（PyTorch, ONNX, TensorFlow, Keras, SafeTensors, GGUF 等）的所有模块。无需修改任何内容。 - 3.检查扫描器是否安装成功，并查看可用的扫描器列表：
列表中您将看到大约 45 个模块：pickle 操作码检查、ZIP 归档检查、配置检查等。如果提示找不到命令，请关闭并重新打开终端。
ModelAudit ↗提示词modelaudit scan --list-scanners
这个提示词的作用该命令显示所有内置扫描器的 ID - 如果需要，可以选择性地运行它们。无需修改任何内容。 - 4.无需手动下载，直接扫描 Hugging Face 上的模型。从浏览器中复制模型地址，并将其替换命令中的占位符：
真实地址示例：https://huggingface.co/bert-base-uncased - 那么命令为 modelaudit scan hf://bert-base-uncased。ModelAudit 会自动将模型文件下载到临时文件夹，扫描后将其删除。如果该服务在您所在的地区不可用，请使用镜像或下载模型文件
ModelAudit ↗提示词modelaudit scan hf://[所有者名称]/[模型名称]
这个提示词的作用将 [所有者名称]/[模型名称] 替换为 Hugging Face 页面上的模型地址。例如，对于页面 https://huggingface.co/microsoft/resnet-50，命令如下：modelaudit scan hf://microsoft/resnet-50。根据模型大小，扫描可能需要几秒到几分钟。 - 5.查看结果：扫描器会显示一个问题 (issues) 表格及其危险等级。绿色行表示检查通过，黄色/红色行表示可疑内容：危险的 pickle 操作码、内置链接和 IP 地址、隐藏的 API 密钥、像 Keras Lambda 这样的可疑层。
在元数据中发现仅包含 huggingface.co 形式 URL 的内容通常是正常的（模型引用了自身）。error 级别的红色发现，特别是与代码执行 (code execution) 相关的发现 - 这意味着您应该放弃该模型并寻找替代品。
ModelAudit ↗ - 6.如果模型安全，请照常下载和使用。如果需要保存报告（例如给同事或用于 CI），请将其输出为 JSON 文件：
在 JSON 报告中，问题位于 issues 数组中 - 请统计这些内容；checks 数组是相同问题的重复，请勿重复统计。有关命令的官方文档位于 promptfoo.dev 网站。
ModelAudit ↗提示词modelaudit scan hf://[所有者名称]/[模型名称] --format json --output results.json
这个提示词的作用检查过程相同，但结果会保存到当前文件夹下的 results.json 文件中。请像第 4 步那样，将 [所有者名称]/[模型名称] 替换为 Hugging Face 上的模型地址。
- 免费ModelAudit开源工具：安装和扫描完全免费，无需银行卡。
- 免费Hugging Face (下载模型)在免费套餐下，下载模型和查看仓库免费且不受限制；通过模型页面的小部件进行试用请求也是免费的，但有频率限制。
为什么是今天
AI 服务变化很快 - 界面和免费额度可能与描述有所不同。