Verifique um modelo de IA quanto a backdoor e código oculto antes de baixá-lo do Hugging Face
Em 5 minutos, escaneie qualquer arquivo de modelo do Hugging Face direto da linha de comando - o scanner ModelAudit verifica arquivos pickle, pesos e configs em busca de código malicioso, segredos embutidos e «balizas» de rede, sem baixar nem executar o modelo.
- 1.Confirme que o computador tem o Python em uma versão adequada. Abra o terminal (no Windows - PowerShell) e execute o comando abaixo. O ModelAudit exige Python de 3.10 a 3.13.
Se a versão for inferior a 3.10 ou superior a 3.13, instale o Python 3.12 do site oficial python.org - é gratuito. Se, em vez da versão, aparecer um erro, tente o comando py --version (Windows) ou python3 --version (macOS/Linux).
Python ↗Promptpython --version
O que este prompt fazO comando mostra o número da versão do Python instalada no seu computador. Não é preciso alterar nada - basta copiar e pressionar Enter. - 2.Instale o scanner ModelAudit com um único comando:
Se o pip não for encontrado, tente pip3 install 'modelaudit[all]'. A instalação leva de 1 a 2 minutos. O modelo não é baixado nem executado nesse processo - o scanner analisa os arquivos de forma estática.
ModelAudit ↗Promptpip install 'modelaudit[all]'
O que este prompt fazO comando instala o scanner ModelAudit junto com todos os módulos para os diferentes formatos de modelo (PyTorch, ONNX, TensorFlow, Keras, SafeTensors, GGUF e outros). Não é preciso alterar nada. - 3.Verifique se o scanner foi instalado e veja a lista de scanners disponíveis:
Na lista você verá cerca de 45 módulos: verificação de opcodes pickle, arquivos ZIP, configs etc. Se o comando não for encontrado, feche e reabra o terminal.
ModelAudit ↗Promptmodelaudit scan --list-scanners
O que este prompt fazO comando mostra os IDs de todos os scanners integrados - se quiser, você poderá executá-los de forma seletiva. Não é preciso alterar nada. - 4.Escaneie um modelo do Hugging Face sem baixá-lo manualmente. Copie o endereço do modelo do navegador e coloque no comando no lugar do placeholder:
Exemplo de endereço real: https://huggingface.co/bert-base-uncased - nesse caso, o comando será modelaudit scan hf://bert-base-uncased. O próprio ModelAudit baixa os arquivos do modelo para uma pasta temporária, os escaneia e os exclui. Se o serviço não estiver disponível na sua região, use um espelho (mirror) ou baixe o arquivo do modelo
ModelAudit ↗Promptmodelaudit scan hf://[nome_do_proprietário]/[nome_do_modelo]
O que este prompt fazSubstitua [nome_do_proprietário]/[nome_do_modelo] pelo endereço do modelo na página do Hugging Face. Por exemplo, para a página https://huggingface.co/microsoft/resnet-50, o comando fica assim: modelaudit scan hf://microsoft/resnet-50. O escaneamento leva de alguns segundos a alguns minutos, dependendo do tamanho do modelo. - 5.Leia o resultado: o scanner mostrará uma tabela com os achados (issues) e o nível de risco de cada um. Linhas verdes - verificação aprovada; amarelas/vermelhas - pontos suspeitos: opcodes pickle perigosos, links e endereços IP embutidos, chaves de API escondidas, camadas suspeitas como a Lambda no Keras.
Um único achado com URL do tipo huggingface.co nos metadados normalmente é normal (o modelo faz referência a si mesmo). Achados vermelhos de nível error, especialmente ligados à execução de código (code execution), são motivo para descartar esse modelo e procurar outro.
ModelAudit ↗ - 6.Se o modelo está limpo - baixe e use normalmente. Se quiser salvar o relatório (por exemplo, para colegas ou para o CI), exporte-o para um arquivo JSON:
No relatório JSON, os achados ficam no array issues - conte apenas eles; o array checks repete os mesmos problemas, não conte duas vezes. A documentação oficial dos comandos está no site promptfoo.dev.
ModelAudit ↗Promptmodelaudit scan hf://[nome_do_proprietário]/[nome_do_modelo] --format json --output results.json
O que este prompt fazA mesma verificação, mas o resultado é salvo no arquivo results.json na sua pasta atual. Substitua [nome_do_proprietário]/[nome_do_modelo] pelo endereço do modelo do Hugging Face, como no passo 4.
- grátisModelAuditFerramenta de código aberto: a instalação e o escaneamento são totalmente gratuitos, sem necessidade de cartão.
- grátisHugging Face (download de modelos)O download de modelos e a navegação pelos repositórios são gratuitos e sem limites no plano gratuito; as consultas de teste via widgets nas páginas dos modelos também são gratuitas, mas com limites de frequência.
Por que hoje
Serviços de IA mudam rápido - interfaces e limites gratuitos podem diferir do descrito.