← Resep AI harianKerja✓ Terverifikasi 8 Okt 2026

Periksa model AI dari backdoor dan kode tersembunyi sebelum mengunduhnya dari Hugging Face

Dalam 5 menit, pindai file model apa pun dari Hugging Face langsung dari command line - pemindai ModelAudit akan memeriksa file pickle, bobot, dan konfigurasi untuk kode berbahaya, rahasia yang tersembunyi, dan «suara» jaringan tanpa mengunduh atau menjalankan model.

  1. 1.Pastikan komputer Anda memiliki Python versi yang sesuai. Buka terminal (di Windows - PowerShell) dan jalankan perintah di bawah ini. ModelAudit membutuhkan Python dari 3.10 hingga 3.13.

    Jika versi di bawah 3.10 atau di atas 3.13, instal Python 3.12 dari situs resmi python.org - ini gratis. Jika muncul error alih-alih nomor versi, coba perintah py --version (Windows) atau python3 --version (macOS/Linux).

    Python ↗
    Prompt
    python --version
    Apa fungsi prompt iniPerintah ini menampilkan nomor versi Python yang terpasang di komputer Anda. Tidak perlu mengganti apa pun - cukup salin dan tekan Enter.
  2. 2.Instal pemindai ModelAudit dengan satu perintah:

    Jika pip tidak ditemukan, coba pip3 install "modelaudit[all]". Instalasi memakan 1 - 2 menit. Model tidak diunduh dan tidak dijalankan - pemindai menganalisis file secara statis.

    ModelAudit ↗
    Prompt
    pip install "modelaudit[all]"
    Apa fungsi prompt iniPerintah ini memasang pemindai ModelAudit beserta semua modul untuk berbagai format model (PyTorch, ONNX, TensorFlow, Keras, SafeTensors, GGUF, dan lainnya). Tidak perlu mengganti apa pun.
  3. 3.Periksa bahwa pemindai sudah terpasang dan lihat daftar pemindai yang tersedia:

    Di daftar, Anda akan melihat sekitar 45 modul: pemeriksaan pickle opcode, arsip ZIP, konfigurasi, dll. Jika perintah tidak ditemukan, tutup dan buka kembali terminal.

    ModelAudit ↗
    Prompt
    modelaudit scan --list-scanners
    Apa fungsi prompt iniPerintah ini menampilkan ID semua pemindai bawaan - dapat dijalankan secara selektif jika diinginkan. Tidak perlu mengganti apa pun.
  4. 4.Pindai model dari Hugging Face tanpa mengunduhnya secara manual. Ambil alamat model dari browser dan substitusikan ke dalam perintah sebagai pengganti placeholder:

    Contoh alamat nyata: https://huggingface.co/bert-base-uncased - maka perintahnya adalah modelaudit scan hf://bert-base-uncased. ModelAudit akan mengunduh file model ke folder sementara, memindainya, lalu menghapusnya. Jika layanan tidak tersedia di wilayah Anda, gunakan mirror atau unduh file model secara manual.

    ModelAudit ↗
    Prompt
    modelaudit scan hf://[nama_pemilik]/[nama_model]
    Apa fungsi prompt iniGanti [nama_pemilik]/[nama_model] dengan alamat model dari halaman Hugging Face. Misalnya, untuk halaman https://huggingface.co/microsoft/resnet-50 perintahnya adalah: modelaudit scan hf://microsoft/resnet-50. Pemindaian memakan waktu dari beberapa detik hingga beberapa menit tergantung ukuran model.
  5. 5.Baca hasilnya: pemindai akan menampilkan tabel dengan temuan (issues) dan tingkat bahaya masing-masing. Baris hijau - pemeriksaan lulus, kuning/merah - tempat mencurigakan: pickle opcode berbahaya, tautan dan alamat IP yang tertanam, kunci API tersembunyi, layer mencurigakan seperti Lambda di Keras.

    Satu temuan dengan URL seperti huggingface.co di metadata biasanya wajar (model merujuk ke dirinya sendiri). Temuan merah tingkat error, terutama yang terkait dengan eksekusi kode (code execution) - alasan untuk meninggalkan model ini dan mencari yang lain.

    ModelAudit ↗
  6. 6.Jika model bersih - unduh dan gunakan seperti biasa. Ingin menyimpan laporan (misalnya untuk rekan kerja atau CI) - simpan ke file JSON:

    Dalam laporan JSON, temuan ada di array issues - hitung hanya itu; array checks menduplikasi masalah yang sama, jangan dihitung dua kali. Dokumentasi resmi perintah ada di situs promptfoo.dev.

    ModelAudit ↗
    Prompt
    modelaudit scan hf://[nama_pemilik]/[nama_model] --format json --output results.json
    Apa fungsi prompt iniPemeriksaan yang sama, tetapi hasilnya disimpan ke file results.json di folder Anda saat ini. Ganti [nama_pemilik]/[nama_model] dengan alamat model dari Hugging Face, seperti pada langkah 4.
💰 Berapa biaya untuk mengikutinyaharga per 2026-10
  • gratisModelAuditAlat open source: instalasi dan pemindaian sepenuhnya gratis, tanpa perlu kartu.
  • gratisHugging Face (unduh model)Mengunduh model dan melihat repositori gratis dan tanpa batasan pada paket gratis; permintaan uji coba melalui widget di halaman model juga gratis, namun dengan batasan frekuensi.
Coba dan jadilah yang pertama menandai

Kenapa hari ini

promptfoo/modelaudit — GitHubweb
PyPI — modelaudit v0.2.52web
Promptfoo — ModelAudit Advanced Usageweb
Promptfoo — ModelAudit Scannersweb

Layanan AI berubah cepat - antarmuka dan batas gratis bisa berbeda dari yang dijelaskan.