افحص نموذج الذكاء الاصطناعي للبحث عن أبواب خلفية وشيفرات خفية قبل تنزيله من Hugging Face
في 5 دقائق افحص أي ملف نموذج من Hugging Face مباشرة من سطر الأوامر - سيفحص الماسح ModelAudit ملفات pickle والأوزان والإعدادات بحثاً عن شيفرات ضارة وأسرار مدمجة و«منارات» شبكية، دون تنزيل النموذج أو تشغيله.
- 1.تأكد من وجود Python بإصدار مناسب على جهازك. افتح الطرفية (في Windows - PowerShell) ونفّذ الأمر التالي. يتطلب ModelAudit إصدار Python من 3.10 إلى 3.13.
إذا كان الإصدار أقل من 3.10 أو أعلى من 3.13، فثبّت Python 3.12 من الموقع الرسمي python.org - هذا مجاني. إذا ظهر خطأ بدلاً من الإصدار، جرّب الأمر py --version (في Windows) أو python3 --version (في macOS/Linux).
Python ↗البرومبتpython --version
ماذا يفعل هذا البرومبتيعرض هذا الأمر رقم إصدار Python المثبّت على جهازك. لا حاجة لتغيير أي شيء - فقط انسخ الأمر واضغط Enter. - 2.ثبّت الماسح ModelAudit بأمر واحد:
إذا لم يتم العثور على pip، جرّب pip3 install 'modelaudit[all]'. يستغرق التثبيت من دقيقة إلى دقيقتين. لا يتم تنزيل النموذج أو تشغيله في هذه المرحلة - يحلل الماسح الملفات بشكل ثابت (سكوني).
ModelAudit ↗البرومبتpip install 'modelaudit[all]'
ماذا يفعل هذا البرومبتيثبّت هذا الأمر الماسح ModelAudit مع جميع الوحدات الخاصة بصيغ النماذج المختلفة (PyTorch وONNX وTensorFlow وKeras وSafeTensors وGGUF وغيرها). لا حاجة لتغيير أي شيء. - 3.تأكد من تثبيت الماسح بنجاح واطلع على قائمة الماسحات المتاحة:
سترى في القائمة نحو 45 وحدة: فحص رموز pickle التشغيلية وأرشيفات ZIP والإعدادات وما إلى ذلك. إذا لم يتم العثور على الأمر، أغلق الطرفية وافتحها من جديد.
ModelAudit ↗البرومبتmodelaudit scan --list-scanners
ماذا يفعل هذا البرومبتيعرض هذا الأمر معرّفات جميع الماسحات المدمجة - يمكنك عند الحاجة تشغيل بعضها بشكل انتقائي. لا حاجة لتغيير أي شيء. - 4.افحص نموذجاً من Hugging Face دون تنزيله يدوياً. خذ عنوان النموذج من المتصفح وضعه في الأمر بدلاً من العنصر النائب:
مثال لعنوان حقيقي: https://huggingface.co/bert-base-uncased - عندها سيكون الأمر modelaudit scan hf://bert-base-uncased. سينزّل ModelAudit ملفات النموذج بنفسه إلى مجلد مؤقت، ويفحصها، ثم يحذفها. إذا كانت الخدمة غير متاحة في منطقتك، استخدم مرآة (mirror) أو نزّل ملف النموذج يدوياً
ModelAudit ↗البرومبتmodelaudit scan hf://[اسم_المالك]/[اسم_النموذج]
ماذا يفعل هذا البرومبتاستبدل [اسم_المالك]/[اسم_النموذج] بعنوان النموذج من صفحته على Hugging Face. مثلاً، بالنسبة للصفحة https://huggingface.co/microsoft/resnet-50 يكون الأمر هكذا: modelaudit scan hf://microsoft/resnet-50. يستغرق الفحص من بضع ثوانٍ إلى دقيقتين حسب حجم النموذج. - 5.اقرأ النتيجة النهائية: سيعرض الماسح جدولاً بالمشكلات المكتشفة (issues) ومستوى خطورة كل منها. الصفوف الخضراء تعني نجاح الفحص، أما الصفراء والحمراء فتشير إلى مواضع مشبوهة: رموز pickle التشغيلية الخطرة والروابط وعناوين IP المدمجة ومفاتيح API المخفية وطبقات مشبوهة مثل Lambda في Keras.
النتيجة الوحيدة التي تحتوي رابطاً من نوع huggingface.co في البيانات الوصفية عادة طبيعية (يشير النموذج إلى نفسه). أما النتائج الحمراء بمستوى error، خاصة تلك المتعلقة بتنفيذ الشيفرة (code execution)، فهي سبب للتخلي عن هذا النموذج والبحث عن غيره.
ModelAudit ↗ - 6.إذا كان النموذج نظيفاً - نزّله واستخدمه كالمعتاد. وإذا أردت حفظ التقرير (مثلاً لزملائك أو لنظام CI) - أخرجه إلى ملف JSON:
في تقرير JSON تقع النتائج داخل المصفوفة issues - احسبها منها؛ أما المصفوفة checks فتحتوي على نفس المشكلات مكررة، فلا تحسبها مرتين. الوثائق الرسمية للأوامر متاحة على موقع promptfoo.dev.
ModelAudit ↗البرومبتmodelaudit scan hf://[اسم_المالك]/[اسم_النموذج] --format json --output results.json
ماذا يفعل هذا البرومبتنفس الفحص، لكن مع حفظ النتيجة في ملف results.json داخل مجلدك الحالي. استبدل [اسم_المالك]/[اسم_النموذج] بعنوان النموذج من Hugging Face كما في الخطوة 4.
- مجاناModelAuditأداة مفتوحة المصدر: التثبيت والفحص مجانيان تماماً، ولا حاجة إلى بطاقة.
- مجاناHugging Face (تنزيل النماذج)تنزيل النماذج وتصفح المستودعات مجاني وبلا قيود على الخطة المجانية؛ الطلبات التجريبية عبر الأدوات المصغرة في صفحات النماذج مجانية أيضاً ولكن بحدود تكرار.
لماذا اليوم
خدمات الذكاء الاصطناعي تتغير بسرعة - قد تختلف الواجهات والحدود المجانية عما هو موصوف.