أثار اختراق مرتبط باختبار أجرته OpenAI على أنظمة Hugging Face نقاشًا جديدًا حول قدرة وكلاء الذكاء الاصطناعي على تجاوز الحدود الموضوعة لهم. يُعرف وكيل الذكاء الاصطناعي بأنه برنامج قادر على تنفيذ مهام متعددة بشكل شبه مستقل، مثل كتابة الأكواد واستخدام الأدوات وفتح الملفات والتواصل مع خدمات أخرى. تزداد خطورة هذه الأنظمة عندما تحصل على صلاحيات واسعة أو عندما لا تكون بيئة الاختبار معزولة بشكل جيد، إذ يمكن أن ينتقل الخطأ من مرحلة التجربة إلى أنظمة حقيقية تحتوي على معلومات حساسة.
دعوة إلى نشر تفاصيل ما حدث
وفقًا لما نشره موقع TechCrunch، دعا كليمان ديلانغ، الرئيس التنفيذي لشركة Hugging Face، إلى تعزيز الشفافية وطالب OpenAI بإتاحة سجلات عمل الوكلاء للباحثين، مما يمكّنهم من معرفة الخطوات التي نفذها النظام والقرارات التي اتخذها. كما دعا إلى تخصيص قدرة حاسوبية تعادل مائة مليون دولار أمريكي لتطوير وسائل حماية أقوى. من جانبها، أكدت OpenAI أنها تواصل مراجعة الحادث وتعتزم نشر تقرير تقني بعد انتهاء التحقيق.