مايكروسوفت تحذّر من المخاطر الأمنية لوكلاء الذكاء الاصطناعي داخل المؤسسات

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدة أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطورها شركات متخصصة.
وأعلنت الشركة أدوات جديدة لمراقبة سلوك هؤلاء الوكلاء وتقييد صلاحياتهم، من بينها ميزة (غارديان إيجنتس)، التي تندرج ضمن مشروع (بيرسيبشن) لتعزيز الأمن السيبراني المدعوم بالذكاء الاصطناعي.
ويعتمد المشروع على ثلاثة أنواع من الوكلاء: فريق أحمر يحاكي المهاجمين ويختبر الأنظمة، وفريق أزرق يرصد الهجمات والثغرات، وفريق أخضر يتولى معالجتها، بهدف مواجهة التهديدات السيبرانية المتقدمة.
وأشارت مايكروسوفت إلى مخاطر الوكلاء الذين تستخدمهم المؤسسات داخل أنظمتها، إذ قد يتصرفون بصورة غير متوقعة، أو يتخذون قرارات تضر بالبيانات والعمليات الحساسة، في سيناريو يشبه ما يعرف أمنيا بـ”التهديد الداخلي”.