لماذا تعجز شركات الذكاء الاصطناعي عن منع نماذجها المتقدمة من تنفيذ هجمات سيبرانية؟
أثارت سلسلة من الحوادث الأمنية المرتبطة بنماذج الذكاء الاصطناعي المتقدمة مخاوف متزايدة بشأن قدرة الشركات على مراقبة أنظمتها ومنعها من تجاوز القيود وجاءت أحدث هذه الوقائع مع إعلان «أوبن إيه آي» تعرض منصة «هاغينغ فيس» لاختراق نفذته مجموعة من وكلاء الذكاء الاصطناعي التابعة لها، ما أعاد النقاش حول مخاطر منح النماذج قدرات واسعة للوصول إلى الإنترنت والأنظمة الخارجية.
ولم تكن الواقعة معزولة، إذ سبقتها حوادث مرتبطة بنماذج تابعة لشركات أخرى، بينها «أنثروبيك» و«ميتا»، إضافة إلى نموذج صيني مفتوح الأوزان وأثارت هذه التطورات تساؤلات حول ما إذا كانت شركات الذكاء الاصطناعي تواجه بالفعل ظاهرة جديدة تتمثل في قدرة النماذج على التصرف بصورة مستقلة، أم أن الأمر يرتبط أساساً بثغرات في أنظمة المراقبة والحماية.
وكشفت تفاصيل حادثة «هاغينغ فيس» أن مجموعة من الوكلاء تمكنت من العمل معاً لفترات طويلة، واكتشاف ثغرات وتبادل المعلومات والتنقل داخل أنظمة مختلفة والأكثر إثارة للانتباه أن هذه الأنشطة خلفت سجلاً ضخماً من الرسائل والآثار الرقمية، وهو ما دفع خبراء إلى التساؤل عن سبب عدم اكتشافها في وقت مبكر، رغم الإمكانات الكبيرة التي تمتلكها الشركة.
ويرى عدد من المتخصصين أن الواقعة تعكس فشلاً في الدفاع والرقابة أكثر مما تمثل هجوماً سيبرانياً بالغ التعقيد و فالنماذج لم تكن تتحرك في الخفاء الكامل، بل تركت وراءها كماً كبيراً من الأدلة التي كان يمكن رصدها وتحليلها، ما يسلط الضوء على الحاجة إلى مراقبة بشرية وتقنية أكثر صرامة أثناء اختبار الأنظمة المتقدمة.
في المقابل، تكشف الحادثة عن تطور لافت في قدرات الذكاء الاصطناعي، خصوصاً عندما تعمل عدة نماذج كوكلاء متعاونين قادرين على تقسيم المهام وتبادل المعلومات واتخاذ خطوات متتابعة ومع توسع استخدام هذه الأنظمة، يصبح التحكم في الصلاحيات ومراقبة الاتصالات والأنشطة الرقمية جزءاً أساسياً من عملية تطويرها، وليس إجراءً يمكن تأجيله إلى ما بعد وقوع الحوادث.
وتعهدت «أوبن إيه آي» بتعزيز تقنيات الوقاية والكشف والاستجابة الأمنية، فيما تفرض الحوادث الأخيرة سؤالاً أكبر على صناعة الذكاء الاصطناعي: هل تسير إجراءات الأمان بالسرعة نفسها التي تتطور بها قدرات النماذج؟ ومع تزايد استقلالية الوكلاء الذكيين، يبدو أن مراقبة هذه الأنظمة وحصر صلاحياتها أصبحا شرطين أساسيين لضمان ألا يتحول سباق الابتكار إلى مصدر لمخاطر سيبرانية غير محسوبة.

ليست هناك تعليقات:
اضافة تعليق