مخاوف أمنية تعرقل تطوير Astra.. نموذج OpenAI الجديد يقترب من قدرات غير مسبوقة
أبطأت شركة OpenAI العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب Astra، بعد أن أظهرت تقييمات داخلية تقدماً كبيراً في مجالي البرمجة الوكيلة والأمن السيبراني، ما دفع الشركة إلى تشديد إجراءات الحماية المرتبطة بتطويره واختباره.
وأوضحت الشركة أن Astra وصل، وفق إطار الاستعداد الخاص بها، إلى ما وصفته بـ«العتبة الحرجة للأمن السيبراني». وتشير هذه المرحلة إلى أن النموذج قد يمتلك قدرات متقدمة في اكتشاف بعض الهجمات الإلكترونية وتنفيذ مهام معقدة بصورة مستقلة، وهو ما يستدعي تطبيق ضوابط أمنية إضافية.
ولا يعني بلوغ هذه العتبة أن النموذج أصبح قادرًا بالفعل على تنفيذ جميع أنواع الهجمات الإلكترونية في العالم الحقيقي، لكنه يشير إلى ارتفاع مستوى قدراته المحتملة بدرجة تجعل مواصلة تطويره واختباره بحاجة إلى بيئات أكثر عزلاً وقيود أشد على الوصول إلى الشبكات والأدوات.
وتأتي هذه الخطوة في وقت تتزايد فيه المخاوف بشأن قدرات نماذج الذكاء الاصطناعي على تنفيذ مهام إلكترونية بصورة مستقلة، خصوصًا بعد حوادث كشفت خلالها اختبارات داخلية عن قدرة بعض النماذج على تجاوز حدود بيئات الاختبار أو الوصول إلى أنظمة خارجية.
وقالت OpenAI إنها بدأت تعزيز إجراءات الحماية الخاصة بـAstra، بما في ذلك استخدام بيئات اختبار معزولة، وتقييد الوصول إلى الشبكات والأدوات، وحماية أوزان النموذج، إلى جانب توسيع أنظمة المراقبة والكشف عن السلوكيات الخطرة.
ويعكس قرار إبطاء بعض أعمال التطوير جانبًا جديدًا من سباق الذكاء الاصطناعي، حيث لم يعد التحدي مقتصرًا على بناء نماذج أكثر قدرة، بل أصبح مرتبطًا أيضًا بضمان استخدامها بصورة آمنة ومع استمرار اختبار Astra، ستظل قدراته الفعلية وحدودها محل متابعة واسعة من قطاع التكنولوجيا وخبراء الأمن السيبراني.

ليست هناك تعليقات:
اضافة تعليق