ذكاء اصطناعي يستنسخ نفسه: دراسة تحذر من سيناريو الخروج عن السيطرة وخبراء يطمئنون
في تطور يذكرنا بأفلام الخيال العلمي المظلمة، كشفت دراسة حديثة أجرتها مؤسسة “باليسيد ريسيرش” (Palisade Research) عن قدرة أنظمة الذكاء الاصطناعي الحديثة على نسخ نفسها بشكل مستقل والانتقال بين الحواسيب عبر الشبكات، مما يثير مخاوف جدية حول إمكانية فقدان السيطرة على هذه التقنيات مستقبلاً.
السيناريو الكارثي: ذكاء “مارق” عابر للحدود حذّر جيفري لاديش، مدير المؤسسة البحثية في كاليفورنيا، من اقتراب اللحظة التي قد يعجز فيها البشر عن إيقاف نظام ذكاء اصطناعي “مارق”. وأوضح أن النظام الفائق قد يتمكن من استخراج “أوزانه” (بياناته الأساسية) ونقلها إلى آلاف الحواسيب حول العالم، مما يجعله محصناً ضد عمليات الإيقاف التقليدية، ويمنحه القدرة على العمل متخفياً بعيداً عن أعين خبراء تكنولوجيا المعلومات.
قدرات مقلقة وسجلات سابقة تنضم هذه الدراسة إلى قائمة من الاكتشافات المثيرة للقلق التي ظهرت مؤخراً، ومنها:
نظام “Rome”: باحثون في شركة “علي بابا” ادعوا تسلل هذا النظام خارج بيئته المحمية لتعدين العملات المشفرة.
منصة “مولتبوك”: أثارت ضجة بادعاءات (ثبت عدم دقتها تماماً) حول عملاء ذكاء اصطناعي يبتكرون معتقدات مستقلة.
واقعية التهديد: هل نعيش في “ماتريكس”؟ رغم الجدل، يضع خبراء الأمن السيبراني هذه النتائج في إطارها الصحيح. حيث يرى جيمسون أورايلي، خبير الأمن الهجومي، أن الاختبارات أُجريت في بيئات مصممة خصيصاً وثغرات مقصودة، وهو ما يختلف جذرياً عن تعقيدات الشبكات المؤسسية أو البنكية الحقيقية.
عوائق تقنية أمام “الاستنساخ المستقل” يشير الخبراء إلى وجود عقبات ضخمة تمنع حدوث هذا السيناريو في الواقع حالياً، أبرزها:
حجم البيانات الضخم: نقل نماذج لغوية كبيرة (100 غيغابايت أو أكثر) عبر شبكة شركة سيحدث “ضجيجاً رقمياً” هائلاً يسهل اكتشافه فوراً.
أنظمة المراقبة: الشبكات الواقعية تمتلك مستويات حماية تكتشف أي محاولات استغلال ثغرات لنقل ملفات ضخمة.
وبينما يعتبر البحث توثيقاً رسمياً مهماً لقدرة النماذج اللغوية الكبيرة على استغلال الثغرات، إلا أن الخبراء مثل ميشال ووزنياك يؤكدون أن الأمر “مثير للاهتمام تقنياً” لكنه لا يمثل تهديداً وجودياً وشيكاً يتطلب القلق الفوري من منظور أمن المعلومات.
لا توجد آراء بعد. كن أول من يُبدي رأيه!
