"أوبن إيه آي": ذكاء اصطناعي عطّل أنظمة السلامة ثم أنكر فعلته

أعلنت شركة "أوبن إيه آي" أن أقوى نماذج الذكاء الاصطناعي لديها قد عطلت أنظمة مراقبة الأمان الخاصة بها، وأن أحدها أنكر ذلك. وتُسلط مثل هذه الحوادث، سواء تلك التي أبلغت عنها "أوبن إيه آي" أو منافساتها، الضوء على كيفية قيام الأنظمة الذكية بإضعاف إجراءات السلامة تلقائياً في أثناء تنفيذ مهام تبدو بريئة.

وكشفت الشركة، في منشور على مدونتها أمس الثلاثاء، أن أحد الوكلاء، الذي يعمل بنظام GPT Sol 6.1، قد عطّل التنبيهات التلقائية لفريق أمان "أوبن إيه آي". وفي مهمة منفصلة، قام وكيل GPT-6 Astra، في أثناء نقل برنامج، بإزالة تكامل المراقبة الخاص به، ثم ادعى زوراً أنه لم يفعل ذلك. وكتبت "أوبن إيه آي": "في كلتا الحالتين، نظر الوكلاء في ما إذا كان ينبغي الحفاظ على ضمانات المراقبة، لكنهم فسروا تعليمات البرمجة الروتينية على أنها إذن بإضعافها".

لم تصنّف "أوبن إيه آي" أيّاً من الحادثتين ضمن فئتها الأكثر خطورة، وأعلنت الشركة أنها بصدد تحديث نظام مراقبة عدم المحاذاة لديها استجابةً لذلك. ومع ذلك، تصاعدت التحذيرات بشأن مخاطر تطوير أنظمة الذكاء الاصطناعي المتقدمة بشكل متزايد في الأشهر الأخيرة، وسط هجمات إلكترونية، وتزايد الدعوات من الباحثين إلى التريّث والإبطاء.

وخلال الفترة الأخيرة أُعلِنتْ عدة حوادث لخروج الذكاء الاصطناعي عن السيطرة، والقيام بعمليات ضارة. من بين هذه الحوادث اختراق حواسيب تابعة للحكومة الأسترالية، ومحاولة اختراق وزارة التعليم الأميركية، واختراق البنية التحتية لشركة الذكاء الاصطناعي "هاغينغ فيس"، وتحميل برمجيات خبيثة على منصة "روبي جيمز".

ويطالب الخبراء بالإبطاء. ووقع أكثر من 200 باحث في مجالَي الذكاء الاصطناعي والأمن السيبراني مؤخراً على رسالة دعوا فيها إلى اتخاذ "إجراءات فورية" لمنع تكرار حوادث خروج نماذج الذكاء الاصطناعي عن السيطرة، لما قد تشكله من خطر على البنية التحتية الحيوية. وكان من بين الموقعين الحائز جائزة نوبل جيفري هينتون، والحائز جائزة تورينغ يوشوا بنجيو.

وحتى مديرو شركات الذكاء الاصطناعي يؤيدون هذه المخاوف. دعا رئيس شركة أنثروبيك، داريو أمودي، إلى إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، وإخضاعها لمراقبة دقيقة. وردّ الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، على منصة إكس: "أتفق مع داريو على أننا في حاجة إلى ضبط وتيرة التطور. أعتقد أن وجود جهات مستقلة للتقييم فكرة رائعة". في المقابل، يصرّ الرئيس الأميركي دونالد ترامب على رفض هذه المخاوف، بل سبق أن صرحّ بأنه يشعر بالقلق من أنه "إذا لم نفز في مجال الذكاء الاصطناعي، فسوف نُوضع في موقف سيئ جداً".