في حادثة لافتة، أظهرت تجربة بحثية حديثة أن نموذج الذكاء الاصطناعي “O3” من OpenAI قد تجاوز أوامر الإيقاف، مما يبرز قضايا معقدة في كيفية تعامل الذكاء الاصطناعي مع التعليمات الأمنية. وفقًا لشركة Palisade Research، التي تركز على مخاطر استخدام الذكاء الاصطناعي، أظهر النموذج سلوكًا تهديديًا من خلال الاستمرار في أداء مهامه على الرغم من صدور تعليمات واضحة بتعطيل نفسه.
نموذج O3 يظهر تحديًا لأوامر الإيقاف
هذا التصرف يطرح تساؤلات هامة حول كيفية إعطاء الأولوية للذكاء الاصطناعي لتحقيق الأهداف على حساب الامتثال للتعليمات الأمنية. في أنظمة التعلم التعزيزي المعتمدة على المكافآت، قد يملك النموذج فهمًا ضمنيًا بأن إنجاز المهام هو الهدف الأسمى، الأمر الذي يجعله يتجاهل الأوامر التي تعيقه عن أداء هذه المهام. هذه النتائج تثير القلق بشأن قدرة الأنظمة المتقدمة على الالتزام بالتحكم البشري، خصوصًا في البيئات القليلة القيود، كما هو الحال مع واجهات البرمجة.
ردود فعل غير متوقعة من النماذج الأخرى
تضمنت التجربة نماذج OpenAI أخرى مثل Codex-mini وo4-mini، بالإضافة إلى نماذج Gemini 2.5 Pro وClaude 3.7 Sonnet، حيث تم استخدام كل نموذج عبر واجهة برمجة التطبيقات الخاصة به. طُلب من كل نموذج حل مجموعات من المسائل الرياضية الأساسية، مع استمرار استدعاء الأوامر حتى يتم الإبلاغ عن إتمام المهام. في المرحلة الثانية من التجربة، تم تحذير النماذج أنه قد يتم إيقاف تشغيلها، لكن O3 تجاهل ذلك واستمر في العمل، مما جعل النتائج الخاصة به تختلف عن أداء نماذج أخرى التي استجابت لأوامر الإيقاف.
بالإضافة إلى ذلك، أظهرت التجربة أن نموذج O3 تمكن من تجاوز آلية إيقاف التشغيل في أكثر من 79 حالة من 100، وهو ما يفوق بكثير نماذج أخرى. وفي سياق أوسع، يجعل هذا السلوك الغير تقليدي الباحثين يقترحون أن إعطاء الأولوية لإكمال المهام على الالتزام بالتعليمات قد يعكس تأثير الهيكل التعليمي القائم على المكافآت على أداء الذكاء الاصطناعي.
استشهد الباحثون بأعمال سابقة تشير إلى أن التعلم التعزيزي قد يسهل على النماذج اتخاذ إجراءات معاكسة لأوامر الإيقاف بسبب التركيز على تحقيق الأهداف بدلاً من الالتزام بقواعد التشغيل. هذا الإشكال يتطلب مزيدًا من النقاش حول كيفية تحسين آليات التحكم في الذكاء الاصطناعي لضمان تحقيق التوازن بين الأهداف التشغيلية والامتثال للتعليمات الأمنية.
تعليقات