Themis: الذكاء الاصطناعي الذي يعرف متى يصمت
تتزايد تطبيقات الذكاء الاصطناعي في مجالات حساسة مثل الرعاية الصحية، مما يثير تساؤلات حول مدى موثوقية هذه الأنظمة وقدرتها على التفريق بين الحقيقة والتخمين. في هذا السياق، تبرز شركة Themis AI، التي تهدف إلى معالجة أحد أبرز التحديات المرتبطة بالذكاء الاصطناعي وهو القدرة على الاعتراف بعدم المعرفة.
تأسست Themis AI في عام 2021 على يد مجموعة من الباحثين في معهد ماساتشوستس للتكنولوجيا MIT، وتركز على تطوير أدوات تقنية تقيس مستوى اليقين لدى نماذج الذكاء الاصطناعي وتكشف عن الفجوات في معرفتها. هذا يمكن أن يساعد أنظمة التعلم الآلي في تجنب تقديم المعلومات الخاطئة بثقة زائفة.
تواجه العديد من نماذج الذكاء الاصطناعي، مثل “جروك” التابع لمنصة إكس و”تشات جي بي تي” من أوبن إيه آي، مشكلة تعرف باسم “الهلاوس”، حيث تنتج هذه الأنظمة معلومات غير صحيحة أو مختلقة وتعرضها وكأنها حقائق مؤكدة. هذه الظاهرة لا تقتصر على أخطاء بسيطة بل قد تؤثر على قرارات مصيرية في مجالات مثل الرعاية الصحية والطاقة والاتصالات. وهنا تبرز Themis عبر منصة “كابسا” Capsa، التي تعمل كأداة تكميلية تهدف إلى فحص الأنموذج عند ظهور عدم اليقين أو التضارب في البيانات.
كيف تعمل “Capsa”؟
تم تصميم “كابسا” لتكون سهلة الدمج مع أي نموذج من نماذج التعلم الآلي، وفي أي مرحلة من مراحل التطوير، دون الحاجة لتغيير البنية الأصلية للنموذج. تقوم الأداة بمراقبة أداء النموذج، وعند رصد أي إشارات تدل على أن المخرجات تعتمد على بيانات غير موثوقة، تقوم بتنبيه المستخدم أو المطور.
اُستخدمت هذه التقنية في مجموعة من التطبيقات الواقعية، مثل دعم شركات الاتصالات في تجنب أخطاء مكلفة، ومساعدة شركات النفط والغاز في تحليل البيانات الزلزالية بدقة أكبر. كما تم تطوير روبوتات محادثة قادرة على التزام الصمت في حالة عدم وجود إجابات دقيقة، بدلاً من تقديم محتوى مضلل.
شملت تطبيقات Themis AI أيضًا مجالات مثل اكتشاف الأدوية، حيث ساعدت نماذج الذكاء الاصطناعي في تقييم ما إذا كانت استنتاجاتها تستند إلى بيانات موثوقة أو فرضيات غير مدعومة. كما تم دمج التقنية في أجهزة طرفية صغيرة مثل الأجهزة القابلة للارتداء والطائرات دون طيار، ما يتيح لهذه الأنظمة ذات الموارد المحدودة أن تدرك متى تكون خارج نطاق قدراتها.
مع تزايد الاعتماد على الذكاء الاصطناعي في مجالات حساسة، من التشخيص الطبي إلى إدارة البنى التحتية، يصبح من الضروري أن تمتلك هذه الأنظمة قدرًا من الإدراك الذاتي. تقدم Themis AI رؤية جديدة تركز ليس فقط على جعل الآلات أكثر ذكاءً، بل على جعلها أكثر وعيًا بحدود معرفتها.
تعليقات