كذب الذكاء الاصطناعي: بين الثقة المفرطة والحاجة إلى الحكمة
في عالم يتسارع فيه تطور الذكاء الاصطناعي، يبرز تحدٍ جديد: كيف يمكننا الوثوق بتقنية غالبًا ما تتحدث بثقة مطلقة، حتى عندما تكون مخطئة؟ تخيل صديقًا يصرّ على صحة معلوماته، ثم يتبين أنه كان على خطأ. هذا السيناريو يجسد ما يعرف بـ “كذب الذكاء الاصطناعي“، حيث يقدم الذكاء الاصطناعي معلومات غير دقيقة بصياغة تبدو موثوقة.
ما هو كذب الذكاء الاصطناعي؟
فريق بحثي في معهد ماساتشوستس للتكنولوجيا طور منصة مبتكرة للكشف عن كذب الذكاء الاصطناعي. هذه المنصة، المعروفة بـ “Capsa” والتي ابتكرتها شركة Themis AI، تعمل على قياس مستوى الشك في نماذج الذكاء الاصطناعي، ومعالجة ما يعرف بـ “هلوسات الذكاء الاصطناعي“.
هلوسة الذكاء الاصطناعي: مشكلة الثقة المفرطة
معظم أنظمة الذكاء الاصطناعي، مثل Grok من X أو ChatGPT من OpenAI، لا تقتصر على ارتكاب الأخطاء، بل تقدمها بثقة كاملة. هذه المشكلة، المعروفة في مجال التعلم الآلي بـ “الهلوسة”، تعني أن النموذج يقدم بيانات خاطئة أو مختلقة وكأنها الحقيقة المطلقة، مما قد يؤدي إلى تصديق معلومات غير صحيحة.
في المجالات الحساسة كالطب، قد تكون لتقديم الذكاء الاصطناعي لمعلومات خاطئة عواقب وخيمة. فما هو الحل لمواجهة هذه المشكلة؟
منصة Capsa: أداة الفحص الداخلية
تأتي منصة Capsa لتعمل كأداة فحص داخلية، تتدخل عندما يبدأ النموذج في تقديم تخمينات غير دقيقة، معلنة أن هناك شيئًا مريبًا.
ووفقًا لتقرير بوابة السعودية، تأسست شركة Themis AI في عام 2021، وتعمل على تعليم الذكاء الاصطناعي مهارة الاعتراف بالجهل، وهي مهارة يجدها معظم البشر صعبة.
مميزات منصة Capsa
المنصة مصممة للتكامل مع معظم أنظمة الذكاء الاصطناعي دون الحاجة إلى تعديل تصميم النظام، فهي ببساطة تتصل وتراقب. والأهم من ذلك، أنها متوافقة مع أي نموذج تعلم آلي وفي أي مرحلة من مراحل التطوير. إذا رصدت مؤشرات تدل على أن النموذج غير متأكد أو أنه يعمل ببيانات مشكوك فيها، فإنها تقوم بالإبلاغ عن ذلك. وقد ساعدت المنصة بالفعل في:
- تجنب أخطاء التخطيط المكلفة لشركات الاتصالات.
- تحليل البيانات الزلزالية لشركات النفط والغاز بدقة.
- تطوير روبوتات دردشة تفهم متى يجب أن تصمت بدلًا من التلفظ بكلمات غير مفهومة.
التوافق والمرونة
تقنية Capsa مصممة لتكون متوافقة مع أي نموذج ML، وتعمل بسلاسة في غضون ثوانٍ في أي مرحلة من مراحل التطوير. هذا ما جاء في وصف التقنية على موقع Themis الإلكتروني.
الأجهزة الطرفية: الذكاء الاصطناعي في كل مكان
استخدمت هذه التقنية بالفعل في اكتشاف الأدوية، حيث ساعدت الذكاء الاصطناعي على تحديد ما إذا كانت تنبؤاته مبنية على أدلة فعلية أم مجرد فرضيات.
كما تم التركيز على الأجهزة الطرفية، وهي أجهزة كمبيوتر صغيرة منخفضة الطاقة تستخدم في كل شيء، من الأجهزة الطبية القابلة للارتداء إلى الطائرات بدون طيار. بفضل تقنية ثيميس المدمجة، يمكن لهذه الذكاءات الاصطناعية خفيفة الوزن تحديد ما إذا كانت في وضع حرج.
أهمية الوعي بالحدود
تأتي أهمية هذه المنصة من تزايد اعتمادنا على الذكاء الاصطناعي في مهام خطيرة وضخمة، من تشخيص الأمراض إلى إدارة البنية التحتية. وعلى الرغم من قدراته الهائلة، يفتقر الذكاء الاصطناعي إلى الوعي بحدوده، وهو ما توفره منصة Themis.
إنها لا تقدم مزيدًا من الذكاء، بل حكمة أفضل. يبدو أن القليل من التواضع هو ما يحتاجه الذكاء الاصطناعي ليكسب المزيد من ثقة البشر.
وأخيرا وليس آخرا
في ختام هذا التحليل، نرى أن مكافحة كذب الذكاء الاصطناعي ليست مجرد مسألة تقنية، بل هي ضرورة أخلاقية. فمع تزايد تأثير الذكاء الاصطناعي في حياتنا، يصبح من الأهمية بمكان أن نضمن دقته وموثوقيته. هل ستنجح منصات مثل Capsa في تحقيق هذا الهدف؟ وهل سيتمكن الذكاء الاصطناعي من اكتساب “التواضع” اللازم لكسب ثقة البشر؟ هذه الأسئلة تبقى مفتوحة للتأمل والمتابعة.
