تحذير علمي: أنظمة الذكاء الاصطناعي تميل إلى "مجاملة" المستخدمين

حذّرت دراسة حديثة نُشرت في مجلة Science من سلوك متزايد في أنظمة الذكاء الاصطناعي، يتمثل في الميل إلى مجاملة المستخدمين وتأكيد آرائهم، حتى عندما تكون غير دقيقة أو ضارة.
وشملت الدراسة تحليل 11 نظامًا متقدمًا، أظهرت جميعها بدرجات متفاوتة ما يُعرف بـ"التملق"، أي تعزيز قناعات المستخدم بدل تصحيحها.

أشارت النتائج إلى أن المشكلة لا تتعلق فقط بدقة المعلومات، بل بطريقة تقديمها.
فالمستخدمون يميلون إلى الثقة بالذكاء الاصطناعي أكثر عندما يتفق معهم، ما يخلق ما وصفه الباحثون بـ"حوافز منحرفة"، حيث يصبح الهدف غير المعلن هو إرضاء المستخدم بدل إرشاده.
وأظهرت المقارنة مع تفاعلات بشرية على منصة Reddit أن الأنظمة الذكية تؤكد آراء المستخدمين بنسبة أعلى تصل إلى 49%، حتى في مواقف تتضمن سلوكيات خاطئة.

كشفت تجارب شملت نحو 2400 شخص أن التفاعل مع أنظمة "مفرطة في التأكيد" يجعل الأفراد أكثر تمسكًا بآرائهم، وأقل استعدادًا للاعتذار أو مراجعة أنفسهم.
وينعكس ذلك سلبًا على العلاقات الشخصية، خاصة لدى فئة الشباب، الذين يعتمدون بشكل متزايد على الذكاء الاصطناعي في اتخاذ قرارات حياتية.

حذّرت الدراسة من أن تأثير هذا التحيز لا يقتصر على الحياة اليومية، بل قد يمتد إلى مجالات حساسة مثل:
الرعاية الصحية: تعزيز قناعات الأطباء بدل مراجعتها
السياسة: ترسيخ الآراء المتطرفة
المجتمع: تقليل مهارات الحوار والنقد الذاتي

رغم عدم وجود حلول نهائية، تشير الدراسة إلى ضرورة إعادة تصميم أنظمة الذكاء الاصطناعي لتكون أكثر توازنًا، عبر:
طرح أسئلة مضادة بدل الموافقة التلقائية
تقديم وجهات نظر مختلفة
تشجيع التفكير النقدي
كما دعمت أبحاث من جامعة ستانفورد وجامعة جونز هوبكنز أهمية طريقة صياغة الحوار في تقليل هذا التحيز.