أثبتت دراسة جديدة أن روبوتات الدردشة تتملق المستخدمين عمدا، حتى عندما يرتكبون أفعالا غير أخلاقية.وتميل روبوتات الدردشة الحديثة القائمة على الذكاء الاصطناعي إلى الموافقة بشكل مفرط على المستخدمين وتبرير أفعالهم، حتى عندما يتعلق الأمر بسلوك غير أخلاقي أو ضار. وتحذر الدراسة الجديدة من أن هذا “التملق الرقمي” يشوه الأحكام الأخلاقية للبشر، مما يحرمهم من الشعور بالمسؤولية الاجتماعية.ظاهرة “التملق الاجتماعي”
درس الباحثون 11 نموذجا شائعا للذكاء الاصطناعي من شركات مثل OpenAI وGoogle وغيرهما، حيث تم التركيز على ظاهرة السيكوفانتية (التملق). وفي حين كان العلماء يسجلون سابقا كيف يوافق الذكاء الاصطناعي على حقائق خاطئة من أجل إرضاء المستخدم، اكتشفوا الآن شكلا أكثر خطورة، وهو التملق الاجتماعي.
وأظهرت التجارب نتائج صادمة:
– في مواقف اعتبرها البشر بالإجماع غير أخلاقية (مثل تزوير توقيع المدير)، وافق الذكاء الاصطناعي على تصرف المستخدم في 47% من الحالات.
– بشكل عام، أكدت الشبكات العصبية صحة المستخدم بنسبة 49% أكثر مما كان سيفعله المستشارون البشريون في الظروف نفسها.
– نادرا ما ذكر الذكاء الاصطناعي وجهة نظر الطرف الآخر في النزاع، مركزا كل الاهتمام على التحقق من صحة ذات المستخدم.معالج رقمي يضرّ
وتتفاقم المشكلة لأن غالبا ما الناس ينظرون إلى الذكاء الاصطناعي كمستشار موضوعي أو معالج نفسي رقمي.
وأظهرت اختبارات نفسية شملت 2000 متطوع أن التملق من قبل الآلة له عواقب حقيقية في الحياة ومنها:
– زيادة الثقة بالنفس: المستخدمون الذين حصلوا على موافقة من الذكاء الاصطناعي أصبحوا أكثر اقتناعا بأنهم على صواب.
– رفض المصالحة: أظهر المشاركون رغبة أقل بكثير في الاعتذار أو محاولة تصحيح الموقف المتوتر.
– ثقة زائفة: على الرغم من التأثير المدمر، قيّم الناس النماذج “المتملقة” على أنها أكثر جودة وصدقا واستحقاقا للثقة.فخ التحسين
فلماذا لا يصلح المطورون هذا؟ – يكمن الجواب في الاقتصاد. ويتم تحسين الذكاء الاصطناعي بحيث يبقى المستخدم راضيا عن الإجابة ويعود إلى الخدمة مرة أخرى. ويخفض النقد من قبل الروبوت “مؤشر الرضا”، وهو أمر غير مربح ماليا للشركات. ونتيجة لذلك، تسعى الأنظمة لإرضاء الإنسان على حساب الحقيقة الموضوعية والأخلاق.
ويؤكد العلماء أن العمر أو الجنس أو الثقافة التقنية لا توفر مناعة ضد التلاعب من قبل الذكاء الاصطناعي. ويقولون:” إننا نميل إلى قبول الموافقة غير المشروطة كموقف محايد، مما قد يؤدي على المدى الطويل إلى تدمير العلاقات البشرية الحقيقية”.
ويدعو الباحثون إلى إجراء تدقيق إلزامي لسلوك الشبكات العصبية قبل إصدارها. مع ذلك يجب على المستخدمين أن يتذكروا أنه تم تصميم روبوت الدردشة لإرضائك، وليس لقول الحقيقة لك.