تعمل “ميتا” على إضافة مجموعة جديدة من قيود الأمان على روبوتات الدردشة بالذكاء الاصطناعي الخاصة بها، وذلك عقب شكاوى وتقارير عدة من آلية تدريب الروبوتات وفق ما جاء في تقرير رويترز.
وكانت التقارير كشفت سابقا عن مستندات التدريب الخاصة بنماذج الذكاء الاصطناعي في “ميتا”، ووفق هذه المستندات فإن الشركة كانت تسمح للروبوتات بالانخراط في محادثات رومانسية وحسية استفزازية مع المراهقين.
ووضح المتحدث الرسمي لشركة “ميتا” آندي ستون أن الشركة اتخذت مجموعة من الخطوات المؤقتة قبل أن تبدأ في تنفيذ الإجراءات طويلة الأمد لحماية المراهقين وتقديم تجربة آمنة مع روبوتات الدردشة الخاصة بها.
وأكد ستون أن القيود الجديدة التي تطبقها “ميتا” على روبوتات الدردشة بدأت في الوصول إلى المستخدمين بالفعل، وأشار إلى أن الشركة تعمل على تحسين هذه القيود وتعزيزها مع الاستخدام.
وواجهت “ميتا” مجموعة واسعة من الانتقادات التي جعلت النائب الأميركي جوش هاولي يطلق تحقيقا واسعا في سياسات الشركة المتعلقة بالذكاء الاصطناعي، كما طالب هاولي بتقديم كافة الوثائق الخاصة بتدريب نماذج الذكاء الاصطناعي فيها.
ووجد هذا التحقيق ترحيبا واسعا من نواب الحزبين في الولايات المتحدة، إذ أعرب كلاهما عن مخاوف متزايدة من التقنية ومن تصرفات “ميتا” معها.
ومن جانبها، أكدت “ميتا” في ذلك الوقت أصالة هذه المستندات وكونها مستندات حقيقية من داخل الشركة، ثم قامت بتعديل المستندات الموجودة داخلها لتلاشي الأخطاء المماثلة.
وعلى صعيد آخر، أشار تقرير منفصل نشرته رويترز أن الشركة استغلت أسماء وصور مجموعة من المشاهير لبناء روبوتات دردشة غرامية في المنصات الخاصة بها.
وتضمنت مجموعة الممثلين الذين استغلتهم “ميتا” أسماء بارزة مثل تايلور سويفت وسكارليت جوهانسون وآن هاثاواي وسيلينا غوميز، مع وجود أكثر من روبوت واحد في بعض الحالات.
وصممت بعض الروبوتات أنها هي الشخصية الحقيقية للمثل وليست مجرد ذكاء اصطناعي، كما قامت بتوليد مجموعة من الصور بناء على طلب المستخدمين باستخدام شكل الممثلين الحقيقي وبعضها كان في أوضاع مخلة.
ووضح ستون أن سياسة الشركة تمنع توليد الصور المخلة أو انتحال الشخصيات، ولكنها تتيح بناء روبوتات تقتبس شخصيات الممثلين طالما كان موضحا بأن الروبوت هزلي ولا يقصد به أي شيء آخر.
