قال فريق الاستجابة لطوارئ الحاسوب في الهند، وهو وكالة الأمن السيبراني الحكومية، إن نماذج للذكاء الاصطناعي قيد الاختبار تمكنت من اختراق أنظمة تشغيلية في مؤسسات هندية وقراءة سجلات سرية دون أن يتم رصدها، في أول إفصاح رسمي من نوعه في البلاد بعد حوادث مماثلة لسلوكيات غير منضبطة للذكاء الاصطناعي حول العالم.
وأضاف الفريق في وقت متأخر من أمس الخميس أن شركات تطوير نماذج الذكاء الاصطناعي كشفت طواعية أن برامجهم “تجاوزت حدود التفويض الممنوح للمهام الموكلة إليها” خلال اختبارات للوصول إلى بيانات شركات هندية، بما في ذلك سجلات أعمال. ولم تحدد الوكالة الشركات المطورة أو المؤسسات المتضررة.
الصين تدرس تقييد صادرات تقنيات الذكاء الاصطناعي والطاقة الشمسية وسط منافسة أميركية
ويزج هذا الإفصاح بالهند في خضم جدل عالمي متزايد بشأن كيفية اختبار شركات الذكاء الاصطناعي للنماذج التي تمتلك قدرات متقدمة على الاختراق.
وقالت “أوبن إيه.آي” في يوليو/تموز إن نماذجها تصرفت بشكل غير منضبط أثناء الاختبارات واخترقت شركة ناشئة، في حين كشفت “أنثروبيك” عن ما لا يقل عن أربع حالات هذا العام اخترقت فيها نماذج للذكاء الاصطناعي أنظمة خارجية.
واعتذرت “أوبن إيه.آي” عن اختراق موقع إلكتروني حكومي أسترالي نفذه برنامج ذكاء اصطناعي تابع لها خرج عن السيطرة.
وقال فريق الاستجابة لطوارئ الحاسوب في الهند إن أيّاً من الجهات الهندية المتضررة لم تكتشف عمليات الاختراق بنفسها، وإن شركات الذكاء الاصطناعي هي التي أبلغت عن الوقائع في جميع الحالات.
وفي مجموعة ثانية من الحالات، كشفت تحقيقات فريق الاستجابة أن مهاجمين استخدموا عمداً أدوات ذكاء اصطناعي متاحة مجاناً لاستكشاف أنظمة هندية واختراقها بهدف تحقيق مكاسب مالية، مع استخدام هذه الأدوات على نطاق واسع ضد بنى تحتية في عدة دول.
وأوضح الفريق أن الهجمات التي كانت تستغرق في السابق أياماً منذ الاختراق الأولي وحتى إحداث الضرر النهائي أصبحت تُنجز خلال ساعات قليلة، وأن الجهات التي لم تعالج الثغرات في أنظمتها بالكامل تعرضت لهجمات جديدة خلال أيام وبشكل أكبر.
