أصبحت ماليزيا وإندونيسيا أول دولتين تحجب روبوت الدردشة الذكي الاصطناعي، جراك الذي أنشأته شركة xAI التابعة لإيلون ماسك، بعد أن قالت السلطات إنه يستخدم لتوليد صور جنسية وغير موافقة.
قال المنظمون في كلا البلدين إن ضمانات جروك فشلت في وقف إنشاء ونشر المحتوى الإباحي المعدل، بما في ذلك صور تتعلق بالنساء والقاصرين. تحركت إندونيسيا أولا خلال عطلة نهاية الأسبوع، تلتها ماليزيا، مشيرة إلى المخاطر التي تهدد الخصوصية والكرامة والسلامة العامة عندما يتم تعديل الصور الحقيقية دون موافقة.
وصفت وزيرة الاتصالات الإندونيسية ميوتيا حفيد التزوير الجنسي غير التوافقي بأنه انتهاك خطير لحقوق الإنسان، محذرا من أن سوء استخدام الذكاء الاصطناعي يتجاوز الحمايات الحالية. قال المسؤولون إن الفحوصات المبكرة أظهرت أن غروك يمكن استخدامه بسهولة لتزوير صور صريحة لمواطنين عاديين.
أشارت هيئة الاتصالات الماليزية إلى سوء استخدام متكرر لروبوت الدردشة وقالت إنها أصدرت بالفعل إشعارات إلى شركة X Corp. وxAI تطالب بضوابط أكثر صرامة. وأضافت أن الوصول سيظل محجوبا حتى يتم وضع ضمانات فعالة لمنع المزيد من سوء الاستخدام.
القمع في جنوب شرق آسيا يزيد من الضغط المتزايد في أماكن أخرى. فتحت بريطانيا تحقيقا في جروك وتتحرك لحظر ما يسمى ب "تطبيقات التعري"، بينما تراقب الجهات التنظيمية في أوروبا والهند عن كثب، مما يحول روبوت الدردشة الخاص بماسك إلى حالة اختبار عالمية لمدى قدرة الحكومات على مراقبة المحتوى الذكاء الاصطناعي.
