إندونيسيا تحظر روبوت الدردشة “غروك” بسبب محتوى إباحي مولّد بالذكاء الاصطناعي

حظرت إندونيسيا، يوم السبت، مؤقتًا روبوت الدردشة “غروك” التابع لإيلون ماسك، بسبب مخاوف من انتشار محتوى إباحي مولّد بالذكاء الاصطناعي، لتصبح أول دولة تمنع الوصول إلى هذه الأداة.

ويأتي القرار بعد إدانات واسعة من حكومات وهيئات تنظيمية في أوروبا وآسيا للمحتوى الجنسي الذي ظهر عبر التطبيق، وفتح بعضها تحقيقات رسمية بشأنه.

وقالت شركة xAI المطوّرة لغروك إنها ستقصر ميزة إنشاء وتحرير الصور على أصحاب الاشتراكات المدفوعة فقط، في محاولة لمعالجة الثغرات الأمنية التي سمحت بظهور محتوى جنسي، من بينها صور لأطفال بملابس فاضحة.

وأكد وزير الاتصالات والشؤون الرقمية الإندونيسي موتيا حفيظ أن “التزييف العميق الجنسي دون موافقة يُعد انتهاكًا خطيرًا لحقوق الإنسان وكرامة وأمن المواطنين في الفضاء الرقمي”، مشيرًا إلى أن الوزارة استدعت مسؤولي منصة إكس لمناقشة القضية، بعد انتشار الصور المولّدة عبر غروك على المنصة.

من جهته، قال إيلون ماسك على منصة إكس إن أي مستخدم يستغل غروك لإنتاج محتوى غير قانوني “سيتعرض للعواقب نفسها كما لو أنه قام بتحميل محتوى غير قانوني”.

وتُطبّق إندونيسيا، التي تضم أكبر عدد من المسلمين في العالم، قوانين صارمة تحظر نشر المحتوى الفاحش على الإنترنت.