«يوتيوب» تعلن إصلاح عطل في بث مقاطع الفيديو

تدقيق عالمي في روبوت الدردشة «غروك» بسبب محتوى فاضح

تواجه شركة «إكس إيه آي» التابعة للملياردير إيلون ماسك تدقيقًا عالميًا مكثفًا بسبب المحتوى الجنسي الفاضح الذي يولده روبوت الدردشة الخاص بها، «غروك». شنت حكومات وجهات تنظيمية حول العالم تحقيقات وحظرت الخدمة، مطالبة بضمانات للحد من المواد غير القانونية، في سعي متزايد لمكافحة إساءة استخدام الذكاء الاصطناعي.

أثارت قدرة «غروك» على توليد صور جنسية مفبركة، بما في ذلك تلك التي تستغل الأطفال، قلقًا بالغًا لدى السلطات في أوروبا وآسيا والأمريكتين وأستراليا. وقد تضمنت ردود الفعل تحقيقات رسمية، وأوامر بالاحتفاظ بالبيانات، وحتى حظر الوصول إلى الخدمة في بعض المناطق، مع التركيز على حماية الأطفال والخصوصية.

أوروبا في مواجهة المحتوى غير القانوني

بدأت المفوضية الأوروبية تحقيقًا في 26 يناير لمعرفة ما إذا كان «غروك» ينشر محتوى غير قانوني داخل الاتحاد الأوروبي، خاصة الصور الجنسية المعدلة. يسعى التحقيق إلى تقييم ما إذا كانت «إكس» قد قيمت المخاطر وحدّت منها وفقًا لقواعد الاتحاد الرقمية.

مددت المفوضية في 8 يناير أمرًا سابقًا لـ«إكس» بالاحتفاظ بجميع الوثائق والبيانات الداخلية المتعلقة بـ«غروك» حتى نهاية عام 2026. كما فتحت هيئة حماية البيانات في أيرلندا تحقيقًا في 17 فبراير حول تعامل «غروك» مع البيانات الشخصية وقدرته على إنتاج محتوى جنسي ضار، بما في ذلك صور للقصر.

أمر رئيس الوزراء الإسباني بيدرو سانتشيث مدعين بالتحقيق مع «إكس» و«ميتا» و«تيك توك» بتهمة توزيع مواد مولدة بالذكاء الاصطناعي تستغل الأطفال جنسيًا. في بريطانيا، فتحت هيئة أوفكوم تحقيقًا لتحديد ما إذا كانت «إكس» قد أخلت بواجبها في حماية المستخدمين من المحتوى غير القانوني، لا سيما إنتاج مقاطع فيديو مزيفة ذات طبيعة جنسية.

داهمت وحدة مكافحة الجرائم الإلكترونية في باريس مقر «إكس» في 3 فبراير، وطُلب من ماسك الرد على أسئلة ضمن تحقيق موسع يتعلق بتحيز الخوارزميات والتواطؤ في نشر صور أطفال ذات طبيعة إباحية. وحذرت هيئة حماية البيانات الإيطالية من أن إنشاء صور مزيفة «فاضحة» لأشخاص حقيقيين دون موافقة يعد انتهاكًا خطيرًا للخصوصية وقد يشكل جرائم جنائية.

آسيا تطلب الإزالة وتفرض قيودًا

أرسلت وزارة تكنولوجيا المعلومات في الهند مذكرة رسمية إلى «إكس» في 2 يناير بشأن اتهامات بإنتاج وتداول صور جنسية فاضحة عبر «غروك»، مطالبة بإزالة المحتوى وتقديم تقرير بالإجراءات المتخذة خلال 72 ساعة.

حققت اليابان مع «إكس» بشأن «غروك»، وأعلنت أنها ستدرس جميع الخيارات لمنع توليد صور غير لائقة. وحظرت وزارة الاتصالات الإندونيسية الوصول إلى «غروك» لحماية النساء والأطفال من المحتوى الإباحي المزيف. في ماليزيا والفلبين، أعيد تفعيل الوصول إلى «غروك» بعد أن وعدت «إكس» بتطبيق إجراءات أمان إضافية وإزالة أدوات التلاعب بالصور.

الأميركتان ومنطقة الأوقيانوس تضعان مهلًا

طالب حاكم ولاية كاليفورنيا والمدعي العام في 14 يناير «إكس إيه آي» بالرد على انتشار صور جنسية على منصتها دون موافقة المستخدمين. كما وسعت هيئة حماية الخصوصية في كندا نطاق تحقيق قائم بشأن «إكس» بعد تقارير عن إنتاج «غروك» صورًا جنسية فاضحة.

أمهلت البرازيل شركة «إكس إيه آي» 30 يومًا لمنع روبوت الدردشة من نشر محتوى جنسي مفبرك. وفي أستراليا، تحقق الهيئة المعنية بالسلامة الإلكترونية في صور جنسية «فاضحة» تم إنتاجها بواسطة «غروك»، مع الإشارة إلى أن الأمثلة المتعلقة بالأطفال لا تفي بالحد القانوني لانتهاكات الأطفال.

ردود «إكس إيه آي» والخطوات التالية

في 14 يناير، أعلنت «إكس إيه آي» عن فرض قيود على مستخدمي «غروك» فيما يتعلق بميزة تعديل الصور، ومنع توليد صور لأشخاص يرتدون ملابس فاضحة في مناطق يعتبر فيها ذلك غير قانوني. كانت الشركة قد قصرت سابقًا استخدام خاصيتي توليد الصور وتعديلها على المشتركين فقط.

تتجه الأنظار الآن نحو خطوات «إكس إيه آي» المستقبلية ومدى فعاليتها في معالجة المخاوف المتعلقة بـ«غروك». ومن المتوقع أن تستمر الهيئات التنظيمية في مراقبة الوضع عن كثب، مع تزايد الضغوط لضمان مسؤولية شركات الذكاء الاصطناعي عن المحتوى الناتج عن أدواتها.