بعد آلاف الصور المهينة.. أزمة "غروك" تثير معركة عالمية لحماية النساء والأطفال رقمياً

كشفت أزمة الصور الحميمة المفبركة التي أنتجتها أداة الذكاء الاصطناعي "غروك" التابعة لإيلون ماسك، عن اختبار جديد لحدود الحماية القانونية في الفضاء الرقمي، بعدما تحولت ميزة تحرير الصور إلى وسيلة لإنتاج محتوى جنسي مهين يستهدف النساء والفتيات بشكل غير متناسب، ويطول الأطفال أيضاً، وسط موجة غضب حكومي عالمية، وضغوط متزايدة على منصات التكنولوجيا لتفعيل التزاماتها القانونية بحماية المستخدمين.

وأدانت وزيرة التكنولوجيا البريطانية، ليز كيندال، ما وصفته بـ"المحتوى المروع وغير المقبول في مجتمع محترم"، بعدما انتشرت آلاف الصور المفبركة التي جرى فيها "نزع الملابس رقمياً" عن نساء وأطفال عبر استخدام أداة "غروك"، مؤكدة أن المملكة المتحدة "لن تتسامح" مع استمرار تداول هذا النوع من المواد المهينة.

ودعت كيندال منصة "إكس" إلى "التعامل مع الأمر بشكل عاجل"، مع دعم إجراءات هيئة تنظيم الاتصالات البريطانية "أوفكوم" في اتخاذ أي خطوات إنفاذ تراها ضرورية، وفقاً لما أوردته "الغارديان".

تحذر تصريحات كيندال من أن الضرر لم يعد محصوراً في الانتهاك الفردي للخصوصية، بل أصبح يمس كرامة النساء والفتيات بوصفهن فئة تستهدف على نحو ممنهج، في ظل قدرة هذه الأدوات على إنتاج محتوى مفبرك "مقزز ومذل" وانتشاره بسرعة، ما يعقد مهمة التتبع والمحاسبة.

تنتقد الناجية من الاعتداء الجنسي على الأطفال جيسالين كاين ما وصفته بـ"الاستجابة الضعيفة"، كاشفة أن "غروك" ظل صباح الثلاثاء يستجيب لطلبات تعديل صورتها وهي في الثالثة من عمرها لتبدو وكأنها ترتدي بيكيني، في حين رُفضت طلبات مماثلة من أدوات منافسة مثل ChatGPT وGemini، في إشارة إلى اختلاف الضمانات التقنية بين الشركات وقدرتها على منع إساءة الاستخدام.

وتطالب كاين بتنظيم أفضل للأدوات التوليدية، متسائلة عن سبب السماح بتوليد صور تصفها بأنها "مهينة ومقززة للغاية"، في وقت تتصاعد فيه التحذيرات بشأن استخدام الذكاء الاصطناعي لصناعة صور مزيفة تُستعمل أداة إذلال وإساءة واستغلال.

السلامة على الإنترنت

أعلنت هيئة تنظيم الاتصالات البريطانية "أوفكوم" أنها على علم بالمخاوف الجدية المرتبطة بقيام "غروك" بإنشاء صور عارية لأشخاص وصور جنسية لأطفال، مؤكدة أنها تواصلت مع شركتي X وxAI لفهم الخطوات المتخذة للوفاء بالالتزامات القانونية بحماية المستخدمين في المملكة المتحدة، وأنها ستقيم الحاجة إلى فتح تحقيق بناءً على رد الشركة.

وتبرز تحركات "أوفكوم" أن القضية تضع قانون السلامة على الإنترنت أمام اختبار حقيقي في مواجهة ضرر رقمي سريع الانتشار، ولا سيما أن هذا القانون يفرض على المنصات مسؤولية منع وإزالة مواد الاعتداء الجنسي على الأطفال فور علمها بها، ويتيح فرض غرامات تصل إلى 18 مليون جنيه إسترليني أو 10% من الإيرادات العالمية المؤهلة، أيهما أعلى.

ودعت عضو مجلس اللوردات والناشطة في سلامة الأطفال بيبان كيدرون الحكومة البريطانية إلى "إظهار حزم أكبر"، عبر إعادة تقييم نظام القانون ليصبح "أكثر فعالية وسرعة"، معتبرة أن أي منتج استهلاكي يتسبب في هذا المستوى من الضرر كان سيسحب من الأسواق بالفعل، ومطالبة أوفكوم بالتحرك "في غضون أيام لا سنوات"، وحثت المستخدمين على الابتعاد عن المنتجات التي لا تظهر نية جادة لمنع الضرر بحق الأطفال والنساء والديمقراطية.

تدفع هذه التصريحات نحو اتجاه واضح: المسألة ليست مجرد خلل تقني أو إساءة فردية، بل فشل في منظومة الحماية الرقمية، وتباطؤ في الاستجابة، ما يفتح باباً قانونياً واسعاً لمساءلة المنصات على مستوى الالتزام والإنفاذ.

وتشير مسؤولة الابتكار في مؤسسة لوسي فيثفول الخيرية سارة سميث إلى ضرورة تعطيل ميزات تحرير الصور في "غروك" فوراً إلى حين وضع ضمانات قوية تمنع تكرار هذا النوع من المحتوى، في حين تعترف شركة X بأنها تتخذ إجراءات ضد المحتوى غير القانوني، ومنه مواد الاعتداء الجنسي على الأطفال، عبر الإزالة وتعليق الحسابات والتعاون مع الحكومات المحلية وجهات إنفاذ القانون.

تسلط الأزمة الضوء أيضاً على سؤال قانوني أكثر تعقيداً: كيف تعرف القوانين الصور الحميمة المفبركة؟ إذ تذكر المادة أن إنشاء أو مشاركة صور حميمة دون موافقة أصحابها، أو مواد استغلال جنسي للأطفال، ومنها الصور الجنسية المزيفة بتقنية التزييف العميق، يعد جريمة، وقد تصنف صور "البيكيني الشفاف" ضمن "الصور الحميمة" إذا ظهرت أجزاء الجسد العارية أو ما يعادلها.

تحقيقات عابرة للحدود

فجرت القضية ردود فعل عالمية، بعدما واجه "غروك" موجة انتقادات وتحركات رسمية في دول متعددة، إذ تؤكد تقارير أن الجهاز التنفيذي للاتحاد الأوروبي أدان الأداة، في حين أدان مسؤولون وهيئات تنظيمية في فرنسا والهند وماليزيا والبرازيل المنصة ودعوا إلى تحقيقات.

أوضحت "أسوشيتد برس" أن المشكلة ظهرت بعد إطلاق Grok Imagine العام الماضي، وهو برنامج لإنشاء الصور يتيح إنتاج صور ومقاطع فيديو عبر أوامر نصية، ويتضمن "وضعاً جريئاً" يمكنه إنشاء محتوى للبالغين.

ثم تفاقمت الأزمة أواخر الشهر الماضي عندما بدأ Grok، المستضاف على منصة X، بالاستجابة لطلبات تعديل صور نشرها آخرون، ما سمح بإنتاج صور لنساء بأوامر مثل "ضعها في بيكيني شفاف"، في حين بقيت الصور متاحة للعامة، ما يسهل نشرها.

وتذكر الوكالة أن منظمة "AI Forensics" غير الربحية حللت 20 ألف صورة أنشأها تطبيق Grok بين 25 ديسمبر و1 يناير، ووجدت أن 2% منها تظهر أشخاصاً يبدو أنهم في سن 18 عاماً أو أقل، ومنها 30 صورة لفتيات صغيرات جداً يرتدين ملابس سباحة أو شفافة.

وتؤكد شركة xAI رداً آلياً وصفت فيه الانتقادات بأنها "أكاذيب الإعلام التقليدي"، دون أن تنفي وجود المحتوى المسيء، كما تكرر الشركة تصريحاً لإيلون ماسك بأن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني "سيواجه نفس العواقب" التي يواجهها من يرفع محتوى غير قانوني.

توسيع نطاق التحقيق

تدخلت جهات حكومية مختلفة في التحقيق، إذ أعلن مكتب المدعي العام في باريس توسيع نطاق التحقيق بشأن منصة X ليشمل المحتوى الجنسي المفبرك، بعد تلقي شكاوى من نواب، في حين أصدرت الحكومة الهندية إنذاراً نهائياً يطالب بإزالة المحتوى غير القانوني واتخاذ إجراءات ضد المستخدمين المخالفين، وحذرت من عواقب قانونية كبرى إذا لم يتم الامتثال خلال 72 ساعة.

وتحركت أيضاً ماليزيا عبر هيئة الاتصالات والوسائط المتعددة التي تحقق في مستخدمي X الذين انتهكوا القوانين التي تحظر نشر محتوى "مسيء أو بذيء أو غير لائق"، وتحقق كذلك في الأضرار الإلكترونية الناتجة عن استخدام أدوات الذكاء الاصطناعي للتلاعب الرقمي بصور النساء والقاصرين لإنتاج محتوى "غير لائق أو مسيء أو ضار".

كما تقدمت النائبة البرازيلية إريكا هيلتون بإبلاغ رسمي إلى مكتب المدعي العام الفيدرالي وهيئة حماية البيانات عن "غروك" و"إكس"، متهمة التطبيقين بإنشاء ونشر صور جنسية لنساء وأطفال دون موافقتهم، مطالبة بتعطيل وظائف الذكاء الاصطناعي في تطبيق "إكس" إلى حين إجراء تحقيق، مؤكدة أن "حق الفرد في صورته حق شخصي ولا يمكن نقله عبر شروط استخدام أي منصة".