جاكرتا توقف روبوت الدردشة "جروك" وسط مخاوف من التزييف العميق

في خطوة تعكس تصاعد القلق العالمي من الاستخدامات غير المنضبطة لتقنيات الذكاء الاصطناعي، أعلنت السلطات الإندونيسية، اليوم السبت، حجب روبوت الدردشة "جروك" التابع لشركة “إكس.إيه.آي” المملوكة لرجل الأعمال الأمريكي إيلون ماسك، بشكل مؤقت، على خلفية مخاوف جدية من قدرته على إنشاء محتوى إباحي وانتهاكي، لتصبح إندونيسيا أول دولة في العالم تمنع الوصول إلى هذه الأداة الرقمية المثيرة للجدل.

ووفقا لما نقلته وكالة رويترز، جاء القرار الإندونيسي بعد موجة انتقادات وتحذيرات أطلقتها حكومات وهيئات تنظيمية في أوروبا وآسيا بشأن انتشار محتوى جنسي عبر التطبيق، وفتح عدد من الجهات المختصة تحقيقات رسمية حول طبيعة المواد التي ينتجها أو يتيحها جروك، خاصة تلك المرتبطة بالتزييف العميق والصور ذات الطابع الإباحي.

الحجب المؤقت لجروك يعكس نهجا احترازيا تبنته الحكومة الإندونيسية، التي شددت على أن حماية الفضاء الرقمي للمواطنين، وخصوصا الأطفال والفئات الضعيفة، تمثل أولوية قصوى في سياساتها التقنية، وأكدت وزارة الاتصالات أن القرار سيظل ساريا إلى حين الانتهاء من تقييم شامل للمخاطر المرتبطة باستخدام الأداة، وضمان التزامها بالمعايير القانونية والأخلاقية المعتمدة في البلاد.

وأوضحت الوزارة أن التطورات السريعة في تقنيات الذكاء الاصطناعي تفرض على الحكومات التحرك بشكل استباقي، وعدم الاكتفاء بردود فعل متأخرة بعد وقوع الضرر، خصوصا عندما يتعلق الأمر بمحتوى يمكن أن ينتهك الكرامة الإنسانية أو يهدد السلامة العامة.

الجدل حول جروك

يأتي هذا القرار في وقت تواجه فيه شركة إكس.إيه.آي ضغوطا متزايدة بسبب الثغرات التقنية في نظام جروك، والتي سمحت بإنتاج وتداول صور ومقاطع ذات طبيعة جنسية، بعضها يتضمن صورا لأطفال بملابس فاضحة، وفق ما أقرّت به الشركة نفسها.

وكانت إكس.إيه.آي قد أعلنت، يوم الخميس الماضي، أنها قررت حصر ميزات توليد الصور وتعديلها بالمستخدمين المشتركين الذين يدفعون رسوما، في محاولة للحد من إساءة الاستخدام وسد الثغرات الأمنية.

وأكدت الشركة الناشئة أن هذا الإجراء يأتي ضمن حزمة تحديثات تهدف إلى تشديد الرقابة الداخلية ومنع إنتاج محتوى غير قانوني أو غير أخلاقي، إلا أن هذه الخطوات لم تكن كافية لطمأنة الحكومات والهيئات التنظيمية حتى الآن.

وفي بيان رسمي، قالت وزيرة الاتصالات الإندونيسية ميوتيا حفيظ إن الحكومة تعد ممارسة التزييف العميق الجنسي دون موافقة انتهاكا خطرا لحقوق الإنسان، وتهديدا مباشرا لكرامة وأمن المواطنين في الفضاء الرقمي، وأضافت أن السماح بانتشار مثل هذا المحتوى يقوض الثقة في التقنيات الحديثة، ويخلق بيئة رقمية غير آمنة، خاصة للنساء والأطفال.

لا تهاون مع الانتهاكات

أكدت الوزيرة أن إندونيسيا لن تتهاون مع أي منصة أو تقنية تتيح أو تسهّل إنتاج محتوى ينتهك القوانين المحلية أو المعايير الأخلاقية، مشيرة إلى أن حماية المستخدمين مسؤولية مشتركة بين الحكومات وشركات التكنولوجيا.

وضمن إجراءاتها التصعيدية، أعلنت وزارة الاتصالات الإندونيسية أنها استدعت مسؤولين من منصة (إكس)، المالكة لشركة إكس.إيه.آي، لعقد اجتماع رسمي ومناقشة المخاوف المرتبطة بجروك، والوقوف على الخطوات التي تعتزم الشركة اتخاذها لمعالجة الثغرات الحالية وضمان الامتثال الكامل للقوانين الإندونيسية.

وأكدت الوزارة أن هذا الحوار لا يعني بالضرورة رفع الحظر في المدى القريب، بل يهدف إلى تقييم جدية الشركة في التعامل مع الانتهاكات، واستعدادها لتحمل مسؤولياتها القانونية والأخلاقية في سوق يضم ملايين المستخدمين.

رد إيلون ماسك

من جانبه، علّق إيلون ماسك عبر حسابه على منصة إكس قائلا إن أي شخص يستخدم جروك لصناعة محتوى غير قانوني سيواجه نفس العواقب التي تطبق على من يرفع محتوى غير قانوني على المنصة، وأضاف أن الشركة ملتزمة بمحاربة إساءة استخدام تقنيات الذكاء الاصطناعي، وأنها تعمل على تحسين أدوات المراقبة والضبط الذاتي.

غير أن هذه التصريحات لم تبدد الشكوك لدى كثير من المراقبين، الذين يرون أن تحميل المستخدمين وحدهم المسؤولية يتجاهل الدور المحوري الذي تلعبه الشركات المطورة في تصميم الأنظمة ووضع ضوابط فعالة تحول دون الانتهاكات من الأساس.

وقالت شركة إكس.إيه.آي إن وسائل الإعلام التقليدية تكذب، في رد بدا آليا ولم يتضمن توضيحات تقنية أو قانونية بشأن الاتهامات المثارة،  وحتى الآن، لم تصدر منصة إكس تعليقا رسميا ومفصلا حول قرار الحظر الإندونيسي.

هذا الصمت النسبي من جانب الشركة زاد من حدة الانتقادات، وفتح الباب أمام تساؤلات حول مدى استعدادها للتعاون مع الجهات التنظيمية، وشفافيتها في التعامل مع القضايا الحساسة المتعلقة بالمحتوى الجنسي والتزييف العميق.

سياق دولي متصاعد

قرار إندونيسيا لا يأتي بمعزل عن سياق دولي أوسع، إذ تشهد العديد من الدول نقاشات محتدمة حول كيفية تنظيم أدوات الذكاء الاصطناعي، خصوصا تلك القادرة على إنتاج صور ومقاطع مزيفة يصعب تمييزها عن الواقع. وتخشى حكومات كثيرة استخدام هذه التقنيات في الابتزاز والتشهير ونشر الإباحة القسرية، إضافة إلى تهديدها للثقة العامة والإعلام.

وفي أوروبا وآسيا، فتحت هيئات تنظيمية بالفعل تحقيقات في محتوى جروك، وسط مطالب بفرض معايير أكثر صرامة على الشركات المطورة، وإلزامها بتحمل مسؤولية أكبر عن مخرجات أنظمتها.

يشهد العالم خلال السنوات الأخيرة طفرة غير مسبوقة في تقنيات الذكاء الاصطناعي التوليدي، التي تتيح للمستخدمين إنشاء نصوص وصور ومقاطع صوتية ومرئية خلال ثوانٍ، ورغم الفوائد الكبيرة لهذه التقنيات في مجالات التعليم والإبداع والبحث العلمي، فإنها أثارت في المقابل مخاوف أخلاقية وقانونية عميقة، خاصة مع انتشار ظاهرة التزييف العميق الجنسي، التي تستهدف في كثير من الأحيان نساء وقاصرين دون موافقتهم.

وتطالب منظمات حقوقية دولية بوضع أطر قانونية واضحة تلزم شركات التكنولوجيا بمنع إساءة الاستخدام، وضمان حق الأفراد في الخصوصية والكرامة الرقمية، وفي هذا السياق، يُنظر إلى القرار الإندونيسي بوصفه مؤشرا على مرحلة جديدة من المواجهة بين الحكومات وشركات الذكاء الاصطناعي، عنوانها الأبرز ضبط الابتكار وحماية الإنسان.