الطفولة في مواجهة الخوارزميات.. الأمم المتحدة تعتمد قراراً لحماية الأطفال من العنف الرقمي

في مدينة جنيف، حيث تتلاقى إرادات الدول تحت مظلة العدالة الدولية، تبنّى مجلس حقوق الإنسان التابع للأمم المتحدة مبادرة سعودية رائدة تسعى إلى حماية الأطفال من التهديدات الرقمية المتزايدة، وذلك من خلال قرار أممي حظي بإجماع الدول الأعضاء خلال دورته الـ59، تحت البند العاشر المعني بالتعاون وبناء القدرات.

جاء هذا القرار ليجسّد أول اعتراف دولي شامل بخطورة التحديات التي يواجهها الأطفال في الفضاء السيبراني، بعدما أصبحت الشاشات جزءًا لا يتجزأ من حياتهم اليومية، في عالم تتداخل فيه التقنية مع التربية، وتتمازج فيه البراءة مع مخاطر التنمّر والاستغلال والانكشاف أمام العنف الرقمي.

وقد قدّم المبادرة السفير عبدالمحسن بن خثيلة، المندوب الدائم للمملكة العربية السعودية لدى الأمم المتحدة في جنيف، بدعم من عدة دول أبرزها الكويت، الجزائر، باكستان، أذربيجان، وفيتنام، ما يعكس اتساع الإجماع الدولي حول ضرورة تحويل الأمن الرقمي من ملف تقني إلى قضية إنسانية تتطلب استجابة جماعية عاجلة.

المبادرة لم تتوقف عند التوصيات، بل شرعت المملكة فعليًا في إنشاء مركز وطني مختص لحماية الطفل في الفضاء السيبراني، وهو مركز لا يكتفي برصد المخاطر بل يتصدى لها بأسلوب منهجي مدروس، عبر آليات دقيقة لرصد الجرائم الرقمية، وتقديم الدعم التقني المباشر للأسر والمدارس، وتنفيذ برامج تدريب بالشراكة مع شركات تقنية عالمية كـ"مايكروسوفت" و"غوغل" و"ميتا". 

واستفاد من هذه البرامج حتى الربع الأول من عام 2025 أكثر من 450 ألف طالب وطالبة في مراحل التعليم الأساسي والمتوسط، بالإضافة إلى تدريب نحو 27 ألف معلم ومرشد تربوي على آليات التدخل المبكر والاستجابة النفسية للضحايا.

وتشمل هذه البرامج التوعوية محاور تتعلق بكيفية التعامل مع التنمر الإلكتروني، ووقاية الأطفال من الابتزاز الرقمي، وفهم خصوصية البيانات، واستخدام تقنيات التحقق بخطوتين، وتوعية الأهل حول أدوات الرقابة الأبوية، كما أُطلقت حملات إعلامية وصلت إلى أكثر من 60 مليون مشاهدة عبر المنصات الرقمية خلال عام واحد فقط، مما يدل على حجم الاهتمام الشعبي والرسمي المتزايد.

حجم الخطر المتزايد

وفي موازاة هذه الجهود، تؤكد التقارير الدولية حجم الخطر المتزايد، حيث تُظهر بيانات شركة "Thorn" الأميركية المتخصصة في محاربة الاستغلال الجنسي الرقمي، أن أكثر من 72% من المراهقين الذين تتراوح أعمارهم بين 13 و17 عامًا قد تعرضوا لمحاولات تواصل غير مرغوب فيها من غرباء عبر الإنترنت، وغالبًا عبر تطبيقات ألعاب ومنصات تواصل شهيرة. 

وتفيد بيانات “الاتحاد الأوروبي لمراقبة الجريمة الإلكترونية” بأن متوسط الوقت الذي يقضيه الطفل الأوروبي على الإنترنت يوميًا بلغ 4.2 ساعات، ترتفع إلى 6 ساعات في العطلات، وهي أرقام تتشابه مع الدول العربية، بل وتتجاوزها أحيانًا في غياب أنظمة رقابة وحوكمة فعالة.

وتتجاوز أهمية هذا القرار طابعه القانوني، فهو يمثل تحولًا نوعيًا في نظرة المجتمع الدولي لحماية الأطفال، باعتبارها مسؤولية مشتركة تتطلب أدوات جديدة، وتشريعات محدثة، وتعاوناً فعّالاً عابرًا للحدود، من أجل بناء فضاء رقمي آمن ينتمي إليه الأطفال دون خوف أو استغلال.

وفي ظل التوسع المتسارع لاستخدام الأطفال للمنصات الرقمية، بات من الضروري طرح تساؤلات جادة حول الدور الذي يمكن أن يلعبه الذكاء الاصطناعي في حماية النشء من المحتوى الضار والانتهاكات الرقمية، دون أن يتحوّل هذا الدور إلى مراقبة خانقة أو تدخل غير أخلاقي في خصوصية الطفل.

الذكاء الاصطناعي لحماية الأطفال

قالت لامان محمد، وهي باحثة في مجال تقاطع التكنولوجيا مع قضايا الطفولة: "الذكاء الاصطناعي بات اليوم مثل رادار خفي، يرصد ما لا تستطيع العين المجردة التقاطه، ولم يعد دوره يقتصر على حجب المواقع فحسب، بل تطور ليشمل تحليل الصور والكلمات والمقاطع المصورة، والتقاط أي إشارات تهدد سلامة الطفل النفسية أو الجسدية".

وأضافت لامان، في تصريحات لـ"جسور بوست": "قد يبدو الفيديو كرتونيًا بريئًا، لكنه يمرر رسائل عنف أو إيحاءات خفية، وهنا تتدخل الخوارزميات لوقفه قبل أن يصل للطفل". وتضرب مثالاً بمنصة YouTube Kids، التي أصبحت تعتمد على الذكاء الاصطناعي في مراجعة المحتوى الصوتي والبصري والتعليقات قبل عرضها، في حين أن تطبيق TikTok أصبح قادرًا على إزالة المحتوى المؤذي في غضون ثلاث ثوانٍ فقط من رصده.

وبحسب استطلاع أُجري عام 2024 في بريطانيا، فإن 67% من أولياء الأمور أبدوا ثقة كبرى في أدوات الذكاء الاصطناعي للمساعدة في حماية أطفالهم على الإنترنت. ومع ذلك، تشير لامان إلى أن هذه التقنيات ليست معصومة من الخطأ، فقد تحذف أحيانًا محتوى تعليميًا مفيدًا، أو تفشل في رصد تهديد فعلي. "لذلك لا بد من وجود عين بشرية توجه وتقوّم، حتى لا نترك الطفل رهينة لخوارزمية قد تُخطئ التقدير"، تضيف.

وتؤكد لامان، أن استخدام الذكاء الاصطناعي لمراقبة الأطفال يطرح تحديات أخلاقية دقيقة. فالسؤال الأساسي هنا: هل نحمي الطفل أم نتجسس عليه؟ تقول: "قد يبدأ الأمر بحسن نية، لكن سرعان ما يتحول إلى رقابة خانقة إذا لم نضع حدودًا واضحة. فالذكاء الاصطناعي قد يسيء تفسير مزحة بسيطة بين أطفال، أو يصنّف سلوكًا طبيعيًا على أنه خطر، ما قد يعرض الطفل للوصم أو العزلة أو اضطرابات نفسية". وتستشهد بتجربة في الصين، حيث أُطلق مشروع لتقييم "رصيد الطفل السلوكي" رقميًا، فلاقى رفضًا واسعًا لأنه حول الطفل إلى "سلعة رقمية تُصنّف وتُراقب دون إنسانية".

وتشدد لامان على أهمية تصميم خوارزميات تراعي الفروقات الفردية بين الأطفال من حيث العمر والثقافة والبيئة الاجتماعية. "لا يجوز أن نعامل طفلًا في السابعة من العمر يعيش في حي شعبي بالقاهرة كما نعامل مراهقًا يعيش في طوكيو. الذكاء الاصطناعي يجب أن يكون مرنًا، ويُدرَّب على بيانات محلية تعكس السياق الثقافي واللغوي للطفل". كما تدعو إلى إشراك مختصين في علم النفس والتربية، إلى جانب المبرمجين، في تصميم تلك الأنظمة، لتفادي أي انحيازات أو أخطاء جسيمة.

وترى لامان أن الأنظمة الذكية لا يجب أن تكتفي بالحجب، بل عليها أن توفّر بدائل تعليمية، وتشرح للطفل - بلغة مبسطة - سبب الحجب، وتزرع فيه التفكير النقدي. وتضرب مثالًا بموقع Kiddle المصمم خصيصًا للأطفال، والذي يستخدم الذكاء الاصطناعي لتصنيف المحتوى بحسب الفئة العمرية، معتبرة إياه نموذجًا يمكن البناء عليه، بشرط تخصيصه للسياق العربي.

وفي ما يتعلق بالسياسات التعليمية، تؤمن لامان بأن الذكاء الاصطناعي قادر على أن يلعب دورًا تربويًا فاعلًا، إذا ما أُدمج بشكل مدروس في المناهج والأنشطة. تقترح إدخال ألعاب تفاعلية تُعلّم الأطفال أمان الإنترنت، أو تطوير تطبيقات تربط بين أجهزة الآباء وأجهزة الأطفال لرصد أي سلوك مقلق دون المساس بخصوصيتهم. كما تدعو الدول العربية إلى تبنّي مقررات شبيهة بـ"مادة التربية الرقمية" التي اعتمدتها فنلندا، حيث يُعلّم الأطفال من سن العاشرة مفاهيم الخصوصية والسلامة الرقمية.

وقالت لامان: "الذكاء الاصطناعي ليس بديلًا عن المعلم أو ولي الأمر أو الدولة… لكنه يمكن أن يكون شريكًا نبيلاً إذا استُخدم بحكمة ومحبة. وحدها الشراكة بين الإنسان والخوارزمية قادرة على فتح بوابة نحو عالم رقمي آمن، يُنصت للطفل ويصون كرامته ويُنمّي إمكاناته".

المحتوى الرقمي الضار يهدد الطفولة

قال أستاذ الطب النفسي الدكتور جمال فرويز، إن المحتوى الرقمي الضار الذي يتعرض له الأطفال والمراهقون بشكل يومي لم يعد مجرد تهديد عابر، بل تحوّل إلى عامل رئيسي في ما يمكن تسميته بـ"التعفن الدماغي السلوكي"، وهو مصطلح يعكس التأثير العميق والمتراكم لهذا المحتوى على صحة الجهاز العصبي والنفسي للطفل. فالأعراض الظاهرة لا تقف عند حدود اضطرابات المزاج أو القلق، بل تمتد لتشمل تدهوراً حاداً في الوظائف الذهنية والمعرفية.

وأشار فرويز في تصريحات لـ"جسور بوست"، إلى أن هذه التأثيرات تتجلى بشكل واضح في ضعف القدرة على الانتباه والتركيز، وصعوبات ملحوظة في التعلم والفهم والاستيعاب، بل وتتراجع القدرة على الإبراز والتعبير، وتضعف الإمكانيات الإبداعية والابتكارية لدى الأطفال في مراحل عمرية يفترض أن تكون الأكثر ازدهارًا فكريًا وعقليًا. وهو ما يؤدي تدريجياً إلى نشوء أجيال أقل قدرة على التحليل، أقل طموحاً، وأكثر انكفاءً على ذواتها في بيئات رقمية تفتقر للضوابط.

وأكد فرويز، أن الوقاية من هذا الانحدار تبدأ أولاً من إدراك المجتمع، بكل مكوناته، لحجم الأزمة، وأن المواجهة لا تقتصر على الأسرة فقط، بل هي مسؤولية جماعية تبدأ من الإعلام الذي يجب أن يتبنى حملات توعية متواصلة، لا موسمية، تعمل على تفكيك المحتوى الضار وكشف آثاره، وتقدم رسائل بديلة بلغة يفهمها النشء ويتفاعل معها.

ودعا إلى دور فاعل للمؤسسات التعليمية، بدءاً من المدارس التي يجب أن تتحول إلى منصات للتوجيه الحي والمباشر، عبر حصص مخصصة للتوعية الرقمية، وصولاً إلى الجامعات التي يُفترض أن تلعب دوراً بحثيًا وتوعويًا في آنٍ معاً، من خلال إدماج مفاهيم الأمن الرقمي والصحة النفسية الإلكترونية ضمن مقرراتها وبرامجها التثقيفية.

ولم يُغفل الدكتور فرويز أهمية دور المؤسسات الدينية، من مساجد وكنائس، باعتبارها منابر تأثير روحي وأخلاقي، قادرة على مخاطبة الضمير الجمعي، وزرع قيم الحذر الرقمي والمسؤولية الذاتية لدى الأطفال والمراهقين وأسرهم على حد سواء.

وشدد على ضرورة إيجاد بدائل حقيقية ومقبولة لجذب النشء بعيداً عن المنصات الضارة، مشيراً إلى أهمية توفير أنشطة فردية وجماعية كالألعاب الذهنية، والمطالعة الموجهة، والرياضة بأنواعها، وعلى رأسها السباحة التي تجمع بين الترفيه والانضباط، إلى جانب تأهيل المساحات العامة لتكون بيئات آمنة ومرغوبة للأطفال بعيدًا عن الإغراق في الشاشات.

وقلل الدكتور فرويز من فاعلية القرارات الأممية في هذا السياق، واصفًا إياها بأنها لا تعدو كونها جرس إنذار متأخراً، ما لم تتبعها خطوات تنفيذية ملموسة على الأرض. فالحماية، كما يراها، لا تأتي من المؤتمرات وحدها، بل من تحرك فوري ومنسق بين الحكومات والمجتمع المدني والأسر لصناعة درع إنساني يحصّن الطفولة من هذا التيار المتسارع من التهديدات الرقمية الخفية.