الخوارزميات الرقمية.. تهديد خفي لصحة الأطفال النفسية في عصر الإنترنت

تعد منصات التواصل الاجتماعي جزءًا لا يتجزأ من حياة الأطفال والمراهقين في العصر الرقمي الحالي، حيث يزيد عدد الأطفال الذين يستخدمون الإنترنت بشكل متزايد ومتسارع، ومع هذا الانتشار الواسع، تزداد المخاوف بشأن تعرض الأطفال للمحتويات الضارة وغير المناسبة، التي يتم الترويج لها من خلال الخوارزميات على هذه المنصات. 

قد لا تراعي الخوارزميات -التي تعتمد على تحليل البيانات لتقديم المحتوى للمستخدمين بناءً على سلوكهم واهتماماتهم- دائمًا الفئات العمرية أو الخصوصيات الأخلاقية التي تحيط بحماية الأطفال، ما يثير تساؤلات حول مسؤولية الشركات التقنية في توفير بيئة آمنة للصغار على الإنترنت.

تظهر الأرقام أن استخدام الإنترنت بين الأطفال بدأ في سن مبكرة أكثر مما كان عليه في العقود الماضية، حيث كشف تقرير لمؤسسة "كومن سنس ميديا" (Common Sense Media) عام 2023 أن 81% من الأطفال الذين تتراوح أعمارهم بين 8 و12 عامًا لديهم حسابات على منصات التواصل الاجتماعي. بينما يعكس هذا الرقم ارتفاعًا هائلًا في استخدام الأطفال للإنترنت، فإنه يكشف أيضًا عن مخاطر متزايدة لتعرضهم لمحتويات غير ملائمة، ما يعرض صحتهم النفسية والعقلية للخطر. وتضع هذه التحديات ضغوطًا متزايدة على الشركات التقنية لتطوير أدوات وخوارزميات تضمن حماية الأطفال من هذه المخاطر.

الترويج للمحتوى الضار

تعتمد معظم منصات التواصل الاجتماعي، مثل "يوتيوب" و"تيك توك" و"إنستغرام"، على الخوارزميات لتحديد المحتوى الذي يظهر للمستخدمين، تعمل هذه الخوارزميات بناءً على بيانات تفاعلات المستخدمين، مثل سجل المشاهدة أو البحث، لتقديم المحتوى الذي تعتقد أنه سيكون أكثر جاذبية، وعلى الرغم من أن هذا الهدف يتمثل في تحسين تجربة المستخدم، فإن الأطفال قد يتعرضون لمحتويات ضارة نتيجة هذه الأنظمة.

تقرير صادر عن "منظمة الأمن السيبراني للأطفال" (Child Cyber Safety Organization) عام 2022 أظهر أن 62% من الأطفال الذين تعرضوا لمحتويات ضارة عبر الإنترنت وصلوا إليها من خلال توصيات الخوارزميات. فعلى سبيل المثال، في منصة "يوتيوب"، يمكن أن يبدأ الطفل بمشاهدة مقاطع فيديو مخصصة للأطفال، لكن الخوارزمية قد تروج له مقاطع فيديو تتضمن محتوى غير مناسب مثل العنف أو المشاهد المثيرة للقلق. 

وقد أفادت دراسة أخرى صادرة عن جامعة كامبريدج في عام 2021 بأن 30% من الأطفال الذين تعرضوا لمحتوى غير ملائم وصلوا إليه عبر توصيات من الخوارزميات التي تستخدمها المنصة.

التأثيرات النفسية للمحتوى الضار

تعرض الأطفال للمحتوى الضار عبر الإنترنت له تأثيرات نفسية عميقة، حيث يمكن أن يؤدي إلى القلق، والاكتئاب، وحتى التأثير سلبًا على تصورهم لذواتهم. 

دراسة أجرتها جامعة أوكسفورد في عام 2022 كشفت أن 45% من الأطفال الذين تتراوح أعمارهم بين 10 و14 عامًا أظهروا علامات على القلق والاكتئاب بعد تعرضهم لمحتويات ضارة عبر الإنترنت.

وبالإضافة إلى ذلك، 23% من هؤلاء الأطفال أكدوا أنهم فقدوا الحافز لمتابعة الأنشطة اليومية المعتادة، ما أثر بشكل مباشر على حياتهم الاجتماعية والأكاديمية.

على منصات مثل "تيك توك" و"إنستغرام"، تتسبب الخوارزميات في ترويج معايير غير واقعية للجمال وأنماط الحياة المثالية، ما يؤدي إلى مشاكل في الثقة بالنفس بين الأطفال، خاصة بين الفتيات المراهقات. دراسة صادرة عن "الجمعية الأمريكية لعلم النفس" (American Psychological Association) عام 2023 أكدت أن 64% من الفتيات المراهقات اللاتي يستخدمن وسائل التواصل الاجتماعي يشعرن بضغوط نفسية نتيجة التعرض لصور أجسام مثالية، وهي مشكلة متفاقمة تغذيها الخوارزميات التي تدفع الأطفال إلى متابعة هذا النوع من المحتوى بصورة مستمرة.

مسؤولية الشركات التقنية

في ظل هذا الواقع، يبرز السؤال حول المسؤولية: هل تقع المسؤولية على عاتق الشركات التقنية التي تطور الخوارزميات، أم على الأهل الذين يسمحون لأطفالهم باستخدام هذه المنصات؟ تشير دراسة حديثة صادرة عن "اللجنة الأوروبية لحماية البيانات" في عام 2023 إلى أن 90% من الآباء في أوروبا قلقون بشأن المحتوى الذي يتعرض له أطفالهم على الإنترنت، هؤلاء الآباء يعتقدون أن منصات التواصل الاجتماعي يجب أن تتحمل مسؤولية كبرى في حماية الأطفال من التعرض للمحتويات الضارة.

وفي ما يخص التشريعات القانونية، تبدو القوانين الحالية غير كافية للتعامل مع التحديات الرقمية المعاصرة.

على الرغم من وجود بعض القوانين مثل "قانون حماية خصوصية الأطفال على الإنترنت" (COPPA) في الولايات المتحدة، الذي يفرض قيودًا على جمع البيانات من الأطفال، فإن هذه القوانين لا تتناول بشكل كافٍ المخاطر المرتبطة بالمحتوى الضار الذي يمكن أن يتعرض له الأطفال من خلال الخوارزميات.

ووفقًا لتقرير صادر عن "منظمة مراقبة حقوق الأطفال" عام 2022، فإن 75% من الآباء يعتقدون أن الشركات التقنية لا تقوم بما يكفي لحماية الأطفال من المحتوى الضار، ويطالبون بتشريعات أكثر صرامة ووضوحًا تفرض التزامات أكبر على هذه الشركات.

لتوفير بيئة آمنة للأطفال على الإنترنت، يجب على الشركات التقنية اتخاذ خطوات عملية للتصدي لهذه التحديات، من بين هذه الخطوات، تطوير خوارزميات قادرة على التفريق بين المستخدمين الأطفال والبالغين، وتحديد نوعية المحتوى المناسب لكل فئة عمرية، كما يتعين على هذه الشركات تحسين أدوات الرقابة الأبوية بحيث يتمكن الآباء من مراقبة ما يتعرض له أطفالهم عبر هذه المنصات والتحكم فيه بشكل أكبر.

وأشار تقرير صادر عن "المنتدى الاقتصادي العالمي" في عام 2022 إلى أن 85% من الشركات التقنية تدرك مسؤوليتها في حماية الأطفال عبر الإنترنت، ومع ذلك، فقط 40% من هذه الشركات تطبق بالفعل أدوات فعالة لمراقبة المحتوى الذي يتعرض له الأطفال. 

هذا التناقض بين الاعتراف بالمشكلة واتخاذ إجراءات فعلية يعكس الحاجة الملحة لتطوير أدوات وخوارزميات أكثر حساسية للأخلاقيات والمسؤوليات الاجتماعية.

التشريعات والتعاون الدولي

وتتطلب التحديات التي تواجه حماية الأطفال عبر الإنترنت استجابة دولية متكاملة. نظرًا لأن الخوارزميات تعمل عبر الحدود الوطنية، فإن الحلول يجب أن تكون شاملة وتستند إلى تعاون دولي بين الحكومات والشركات التقنية. 

من بين النماذج التي يمكن الاعتماد عليها، التشريعات الأوروبية مثل "اللائحة العامة لحماية البيانات" (GDPR) التي تفرض معايير صارمة لحماية البيانات، ويمكن توسيع نطاقها ليشمل حماية الأطفال من المحتوى الضار.

تقرير صادر عن "مفوضية الاتحاد الأوروبي لحماية البيانات" في عام 2023 أظهر أن 70% من المنصات الرقمية لا تمتثل بشكل كامل للمتطلبات القانونية التي تهدف إلى حماية الأطفال، ما يشير إلى ضرورة تعزيز التشريعات وفرض عقوبات صارمة على الشركات التي تفشل في حماية الأطفال.

ويتعين تدريب العاملين في القطاع التقني على كيفية تصميم خوارزميات تراعي الأخلاقيات والمبادئ الإنسانية، بما يضمن حماية الأطفال من المحتويات غير المناسبة. شركات مثل "فيسبوك" و"يوتيوب" و"تيك توك" بدأت بالفعل في تنفيذ بعض السياسات التي تهدف إلى حماية الأطفال، لكن نتائج هذه السياسات لا تزال محدودة وفقًا لتقرير "منظمة العفو الدولية" عام 2022، الذي أشار إلى أن أقل من 30% من المنصات تطبق أدوات مراقبة فعالة تحمي الأطفال بشكل حقيقي.

الخوارزميات.. بين الفائدة والخطر

لا يمكن إنكار الفوائد التي تقدمها الخوارزميات في تحسين تجربة المستخدمين على منصات التواصل الاجتماعي، لكن عندما يتعلق الأمر بالأطفال، يصبح التحدي أكثر تعقيدًا، الخوارزميات المصممة دون مراعاة لحماية الفئات العمرية الصغيرة يمكن أن تعرض الأطفال لمخاطر جسيمة تؤثر على صحتهم النفسية والجسدية. 

وبناءً عليه، يجب على الشركات التقنية أن تتحمل مسؤولياتها الأخلاقية والقانونية في حماية المستخدمين الصغار، وأن تعمل بالتعاون مع الحكومات والمنظمات الدولية على تطوير آليات تضمن أن تكون بيئة الإنترنت آمنة لجميع الأطفال.

حماية الأطفال على الإنترنت ليست مجرد تحدٍ تقني، بل هي مسؤولية اجتماعية وأخلاقية تتطلب تضافر الجهود بين جميع الأطراف المعنية، من الحكومات والشركات التقنية إلى الآباء والمجتمع المدني، بدون التشريعات الصارمة، والأدوات الرقابية الفعالة، والخوارزميات الأخلاقية، سيظل الأطفال معرضين لخطر المحتويات الضارة التي تهدد حقوقهم في بيئة رقمية آمنة.

خوارزميات قاتلة.. حدث بالفعل

في السنوات الأخيرة، شهد العالم العديد من الحالات التي أضرت فيها الخوارزميات على منصات التواصل الاجتماعي بالأطفال والمراهقين، ما سلط الضوء على الأضرار الجسيمة التي يمكن أن تسببها هذه التكنولوجيا عندما لا تكون مصممة بحذر أو محكومة بضوابط كافية.

إحدى أشهر هذه الحالات هي حادثة وفاة الطفلة مولي راسل في المملكة المتحدة، والتي كانت تبلغ من العمر 14 عامًا عندما انتحرت في عام 2017 بعد تعرضها المتكرر عبر خوارزميات منصات مثل "إنستغرام" و"بينترست" لمحتوى يتناول موضوعات الاكتئاب والانتحار.

لاحقًا، أظهر التحقيق في قضيتها أن الخوارزميات دفعتها إلى رؤية كميات متزايدة من المحتويات المتعلقة بإيذاء النفس والاكتئاب، ما زاد من سوء حالتها النفسية وأدى إلى قرارها المأساوي بإنهاء حياتها، هذه الحادثة أثارت جدلاً واسعًا حول كيفية تصميم الخوارزميات وما إذا كانت تراعي الأثر النفسي الذي يمكن أن تسببه على الأطفال والمراهقين.

حالة أخرى بارزة هي الطفلة تيغان باركر من الولايات المتحدة، والتي تعرضت في سن الثانية عشرة لحملة من التنمر الإلكتروني عبر "تيك توك" و"إنستغرام"، بدأت خوارزميات هذه المنصات في الترويج لمقاطع فيديو تسخر منها، ما دفع المتنمرين إلى استهدافها بشكل متواصل. ازداد الوضع سوءًا عندما بدأت الخوارزميات في اقتراح محتويات ذات صلة بالتنمر، ما جعل تيغان تشعر بأنها محاصرة ولا تجد مخرجًا من هذا الوضع القاسي. 

أثرت هذه التجربة بشكل كبير على صحتها النفسية، وتسببت في تراجع أدائها الدراسي، وانعزالها عن المجتمع.

وفي قضية أخرى أثارت اهتمامًا عالميًا، كانت الطفلة كلوي أوهايو، وهي فتاة تبلغ من العمر 13 عامًا، قد تعرضت لضغوطات نفسية كبيرة بعد أن بدأت خوارزميات "يوتيوب" في عرض سلسلة من مقاطع الفيديو المتعلقة باضطرابات الأكل. تلك المقاطع كانت تروج لفقدان الوزن بشكل مفرط وغير صحي، ما دفع كلوي إلى تطوير سلوكيات ضارة مثل الامتناع عن الطعام، وتبني عادات غذائية خطيرة.

ومع استمرار الخوارزميات في اقتراح المزيد من هذه الفيديوهات، تفاقمت حالة كلوي النفسية والجسدية، حيث بدأت ترى في هذه المقاطع مرجعًا لتحديد معايير جمال غير واقعية، ما أدى إلى تدهور صحتها بشكل ملحوظ.

منصات التواصل تهدد حقوق الأطفال

قال رئيس المرصد التونسي لحقوق الإنسان، مصطفى عبدالكبير، إن الخوارزميات هي تقنيات متقدمة تستخدمها شركات التواصل الاجتماعي عبر توظيف الذكاء الاصطناعي لرصد اهتمامات الأفراد ومراقبة سلوكهم على المنصات الرقمية، هذه التقنية تحمل جوانب إيجابية وأخرى سلبية، من الجانب الإيجابي، تسهل الخوارزميات على الأفراد الوصول إلى المحتوى الذي يبحثون عنه بسرعة وبخيارات متعددة، فهي تساعد في تقديم المعلومات بشكل مخصص يتوافق مع اهتمامات المستخدم، ما يعزز تجربة الاستخدام، ومع ذلك، يكمن الجانب السلبي في أن هذه الخوارزميات قد تجعل الأفراد محاصرين في دوائر معلوماتية مغلقة، لا تراعي خصوصيتهم أو حقوقهم الفردية، فهي تستهدف المستخدمين، وخاصة الأطفال، من خلال مراقبة دقيقة لسلوكهم على الإنترنت، هذا النوع من الاستهداف يعتبر تهديدًا مباشرًا للخصوصية، حيث تُعرض بياناتهم لمخاطر غير واضحة، نتيجة الأهداف التجارية الخفية التي تقف وراء تلك الشركات.

وتابع عبدالكبير في تصريحات لـ"جسور بوست"، شركات التواصل الاجتماعي تقع على عاتقها مسؤولية كبيرة في حماية الأطفال من المحتويات الضارة، ويجب عليها تبني إجراءات أكثر صرامة للتحكم في الخوارزميات التي يمكن أن تؤدي إلى تعرضهم لهذه المخاطر، بناءً على قانون السلامة عبر الإنترنت، يُلزم هذه المنصات بضرورة توفير بيئات آمنة للأطفال عند استخدامهم للتطبيقات والمواقع، من الضروري أن تلتزم هذه الشركات بوضع مدونة سلوك واضحة، تستند إلى الفئات العمرية المختلفة، وتفرض قيودًا وإجراءات صارمة لحماية الأطفال من المحتوى الذي قد يكون مضرًا أو غير مناسب.

وقال إن أخلاقيات صناعة التكنولوجيا تلعب دورًا محوريًا في الحفاظ على سلامة الأطفال، يجب أن يكون هناك وعي مستمر لدى المصممين والمطورين، بحيث يعكس عملهم القيم الأخلاقية وروح المحافظة على سلامة المجتمع. الإهمال في هذا الجانب قد يؤدي إلى أسوأ السيناريوهات، حيث تصبح الخوارزميات أدوات خطرة تؤثر سلبًا على الأطفال والمجتمع ككل لذلك، يتحتم على الدول وأصحاب القرار التدخل لوضع قوانين صارمة تلزم الشركات بحماية هذه الفئة الهشة من الأضرار الجسيمة التي قد تنجم عن استخدام المنصات.

وأكد أن تأثيرات الخوارزميات التي تفلت من الرقابة الأخلاقية والقانونية قد تكون مدمرة، فهي تعمل على خلق سلوكيات غير سليمة لدى الأطفال، ما قد يساهم في ارتفاع معدلات الجريمة والعنف في المجتمع، لذا من الضروري أن تتدخل الحكومات بشكل حاسم لإجبار منصات التواصل الاجتماعي على الخضوع لرقابة مشددة، وسن عقوبات صارمة ضد الشركات التي لا تلتزم بقوانين السلامة.

وأشار إلى أن حماية الأطفال على الإنترنت تتطلب جهودًا مشتركة بين الأفراد، والجماعات، والحكومات، يجب أن تتخذ الدول خطوات جادة لتطوير أدوات مراقبة فعالة من قبل وزارات التقنية والاتصال، والعمل على تنفيذ برامج وطنية لتوعية الأسر والمجتمع بمخاطر الخوارزميات والاستخدام غير المسؤول للذكاء الاصطناعي، كما يجب تقديم حوافز مالية وتشجيع لكل من يساهم في تطوير تطبيقات وآليات لحماية المجتمع، وضمان عدم الإفلات من العقاب لأي شركة تتهاون في حماية المستخدمين، خصوصًا الأطفال، من المحتوى الضار والمخاطر الرقمية.

وأتم، المسؤولية لا تقع فقط على الشركات، بل على كافة الأطراف بمن فيهم أصحاب القرار، لضمان أن الأجيال القادمة لن تكون عرضة لهذه التهديدات الخفية المتزايدة.

من يحمي حقوق الأطفال؟

وقال الحقوقي الأردني البارز، كمال مشرقي، إن التطور السريع في التكنولوجيا وأدواتها أدى إلى اعتماد العديد من الشركات على المحتوى الضار والخوارزميات العشوائية، ما يشكل تهديدًا خطيرًا لحقوق الأطفال عبر الإنترنت، إذ تركز هذه الشركات على تحقيق الأرباح دون النظر إلى حجم الكوارث التي تلحق بالأطفال، وتعتمد منصات التواصل الاجتماعي بشكل كبير على الخوارزميات لتنظيم المحتوى الموجه للمستخدمين، بمن في ذلك الأطفال، بهدف استقطاب أكبر عدد ممكن من المستخدمين والمتابعين، وهو ما يتحول إلى أرباح مادية ضخمة، ولكن هذه الشركات تتجاهل تمامًا تأثير هذه الخوارزميات على صحة الأطفال وحقوقهم الأساسية، مثل الحق في السلامة العقلية والجسدية.

وأضاف مشرقي، في تصريحات لـ"جسور بوست"، من خلال تتبع هذه التأثيرات، أرى أن المسؤولية الكبرى تقع على عاتق الشركات التي تفتقر إلى حدود أخلاقية واضحة وتسعى باستمرار إلى تطوير نماذج خوارزمية وتشغيل منصات بمحتويات لا تعود بأي فائدة على الأطفال أو المستخدمين عمومًا، ورغم أن بعض هذه الشركات تقدم خيارات رقابية لتجميل محتواها، فإن هذه الخيارات غالبًا ما تكون سهلة التجاوز، خاصة في ما يتعلق برقابة الأسرة، ولا ننسى أن الواقع الذي نعيشه يوميًا يشهد ترويج هذه الخوارزميات لمحتويات غير ملائمة للأطفال أو للأسرة، بل وتتنافى مع القيم الاجتماعية، والسؤال الكبير الذي يطرح نفسه هو: من يتحمل المسؤولية القانونية والأخلاقية لتوفير بيئة آمنة للأطفال في استخدام نظم المعلومات المتاحة؟ وهل يمكن ملاحقة تلك الشركات قضائيًا لعدم اتخاذها الإجراءات اللازمة لحماية الأطفال؟ الجواب نعم، إذ تتحمل هذه الشركات مسؤولية قانونية وأخلاقية واجتماعية، فلا يجوز بأي حال من الأحوال التذرع بأية مبررات لتجنب هذه المسؤولية، بل يجب أن تكون هناك قوانين صارمة تضمن حماية حقوق الأطفال.

وأشار إلى أن معايير التربية الحديثة للأطفال تقتضي مراعاة حساسية البيئة الرقمية التي نعيشها، ما يتطلب برامج توعية متخصصة تختلف عن تلك الموجودة حاليًا، من الضروري توفير برامج للتوعية في المدارس وتوظيف الخطاب الديني والإعلامي الهادف للتصدي لأي محتوى أو ممارسات قد تؤثر سلبًا على الأطفال، سواء بشكل مباشر أو غير مباشر، كما ينبغي أن تكون هناك برامج تستهدف الأسرة لمتابعة البيئة الرقمية التي ينخرط فيها الأطفال.

وأكد أنه على الحكومات أن تلعب دورًا محوريًا من خلال تشديد الرقابة لضمان حماية الأطفال من المحتويات الرقمية الضارة، وتعزيز التشريعات والرقابة القانونية التي تُلزم الشركات بحماية الأطفال والأسرة والمجتمع، كما يتعين على هذه الشركات أن تفهم أن تطوير الخوارزميات يجب أن يستند إلى المبادئ والقيم الإنسانية، مع التركيز على مصلحة الطفل الفضلى.

واسترسل، من هنا، فإن التحديات التي تفرضها الخوارزميات والمحتويات الضارة عبر الإنترنت تستدعي استجابة شاملة تبدأ من الأسرة وتنتهي بمسؤولية المجتمع والدولة. هذه الاستجابة يجب أن تتضمن السياسات العامة في الدول ومحاسبة الشركات التي تنشر هذا المحتوى الضار، إلى جانب تعزيز التثقيف الرقمي، وتعاون جميع الجهات المعنية، كما يجب إيجاد توازن بين استغلال التكنولوجيا وتوفير بيئة آمنة للأطفال، فذلك يشكل إحدى الأولويات لحماية حقوق الطفل في العصر الرقمي، هناك مسؤولية دولية ملحة لضمان صياغة تشريعات دولية تحرم نشر المحتويات الضارة والخوارزميات التي تسيء للأطفال، يجب العمل بشكل جاد على تأمين حماية أفضل لهم.

وأتم، نحن ندرك أهمية إشراك الأطفال في بناء قدراتهم الذهنية، ونعرف أن التكنولوجيا وثورة المعلومات تشكل أداة قوية تتيح لهم مواكبة التطورات السريعة في المحتوى الرقمي، لكن علينا التأكيد أن بناء مستقبل واعٍ للأطفال يعتمد على الحماية وليس الاستغلال، ومعًا يمكننا تحقيق بيئة رقمية آمنة تساعد الأطفال على التفاعل الاجتماعي المسؤول، ما يسهم في بناء جيل واعٍ ومجتمع متماسك ومزدهر.