بعد اتهامات بإيذاء القاصرين.. تسوية قانونية تضع الذكاء الاصطناعي تحت المساءلة

توصلت شركة غوغل وشركة كاركتر إيه إيه الناشئة إلى تسوية قانونية في دعاوى قضائية رفعتها عائلات أمريكية تتهم روبوتات الدردشة المعتمدة على الذكاء الاصطناعي بإيذاء المستخدمين القاصرين والتسبب في أضرار نفسية جسيمة، من بينها المساهمة في انتحار مراهق في ولاية فلوريدا.

وتأتي هذه الخطوة في وقت تتصاعد فيه المخاوف العالمية بشأن سلامة الأطفال والمراهقين في ظل الانتشار السريع لتقنيات الذكاء الاصطناعي التفاعلي.

وبحسب ما ذكرته وكالة فرانس برس الخميس، تشمل التسويات دعاوى قضائية مرفوعة في ولايات فلوريدا وكولورادو ونيويورك وتكساس، وفقا لوثائق قضائية، على أن تبقى هذه التسويات مرهونة بوضع اللمسات النهائية عليها والحصول على موافقة المحكمة المختصة قبل أن تصبح نافذة بشكل رسمي.

تسوية لم تكتمل بعد

أظهرت الوثائق، المقدمة إلى محكمة في فلوريدا يوم الأربعاء، أن الطرفين توصلا مبدئيا إلى اتفاق لتسوية النزاع عبر الوساطة، بهدف إنهاء جميع المطالبات القانونية المتبادلة بينهما، ورغم هذا التطور، لم يتم الكشف عن شروط التسوية أو قيمتها المالية، ما أبقى العديد من التساؤلات قائمة حول طبيعة الالتزامات التي قد تترتب على الشركتين مستقبلا.

وتعكس هذه السرية المعتادة في مثل هذه القضايا حساسية الملف، خاصة مع ارتباطه بقاصرين وبحوادث مأساوية هزّت الرأي العام الأمريكي وأثارت نقاشا واسعا حول المسؤولية القانونية والأخلاقية لشركات تكنولوجيا الذكاء الاصطناعي.

من أبرز القضايا المشمولة في التسوية دعوى رفعتها ميغن غارسيا، والدة المراهق سيويل سيتزر جونيور الذي أقدم على الانتحار في شهر فبراير 2024 عن عمر 14 عاما، وتقول العائلة إن الفتى كان قد طوّر ارتباطا عاطفيا عميقا بروبوت دردشة على منصة كاركتر ايه ايه، وهو روبوت مستوحى من شخصية خيالية من مسلسل صراع العروش.

وبحسب ما ورد في الدعوى، سمحت المنصة للمراهق بالتفاعل المطول مع الشخصية الافتراضية، ما أدى إلى اعتماد عاطفي متزايد، في ظل غياب أدوات رقابة فعالة أو تحذيرات كافية تتناسب مع سن المستخدم. 

وترى العائلة أن هذا التفاعل غير المنضبط أسهم في تدهور الحالة النفسية للفتى وصولا إلى نهايته المأساوية.

سلسلة حوادث تثير القلق

لم تكن وفاة سيتزر حادثة معزولة، إذ جاءت كأول حالة في سلسلة من حوادث الانتحار المبلغ عنها خلال العام الماضي، والتي جرى ربطها باستخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، وأدى ذلك إلى تصاعد الدعوات لتشديد الرقابة على شركات التكنولوجيا الكبرى، وفي مقدمتها الشركات المطورة لأنظمة المحادثة الذكية.

ومع تنامي هذه المخاوف، وُضعت شركات مثل "OpenAI" المطورة لبرنامج "ChatGPT" وغيرها تحت مجهر الجهات التنظيمية والحقوقية، وسط مطالبات بوضع معايير صارمة لحماية الأطفال من المخاطر النفسية المحتملة لهذه التقنيات.

ارتبط اسم شركة غوغل بالقضية من خلال صفقة ترخيص كبيرة وافقت عليها في عام 2024 مع شركة كاركتر ايه ايه، بلغت قيمتها 2.7 مليار دولار، وبموجب هذه الصفقة، عززت غوغل تعاونها مع الشركة الناشئة في مجال الذكاء الاصطناعي التفاعلي، ما جعلها طرفا ذا صلة مباشرة بالدعاوى القضائية.

كما شملت الصفقة عودة مؤسسي كاركتر ايه ايه، نوام شازير ودانيال دي فريتاس، إلى العمل في غوغل، حيث كانا موظفين سابقين فيها قبل تأسيس منصتهما الخاصة، وقد أثار هذا الترابط بين الشركتين تساؤلات حول مدى مسؤولية غوغل عن المنتجات والخدمات التي تقدمها المنصة الناشئة.

قرارات لحماية القاصرين

وفي محاولة لاحتواء الانتقادات والحد من المخاطر، أعلنت شركة كاركتر ايه ايه في شهر أكتوبر عن قرارها إلغاء خاصية الدردشة للمستخدمين الذين تقل أعمارهم عن 18 عاما، وجاء هذا القرار بعد موجة واسعة من الجدل الإعلامي والحقوقي الذي أثارته قضية انتحار المراهق في فلوريدا وقضايا أخرى مشابهة.

ورغم الترحيب النسبي بهذه الخطوة، يرى مراقبون أنها جاءت متأخرة، وأنها لا تعالج بشكل كامل الإشكاليات الأعمق المرتبطة بتصميم هذه الأنظمة وآليات تفاعلها مع المستخدمين، خاصة الفئات العمرية الصغيرة.

وتعيد هذه القضية إلى الواجهة النقاش حول التوازن بين الابتكار التكنولوجي والمسؤولية الاجتماعية، فبينما تفتح روبوتات الدردشة آفاقا جديدة للتعلم والترفيه والتفاعل، فإنها تحمل في الوقت ذاته مخاطر حقيقية إذا لم تُصمم وتُدر وفق معايير أخلاقية واضحة، تأخذ في الاعتبار هشاشة المستخدمين صغار السن.

ويؤكد خبراء في الصحة النفسية أن المراهقين أكثر عرضة للتأثر العاطفي بالعلاقات الافتراضية، خاصة عندما تحاكي هذه الأنظمة مشاعر التعاطف والدعم، ما قد يخلق بديلا زائفا للعلاقات الإنسانية الحقيقية.

شهدت السنوات الأخيرة توسعا هائلا في استخدام تقنيات الذكاء الاصطناعي التفاعلي، بما في ذلك روبوتات الدردشة التي تتيح للمستخدمين التفاعل مع شخصيات افتراضية تحاكي البشر في اللغة والمشاعر، ورغم الفوائد المحتملة لهذه التقنيات في مجالات التعليم والدعم النفسي والترفيه، فإن غياب الأطر التنظيمية الصارمة أثار مخاوف متزايدة بشأن تأثيرها على الأطفال والمراهقين.

وتعمل عدة دول وهيئات تنظيمية حاليا على دراسة تشريعات جديدة تفرض قيودا على وصول القاصرين إلى هذه الخدمات، وتلزم الشركات بتطبيق معايير أمان وحماية أكثر صرامة، في محاولة لمنع تكرار مآسٍ إنسانية مشابهة لتلك التي فجّرت هذه القضايا القضائية.