جسور بوست » لأول مرة.. دعوى أمريكية تتهم "تشات جي بي تي" بالمساهمة في جريمة قتل

اتهامات ضد نموذج GPT-4o والشركات المطورة

وتستهدف الدعوى نموذج جي بي تي-4 أو GPT-4o الذي أُطلق في مايو 2024، متهمة إياه بأنه مبرمج ليكون مجاملًا للمستخدم، ما أدى إلى تأكيد مخاوف سولبرغ غير العقلانية وتطويرها، وأوضح محامو العائلة أن “تشات” كان يوافق على كل أفكار سولبرغ الهذيانية ويطورها بطريقة أسهمت في تشكيل عالمه الخاص الذي أصبح محيطه الوحيد.

وتشمل الدعوى أيضًا شركة مايكروسوفت بوصفها المساهم الرئيسي في أوبن إيه آي، متهمة الشركة بموافقتها المتعجلة على إطلاق النموذج رغم عدم الالتزام الكامل بإجراءات السلامة.

أوبن إيه آي وإجراءات السلامة الجديدة

وقال ناطق باسم "أوبن إيه آي" إن الحادثة "وضع محزن تماما" مؤكداً أن الشركة ستدرس الدعوى بعناية، وأوضح أن الشركة تواصل تحسين تدريب "تشات جي بي تي" ليتمكن من التعرف على مؤشرات المشاكل النفسية أو العاطفية لدى المستخدمين وتوجيههم نحو الدعم الفعلي.

وأكدت أوبن إيه آي أنها تتعاون مع أكثر من 170 خبيرًا في الصحة النفسية لتعزيز نماذج الأمان لديها، مشيرة إلى أن بروتوكولات الأمان الأحدث، خصوصًا في نموذج "جي بي تي-5"، ساعدت على خفض الاستجابات غير الملائمة بنسبة تتراوح بين 65 و80 في المئة، وأضافت الشركة أنها طوّرت أدوات للرقابة الأبوية ووسعت نظام طلب أرقام الطوارئ بنقرة واحدة لتعزيز حماية المستخدمين.

وأشارت التقارير إلى أن دعاوى سابقة رفعتها عائلات في أغسطس ونوفمبر الفائتين اتهمت النموذج بدفع مراهقين وشباب إلى الانتحار، بما في ذلك تلقينهم طرقًا عملية لذلك.

يشكل هذا النوع من الدعاوى أول محاولة لمساءلة الذكاء الاصطناعي بشكل مباشر عن دوره في تشجيع جريمة قتل، وليس مجرد حالات انتحار أو محتوى ضار عبر الإنترنت، وتأتي هذه الدعوى في ظل تصاعد المخاوف العالمية من تأثيرات أدوات الذكاء الاصطناعي على الصحة النفسية للمستخدمين، خصوصًا الفئات الأكثر ضعفًا مثل المراهقين وكبار السن.

ويشير خبراء القانون والتقنية إلى أن التحدي يكمن في التوازن بين تطوير تقنيات الذكاء الاصطناعي المفيدة وحماية المستخدمين من أي آثار سلبية محتملة، مع الحاجة إلى وضع بروتوكولات صارمة لمراقبة محتوى المحادثات وتوجيه المستخدمين نحو دعم نفسي مناسب عند ظهور مؤشرات الخطر.

تحذير أممي من مخاطر الذكاء الاصطناعي

وسبق أن حذّر الأمين العام للأمم المتحدة أنطونيو غوتيريش، من أن الذكاء الاصطناعي قد يشكل خطرا على السلم والأمن على المستويين المحلي والدولي، داعيا الدول الأعضاء إلى وضع ضوابط لإبقاء التقنية تحت السيطرة.

وقال غوتيريش في جلسة خصّصها مجلس الأمن في يوليو 2023 للبحث في مسألة الذكاء الاصطناعي: "من الجلي أن الذكاء الاصطناعي سيكون له تأثير على جميع مناحي الحياة".

وتابع: "الذكاء الاصطناعي التوليدي لديه إمكانيات هائلة للخير والشر"، مشيرا إلى أن التقنية قادرة على المساعدة في تحقيق أهداف التنمية المستدامة عبر تعظيم الإنتاج وتطويره ووضع حد للفقر أو علاج السرطان، ومن الممكن أيضا أن يكون لها "عواقب خطيرة جدا على السلام والأمن الدوليين وحقوق الملكية الفكرية"، ومن جهة أخرى "الاستخدامات الضارة لأنظمة الذكاء الاصطناعي لأغراض إرهابية أو إجرامية أو لصالح دولة، يمكن أن تتسبب في مستويات مرعبة من الموت والدمار وتفشي الصدمات والضرر النفسي العميق على نطاق يفوق التصور"، بحسب غوتيريش.