"فايننشيال تايمز": شركات الذكاء الاصطناعي تجعل "المنتجات اللامعة" أهم من "السلامة"

غادر كبار قادة السلامة في شركة "أوبن إيه أي" الشركة هذا الأسبوع بعد أن وصل الخلاف حول ما إذا كان يجب إعطاء الأولوية "للمنتجات اللامعة" أو "السلامة" إلى نقطة الانهيار، كما يقول أحد الباحثين المستقيلين من الشركة.

ونقلت صحيفة "فايننشيال تايمز" عن، جان لايكي، الذي قاد جهود "أوبن إيه أي" لتوجيه أدوات الذكاء الاصطناعي فائقة القوة والتحكم فيها، إنه استقال يوم الخميس بعد خلاف مع رؤسائه حول مقدار الوقت والموارد التي تخصصها الشركة الناشئة في هذه الجهود.

وكتب "لايكي" في منشور على موقع التواصل الاجتماعي "إكس" يوم الجمعة: "على مدى السنوات الماضية، تراجعت ثقافة السلامة وعملياتها أمام المنتجات اللامعة".

وكانت "أوبن إيه أي" هي المرشح الأوفر حظًا في سباق شرس لبناء نماذج أكثر قوة، حيث تتنافس مع المنافسين بما في ذلك "جوجل" و"ميتا" و"أنثروبي" لدفع حدود تكنولوجيا الذكاء الاصطناعي.

وقد جمعت الشركة مليارات الدولارات -بما في ذلك 13 مليار دولار من مايكروسوفت- لبناء نماذج الذكاء الاصطناعي التي يمكنها تفسير النصوص والكلام والصور ويمكنها إظهار القدرات المنطقية، وقد أثارت وتيرة هذه التطورات المخاوف بشأن كل شيء، بدءًا من انتشار المعلومات المضللة إلى المخاطر الوجودية في حالة "خروج أدوات الذكاء الاصطناعي عن مسارها الصحيح".

وغادر "لايكي"، أحد الباحثين الأكثر شهرة في "أوبن إيه أي"، إلى جانب إيليا سوتسكيفر، المؤسس المشارك للشركة والقائد المشارك لـ"فريق المحاذاة الفائقة" الذي يركز على السلامة، والذي أعلن استقالته في وقت سابق من هذا الأسبوع.

وهذا في الواقع يؤدي إلى حل الفريق في "أوبن إيه أي" الذي يركز بشكل واضح على ضمان تطوير التكنولوجيا بشكل آمن، وسيحتفظ الأعضاء المتبقون في فريق المحاذاة الفائقة بتركيزهم على السلامة وسيتم توزيعهم عبر فرق البحث التابعة للشركة، وفقًا لشخص مطلع على هذا الترتيب.

وكشفت هذه الخطوة عن توتر متزايد في قلب الشركة بين الاستفادة من الريادة المبكرة في الذكاء الاصطناعي والالتزام بمهمتها الأساسية المتمثلة في ضمان أن الذكاء الاصطناعي الفائق القوة "يفيد البشرية جمعاء".

وكتب "لايكي": "نحن بحاجة ماسة إلى معرفة كيفية توجيه أنظمة الذكاء الاصطناعي والتحكم فيها بشكل أكثر ذكاءً منا.. لقد انضممت لأنني اعتقدت أن  (أوبن إيه أي) سيكون أفضل مكان في العالم لإجراء هذا البحث، ومع ذلك، فقد كنت أختلف مع قيادة الشركة حول الأولويات الأساسية لبعض الوقت، حتى وصلنا أخيرًا إلى نقطة الانهيار".

وكتب الرئيس التنفيذي لـ"أوبن إيه أي"، سام ألتمان، على موقع "إكس" أنه "من المحزن للغاية رؤية لايكي يغادر.. إنه على حق، لدينا الكثير لنفعله، نحن ملتزمون بالقيام بذلك".

وكانت المخاوف بشأن السلامة أيضًا عاملاً في الدراما التي حدثت في مجلس الإدارة في نوفمبر في "أوبن إيه أي"، والتي تم خلالها طرد ألتمان من قبل المديرين -بما في ذلك سوتسكيفر- ليعود بعد 4 أيام، وقبل إقالته، اشتبك ألتمان مع عضو مجلس الإدارة آنذاك هيلين تونر، التي قارنت نهج "أوبن إيه أي" في ما يتعلق بالسلامة مع نهج منافستها "أنثروبي" بطريقة شعر ألتمان أنها غير مواتية لشركته.

وأطلقت "أوبن إيه أي" فريقها للمحاذاة الفائقة العام الماضي، قائلة إنه مصمم لمعالجة المخاوف من أن الآلات فائقة الذكاء "قد تؤدي إلى إضعاف البشرية أو حتى انقراض الإنسان"، وفي ذلك الوقت، اقترحت الشركة أن الذكاء الاصطناعي يمكن أن يتفوق على البشر في غضون عقد من الزمن، وفي الأشهر التي تلت ذلك، كانت الشركة الناشئة وراء عدد من التطورات الرئيسية.

والتزمت الشركة بتخصيص 20% من مواردها الحاسوبية لدعم عمل الفريق لضمان توافق الذكاء الاصطناعي مع المصالح البشرية حتى عندما أصبح أكثر قوة بشكل كبير.

لكن "لايكي" قال إنه لم يتم إيلاء الاهتمام الكافي للسلامة والتأثير المجتمعي للنماذج الأكثر قوة: "من الصعب جدًا حل هذه المشكلات بشكل صحيح، وأنا قلق من أننا لسنا على المسار الصحيح للوصول".

وأضاف: إن فريق المحاذاة الفائقة ناضل من أجل الوصول إلى موارد الحوسبة التي تم استيعابها في تطوير نماذج جديدة للمستهلكين مثل GPT-4o، أحدث نموذج من "أوبن إيه أي" الذي تم إصداره يوم الاثنين الماضي.