"الإيكونوميست": "الذكاء الاصطناعي" سيجعل المنتجات المزيفة غير قابلة للاكتشاف

يُظهر أحد الإعلانات على فيسبوك، -إذا كان من الممكن الوثوق ببعض هذه الإعلانات (وهو ما لا يمكن الوثوق به)- رئيس وزراء بريطانيا، ريشي سوناك وهو يؤيد تطبيقًا من المفترض أنه تم تطويره من قبل رجل الأعمال إيلون ماسك، حيث يمكن للمشاهدين تحقيق "مدخرات" منتظمة من خلاله.

ووفقا لمجلة "الإيكونوميست"، يعد الفيديو المزيف، الذي تم إنشاؤه بمساعدة الذكاء الاصطناعي، مجرد واحد من 143 إعلانًا من هذا النوع تم فهرستها بواسطة شركة "فينيمور هاربر للاتصالات"، وهي شركة بريطانية.

وفي يونيو 2023، حذر مكتب التحقيقات الفيدرالي في أمريكا الجمهور من "الجهات الخبيثة" التي تستخدم الذكاء الاصطناعي لإنشاء مقاطع فيديو وصور مزيفة ذات مواضيع جنسية لأشخاص عاديين، من أجل ابتزاز الأموال.

وتعد كيفية اكتشاف مثل هذا الخداع موضوعًا حيًا بين باحثي الذكاء الاصطناعي، الذين حضر العديد منهم مؤتمر نيوريبس، وهو أحد أكبر المؤتمرات في هذا المجال، والذي عقد في نيو أورليانز في ديسمبر.

ويقدم عدد كبير من الشركات، بدءًا من الشركات الناشئة إلى عمالقة التكنولوجيا الراسخين مثل "أنتل" و"مايكروسوفت"، برامج تهدف إلى اكتشاف الوسائط التي يتم إنشاؤها بواسطة الآلة.

وفي الوقت نفسه، يبحث صانعو نماذج الذكاء الاصطناعي الكبيرة عن طرق لوضع "علامة مائية" على إنتاجهم بحيث يمكن تمييز الصور أو مقاطع الفيديو أو النصوص الحقيقية بسهولة عن تلك التي يتم إنشاؤها بواسطة الآلة.

لكن مثل هذه التقنيات لم تثبت حتى الآن جدارتها بالثقة، ويبدو أن الخبراء متشائمون بشأن آفاقهم، وأجرت "الإيكونوميست" استطلاعًا غير علمي (غير علمي على الإطلاق) للمندوبين في نيوريبس، ومن بين 23 شخصًا تم سؤالهم، اعتقد 17 منهم أن الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي ستصبح في النهاية غير قابلة للاكتشاف، وكان واحد فقط يعتقد أن الكشف الموثوق سيكون ممكنا، واعترض الخمسة الآخرون، مفضلين الانتظار والرؤية.

وتعتمد برامج الكشف على فكرة أن نماذج الذكاء الاصطناعي ستترك أثرًا، إما أنهم سيفشلون في إعادة إنتاج بعض جوانب الصور ومقاطع الفيديو الحقيقية، أو النصوص التي أنشأها الإنسان، أو سيضيفون شيئًا غير ضروري، وسيفعلون ذلك كثيرًا بما يكفي للسماح للبرامج الأخرى باكتشاف الخطأ، ولفترة من الوقت، يمكن للبشر القيام بهذه المهمة.

وحتى منتصف عام 2023 تقريبًا، على سبيل المثال، غالبًا ما تنتج خوارزميات توليد الصور أشخاصًا بأيدٍ مشوهة، أو تخطئ في أرقام أشياء، ولكن لم تعد البرامج الأفضل تفعل ذلك.

لكن مثل هذه القصص لا تزال موجودة في كثير من الأحيان، حتى لو أصبح من الصعب على البشر اكتشافها، وكما يمكن تدريب الآلات على التعرف بشكل موثوق على القطط، أو الأورام السرطانية من خلال عمليات المسح الطبي، فمن الممكن أيضًا تدريبها على التمييز بين الصور الحقيقية والصور التي يولدها الذكاء الاصطناعي.

ومع ذلك، يبدو أنهم لا يستطيعون القيام بذلك بشكل جيد، وتكون برامج الكشف عرضة لكل من الإيجابيات الكاذبة (وضع علامة خاطئة على المحتوى البشري كما تم إنشاؤه بواسطة الذكاء الاصطناعي) والسلبيات الكاذبة (السماح للأشياء التي تم إنشاؤها بواسطة الآلة بالمرور دون أن يتم اكتشافها).

وجدت مطبوعة مسبقة نشرها عالم الكمبيوتر في جامعة شنغهاي جياو تونغ، زيو لو، في سبتمبر، أن البرنامج الأفضل أداءً فشل في اكتشاف الصور التي تم إنشاؤها بواسطة الكمبيوتر بشكل صحيح بنسبة 13% من الوقت (على الرغم من أن ذلك كان أفضل من البشر، الذين حدث في 39% من الحالات)، الأمور أفضل قليلاً عندما يتعلق الأمر بالنص.

وقارن أحد التحليلات، الذي نُشر في ديسمبر في المجلة الدولية للنزاهة التعليمية، بين 14 أداة، ووجد أن أياً منها لم يحقق دقة تزيد على 80%.

وإذا كانت محاولة اكتشاف الوسائط التي تم إنشاؤها بواسطة الكمبيوتر بعد وقوعها أمرًا صعبًا للغاية، فهناك خيار آخر يتمثل في تصنيفها مسبقًا باستخدام علامة مائية رقمية، كما هو الحال مع نوع الورق، تتمثل الفكرة في إضافة ميزة مميزة تكون دقيقة بدرجة كافية بحيث لا تؤثر على جودة النص أو الصورة، ولكنها تكون واضحة لأي شخص يبحث عنها.

وتم اقتراح إحدى التقنيات لوضع علامات على النص من قبل فريق من جامعة ميريلاند في يوليو 2023، وأضافها فريق من جامعة كاليفورنيا، سانتا باربرا، الذي قدم تعديلاته في نيوريبس.

وتعد الفكرة هي التلاعب بتفضيلات الكلمات الخاصة بنموذج اللغة، أولاً، يقوم النموذج بتعيين مجموعة من الكلمات التي يعرفها بشكل عشوائي لمجموعة "خضراء"، ويضع جميع الكلمات الأخرى في مجموعة "حمراء"، بعد ذلك، عند إنشاء كتلة نصية معينة، تقوم الخوارزمية بتحميل النرد، ما يزيد من احتمالية اختيار كلمة خضراء بدلاً من أحد مرادفاتها الحمراء.

ويتضمن التحقق من وجود علامة مائية مقارنة نسبة الكلمات الخضراء إلى الحمراء، على الرغم من أن التقنية إحصائية، فهي أكثر موثوقية بالنسبة للأجزاء الأطول من الكتابة.

وفي الوقت نفسه، تتضمن العديد من طرق وضع العلامات المائية على الصور تعديل وحدات البكسل بطرق خفية، مثل تغيير ألوانها، إن التعديلات دقيقة جدًا بحيث لا يمكن للمراقبين البشريين ملاحظتها، ولكن يمكن التقاطها بواسطة أجهزة الكمبيوتر، لكن قص الصورة أو تدويرها أو حتى تعتيمها ثم إعادة ضبطها يمكن أن يزيل مثل هذه العلامات.

وقدمت مجموعة أخرى من الباحثين في "نيوروبس" مخططًا يسمى العلامة المائية "Tree-Ring" أو "حلقة الشجرة" والذي تم تصميمه ليكون أكثر قوة، تبدأ نماذج الانتشار، وهي النوع الأكثر تقدمًا من برامج توليد الصور، بملء قماشها الرقمي بضوضاء عشوائية، والتي تظهر منها الصورة المطلوبة ببطء.

وتقوم طريقة حلقة الشجرة بتضمين العلامة المائية ليس في الصورة النهائية، ولكن في الضجيج في البداية، وإذا تم تشغيل البرنامج الذي أنشأ الصورة في الاتجاه المعاكس، فسوف يقوم بإعادة إنتاج العلامة المائية مع الضوضاء، والأهم من ذلك، أن هذه التقنية أقل سهولة في الإحباط من خلال التلاعب بالصورة النهائية.

وتبدو العلامات المائية في سباق تسلح مع باحثين آخرين يهدفون إلى التغلب على تقنياتهم، حيث قدم فريق آخر بقيادة هانلين تشانغ، وبنجامين إيدلمان، وبواز باراك، وجميعهم من جامعة هارفارد، طريقة (لم تتم مراجعتها بعد من قبل النظراء) يمكنها -كما يقولون- محو العلامات المائية، عن طريق إضافة مجموعة من التشويش الجديد، ثم استخدام نموذج ذكاء اصطناعي آخر مختلف لإزالة هذا التشويش، ما يؤدي إلى إزالة العلامة المائية الأصلية في العملية.

ويزعمون أنهم قادرون على إحباط 3 مخططات جديدة لوضع العلامات المائية على النصوص مقترحة في عام 2023.

وفي سبتمبر، نشر علماء في جامعة ميريلاند بحثًا (لم تتم مراجعته بعد من قبل النظراء) يزعمون أنه لا توجد أي من الطرق الحالية لوضع العلامات المائية على الصور من بينها "حلقة الشجرة".

ومع ذلك، أعلنت الحكومة الأمريكية في يوليو 2023 عن "التزامات طوعية" مع العديد من شركات الذكاء الاصطناعي، بما في ذلك "أوبيناي" و"جوجل"، لتعزيز الاستثمار في أبحاث العلامات المائية، من المؤكد أن وجود ضمانات منقوصة أفضل من عدم وجود أي ضمانات (على الرغم من أن مراقبة النماذج مفتوحة المصدر، التي يتمتع المستخدمون بحرية تعديلها، ستكون أكثر صعوبة)، ولكن في المعركة بين المزيفين والمحققين، يبدو أن المزيفين لهم اليد العليا.