هل ما زال بإمكانك التمييز بين صورة مولّدة بالذكاء الاصطناعي وصورة حقيقية؟ الجواب الصادق هو لا.

تنتشر هذا الشهر لعبة تحوّل سؤالاً جاداً إلى لوحة نتائج. تعرض عليك سلسلة من الصور وتطلب منك تحديد أيّها مولّد بالذكاء الاصطناعي. يلعبها الناس وهم مقتنعون أن لديهم عيناً جيدة، ثم يرون دقتهم تنهار عند النقطة التي يبدأ فيها الذكاء الاصطناعي برسم أيدي بشرية واقعية بشكل صحيح. لقد مضت سنوات منذ أن كان ذلك علامة موثوقة. حصدت اللعبة أكثر من مئة نقطة على Hacker News، وتقرأ التعليقات وكأنها مجموعة دعم لأشخاص يكتشفون عماهم.

العلامات الدالة اختفت

كل اختصار كان الناس يعتمدون عليه انغلق. أصابع إضافية، نص مشوّه، بشرة بلاستيكية، إضاءة مستحيلة. النماذج الحالية تتعامل معها كلها جيداً بما يكفي بحيث لا يمكنك الاعتماد على أي منها منفردة. النص على وجه الخصوص تحسّن تحسناً هائلاً، ما أزال أحد آخر الانتصارات السهلة للكشف البشري. النموذج الذي يرسم لافتة مقروءة داخل مشهد كان يُعدّ سابقاً دليلاً قاطعاً. الآن صار شرطاً أساسياً.

النتيجة موقف غريب. تحسّنت الصور، لكن قدرة البشر على اكتشافها لم تتحسّن. معظم الناس، عند وضع صورة جيدة مولّدة بالذكاء الاصطناعي وصورة حقيقية جنباً إلى جنب، يخمّنون. شعبية اللعبة دليل جزئي على ذلك: إنها ممتعة تحديداً لأنك تخطئ باستمرار، والخطأ هو المقصود. الثقة عالية والدقة تدور حول رمي العملة.

أدوات الكشف لا تنقذنا أيضاً

هناك سوق موازية لأدوات كشف الذكاء الاصطناعي، وهي مهتزة بالقدر نفسه. تُطلق أدوات جديدة تزعم اكتشاف الصور المولّدة بالذكاء الاصطناعي، لكنها تنجح في المختبر وتفشل في العالم الحقيقي. كاشف مُعاير على تشوهات نموذج واحد يتعثر مع النموذج التالي. اضغط صورة أو غيّر حجمها أو مرّرها عبر إعادة ترميز منصة اجتماعية، وسَتُمحى البصمات الدقيقة التي اعتمد عليها الكاشف.

والأسوأ أن أدوات الكشف تنتج إيجابيات كاذبة. يمكن لصورة حقيقية بإضاءة معينة أو فلتر قوي أن تُفعّل إنذارها. وبالنسبة لأداة يُفترض أن تعيد الثقة في الصور، فإن الإيجابية الكاذبة مشكلة خطيرة، لأنها تتيح لأي شخص رفض صورة حقيقية باعتبارها مزيفة. بعبارة أخرى، يمكن تسليح أدوات الكشف في الاتجاهين. هذا ليس عيباً يصلحه مزيد من التدريب. إنه خلل بنيوي.

سباق التسلح له فائز واحد فقط

هناك عدم تماثل جوهري هنا يستمر الناس في التقليل من شأنه. المولّدات تحاول إنتاج صور تبدو حقيقية، ولديها هدف واضح. أما الكواشف فتحاول اكتشافها، وهي تطارد هدفاً متحركاً يتحسّن باستمرار. في سباق تسلح، عادةً يفوز الطرف الذي يملك هدفاً واضحاً وحلقة تكرار سريعة، وهذا الطرف هو المولّدات.

كل نموذج جديد يجبر الكواشف على إعادة التدريب، وبحلول الوقت الذي يلحقون فيه، يكون النموذج التالي قد صدر. الفجوة لا تضيق. إنها تتسع، وتتسع مع كل إصدار. لدى بائعي أدوات الكشف حافز ليبدوا متفائلين، لكن خط الاتجاه الفعلي ليس في صفهم. إن كان هناك موقف صادق، فهو أن الكشف الموثوق لعبة خاسرة، وكلما أسرعنا في قبول ذلك، أسرعنا في العمل على الشيء المفيد فعلاً.

ماذا يعني هذا عملياً

الجواب الصادق عن سؤال «هل يمكنك التمييز» هو: ليس بشكل موثوق، وبشكل متزايد، لا. السؤال الأكثر فائدة هو كيف نتعايش مع ذلك. يجب أن تنتقل عملية التحقق إلى المنبع، إلى إثبات المنشأ. إذا كانت الصورة موقّعة عند إنشائها، أو تحمل سجلاً لمصدرها وكيفية تحريرها، فلن تحتاج إلى التحديق في البكسلات. تتحقق من البيانات الوصفية.

هذه البنية التحتية بالكاد موجودة للمستخدمين العاديين. بعض صانعي الكاميرات والمنصات يجرّبون بيانات اعتماد المحتوى، لكنها ليست معياراً، وبمجرد التقاط لقطة شاشة للصورة، تنكسر السلسلة. وإلى أن يتغير ذلك، سيكون الوضع الافتراضي هو التشكيك، والتشكيك مُنهك. وهو أيضاً تآكلي، وهذا هو الجزء الذي بدأنا نشعر به فقط.

التكلفة الاجتماعية هي القصة الحقيقية

الضرر ليس في الحقيقة مرتبطاً بخداعنا بصورة مزيفة. إنه مرتبط بانهيار الثقة المشتركة. عندما يصبح أي تصوير قابلاً للاختلاق، وأدوات الكشف غير موثوقة، يبدأ الناس في الشك في كل شيء، بما في ذلك الأدلة الحقيقية. هذه مشكلة أثقل من أي صورة فردية، وهي المشكلة التي لم تحلها التقنية.

هذا هو الجزء الذي يظل يغيب عن النقاش التقني. الأشخاص القلقون بشأن صور الذكاء الاصطناعي لا يقلقهم في الغالب أن ينخدعوا بفلتر ممتع. إنهم قلقون من عالم يمكن فيه رفض صورة حقيقية لحدث حقيقي باعتبارها مزيفة، والدفاع عن صورة مزيفة باعتبارها حقيقية. عندما يصبح الدليل نفسه موضع شك، تتوقف الحجج التي تعتمد على الأدلة عن العمل. هذه ليست مشكلة كاشف. إنها مشكلة ثقة، وهي أكبر من أي أداة على أي من طرفيها.

المسؤولية تتنقل، ولا أحد يريدها

أحد الخطوط الفرعية الهادئة هو أن المسؤولية تظل تُدفع هنا وهناك دون أن تستقر في أي مكان. صانعو النماذج يقولون إنهم يقدمون مجرد أداة. المنصات تقول إنها لا تستطيع التحقق من كل صورة. المستخدمون يقولون إنه لا ينبغي عليهم أن يكونوا محللين جنائيين. الجميع محق تقنياً، والنتيجة أنه لا أحد مسؤول عن الضرر عندما تتسبب صورة مزيفة في إلحاق الأذى.

تشتّت المسؤولية هذا هو المشكلة الفعلية. عندما تنتشر صورة مُتلاعب بها وتسبب ضرراً، فالضرر حقيقي، لكن لا يوجد فاعل واحد كانت مهمته اكتشافها. صانع النموذج أطلق أداة قادرة، والمنصة استضافتها، والمستخدم صدّقها. يمكن لكل حلقة في السلسلة أن تشير إلى التالية وتدّعي أنها لم تفعل شيئاً خاطئاً.

إلى أن تستقر المسؤولية في مكان ملموس، سيكون الجواب الافتراضي إما لوم الأداة أو لوم المشاهد، ولا ينجح أي منهما. لوم الأداة يشبه لوم الكاميرا على صورة مُخرجة. ولوم المشاهد يتجاهل أن لا إنسان يستطيع التمييز بشكل موثوق بعد الآن. الإصلاح الصادق بنيوي، قواعد واضحة بشأن الإفصاح وإثبات المنشأ تُلزم من ينشرون الصور ويوزعونها، لا من ينظرون إليها.

ما الذي يأتي فعلاً بعد ذلك

فازت مولّدات الصور بسباق التسلح. أصبحت جيدة إلى درجة أن سؤال «هل هذا حقيقي» لم يعد له جواب سريع. المشكلة التالية التي يجب حلها ليست صنع كواشف أفضل. بل بناء نظام لا تعتمد فيه حقيقة الصورة على ما إذا كانت عينك تصادف التقاطها. إثبات المنشأ، محتوى موقّع، سلاسل حيازة قابلة للتحقق. هذه أمور مملة، وهي الشيء الوحيد الذي سينجح فعلاً. لقد خسرت العين، والتظاهر بغير ذلك يمنح الجميع فقط إحساساً زائفاً بالأمان.