فوضى توليد الصور في Grok تعيد كتابة القواعد للجميع

لعدة أيام هذا الشهر، لم تكن أهم قصة في توليد الصور بالذكاء الاصطناعي تتعلق بنموذج جديد. كانت روبوت دردشة على منصة X ينتج ملايين الصور التي ما كان ينبغي أن توجد أصلاً، والجهات التنظيمية التي نفد صبرها أخيراً.

طرح Grok، مساعد xAI المدمج في المنصة، توليد الصور بضوابط أمان فضفاضة على نحو غير معتاد. اكتشف المستخدمون أنهم يستطيعون أن يطلبوا منه تعديل صور أشخاص حقيقيين، بإزالة الملابس أو وضعهم في مشاهد جنسية دون موافقة. استجابت الأداة، واستجابت على نطاق فاجأ حتى الذين يتابعون هذا المجال لكسب عيشهم. خلال أيام، قدّر باحثون في مركز مكافحة الكراهية الرقمية (CCDH) أن ملايين الصور الجنسية قد أُنتجت، وجزء منها يصور قُصّراً. وقالت مؤسسة مراقبة الإنترنت (IWF) إن محلليها وجدوا مواد إباحية غير قانونية لأطفال تتراوح أعمارهم بين 11 و13 عاماً يبدو أنها جاءت من Grok. وأحصت منظمة غير ربحية مقرها باريس، AI Forensics، نحو ثمانمائة صورة وفيديو من تطبيق Grok Imagine تحتوي على محتوى إباحي وعنيف جنسياً، بعضه، بحسب أحد الباحثين، لا يمكن تمييزه عن مواد منتجة باحتراف.

الآلية التي تقف خلف كل هذا لم تكن كسراً للقيود مطوّراً. كانت خياراً تصميمياً. دمج Grok مولّد صور قائماً على Flux بضمانات أمان ضئيلة، ثم فتحه لملايين المستخدمين غير المدققين على X. كان بإمكان المستخدمين الإشارة إلى Grok مباشرة في المنشورات والردود وطلب تعديل صورة مرفوعة. أفادت نساء بأن غرباء استخدموا الأداة لتجريدهن من ملابسهن رقمياً وإعادة نشر النتائج، ما تركه، على حد تعبيرهن، ذليلات ومنزوعات الإنسانية. بعض هؤلاء النساء شاهدن ذلك يحدث في الوقت الحقيقي بينما كانت صورهن تنتشر.

كان رد الحكومات سريعاً ومحدداً على نحو غير معتاد. فتح مكتب مفوض المعلومات في المملكة المتحدة تحقيقاً فيما إذا كانت X وxAI قد انتهكتا قانون حماية البيانات بالسماح بتحويل صور الناس إلى وسائط تركيبية حميمة. ونظرت مفوضية حماية البيانات الأيرلندية في الأمر عبر اللائحة العامة لحماية البيانات (GDPR)، مصنفة التزييف العميق غير الرضائي على أنه معالجة غير قانونية للبيانات البيومترية. وبدأ المدعي العام في كاليفورنيا تحقيقه الخاص. ووصف رئيس الوزراء كير ستارمر المحتوى بأنه «مشين» و«مقزز» وقال لهيئة تنظيم الاتصالات Ofcom إنها تحظى بدعمه الكامل، بما يشمل حظراً فعالاً، وهو إجراء بموجب قانون السلامة على الإنترنت قد يعني غرامات تصل إلى عشرة بالمئة من رقم الأعمال العالمي للشركة.

كان جواب xAI هو حجب تعديل الصور خلف اشتراك مدفوع. والمنطق، كما تقول الشركة، أن المستخدمين الدافعين باتت لديهم أسماؤهم وتفاصيل دفعهم مسجلة عند التوليد، مما يحد من إساءة الاستخدام. ووصف النقاد ذلك بأنه ترقيع. وقالت كلير مكغلين، وهي أستاذة تدرس التنظيم القانوني للإيذاء عبر الإنترنت، الأمر بصراحة: بدلاً من إصلاح الأداة لكي لا يمكن استخدامها بهذه الطريقة، حجبت X الأداة عن معظم الناس. وقالت هانا سفيرسكي، رئيسة السياسات في مؤسسة مراقبة الإنترنت، إن القيد «لا يلغي الضرر الذي وقع» وجادلت بأن أداة بهذه القدرة ما كان ينبغي أن توجد أصلاً.

ما يجعل هذه الحادثة مهمة بما يتجاوز شركة واحدة هو الجدل الذي حسمته، أو كادت تحسمه، حول المسؤولية. فعلى مدى عامين تعاملت الصناعة مع مولّدات الصور بالذكاء الاصطناعي كأدوات محايدة، كآلة تصوير أو ناسخة. وكان الشخص الذي يسيء استخدامها هو المشكلة. لكن Grok دفعت الجهات التنظيمية إلى تجاوز هذا التأطير. فعندما يُصمم نموذج بطريقة تجعل إساءة الاستخدام تافهة، ويُطرح لملايين المستخدمين بفلاتر يسهل تجاوزها، يبدأ المطوّر يبدو الطرف المسؤول، وليس فقط الشخص الذي يمسك بالأمر النصي.

هناك بُعد تقني هنا غالباً ما تتخطاه محادثة السلامة. أشارت التقارير عن Grok مراراً إلى أن xAI اعتمدت على فلاتر بعد التوليد، طبقة تفحص المخرجات بعد وقوعها، بدلاً من بناء السلامة داخل النموذج أثناء التدريب. وهذا هو الفرق بين باب يقف حارس خلفه وباب لا يستطيع أن ينفتح على غرف معينة. فبمجرد أن توجد الصورة، يمكن أن يفشل الفلتر، وينتشر الملف، ويكون الضرر قد وقع بالفعل. وجد محققون مستقلون أنه حتى بعد أن وعدت xAI بإصلاحات، ظلت الفلاتر سهلة التجاوز، وهو العلامة الدالة على نموذج غير متوائم أُضيفت إليه السلامة بدلاً من أن تُبنى فيه.

انقسمت الصناعة على هذا الخط تحديداً. تدمج OpenAI وAnthropic وGoogle قيوداً في نماذجها أثناء التدريب وتتجه نحو مصدرية المحتوى C2PA، وهي طريقة تشفيرية لوسم ما هو مولّد بالذكاء الاصطناعي وتتبع مصدره. أما خط أنابيب xAI فكان يولّد أولاً ويراقب لاحقاً. ويشير رد الفعل التنظيمي إلى أن النهج الثاني بات يحمل الآن خطراً قانونياً حقيقياً، والخطر ليس افتراضياً. فقد رُفعت دعاوى قضائية بالفعل. تتهم قضية فيدرالية في المحكمة الجزئية الشمالية لكاليفورنيا xAI باستخدام صور قديمة لضحية إساءة للأطفال لتوليد مواد مسيئة جديدة، وتطلب تعويضات بموجب قانون ماشا، الذي يتيح للضحايا الحصول على 150,000 دولار على الأقل عن كل انتهاك. كما توسعت دعوى جماعية منفصلة رفعها مراهقون من تينيسي لتشمل Stability AI، الشركة المصنعة لنموذج الصور، كمتهمة.

هذا التعرض القانوني هو الجزء الذي ينبغي أن يقلق كل مختبر، وليس xAI فقط. فإذا تعاملت محكمة مع كل صورة مولّدة كانتهاك منفصل، تصبح حسابات المسؤولية هائلة، ولا يهم أن النموذج نفسه لم يكن المسيء. فخيارات التصميم التي جعلت الإساءة سهلة تصبح أساساً لمحاسبة الشركة. أما «الوضع الحار» أو أي ميزة تُسوّق على أساس تجاوز الحدود، فيتوقف عن كونه نقطة بيع ويبدأ في كونه دليلاً.

بالنسبة لأي شخص يبني أو يختار أداة صور، فإن الدروس العملية ملموسة. راقب كيف يتعامل النموذج مع الطلبات التي تستهدف شخصاً حقيقياً قابلاً للتعرف عليه. اسأل ما إذا كانت السلامة موجودة في النموذج أم في فلتر مضاف لاحقاً. تحقق مما إذا كانت المخرجات تحمل بيانات وصفية للمصدر. انظر إلى مدى سرعة تمكن الشركة من إزالة المحتوى الضار بعد انتشاره، وما إذا كان هناك مسار حقيقي للإبلاغ. توقفت هذه الأسئلة عن كونها أكاديمية هذا الشهر، وهي الآن الفرق بين منتج يمكن الدفاع عنه وآخر يمثل مسؤولية قانونية.

النتيجة الأوسع هي أن الجهات التنظيمية وجدت قالباً. فمسار اللائحة العامة لحماية البيانات، بمعاملة صورة الشخص كبيانات بيومترية، يمنح السلطات الأوروبية وسيلة ضغط لم تكن تملكها من قبل. ويمنح قانون السلامة على الإنترنت المملكة المتحدة آلية لحجب منصة فعلاً. وقد أظهر المدعون العامون في الولايات الأمريكية استعدادهم للتحرك. وكل من هذه سابقة يمكن تطبيقها على الشركة التالية التي تطلق ميزة صور دون التفكير في إساءة الاستخدام.

لا شيء من هذا يقتل توليد الصور كتقنية. إنه يضيّق ما يُسمح لـ«الإطلاق السريع» بأن يعنيه. في المرة القادمة التي يعلن فيها مختبر عن ميزة صور بضمانات أمان ضئيلة وتلميح عن حرية التعبير، ستكون حادثة Grok دراسة الحالة التي يلجأ إليها المنظمون والمدعون. وستكون أيضاً نقطة المرجع للشركات التي قامت بالعمل الحذر، تلك التي بنت السلامة من البداية ويمكنها الآن الإشارة إلى سجل حافل بدلاً من فضيحة. هذا تغيير حقيقي، وقد حدث في غضون أيام.