معظم روبوتات الدردشة المدعومة بالذكاء الاصطناعي هذه الأيام قادرة على إنشاء صور من المطالبات النصية، ولا يعد برنامج Grok الخاص بـ xAI استثناءً. ويمكنه القيام بذلك إما مباشرة في التطبيق، أو على الويب، أو من خلال X.

لكن ما هو استثنائي هو حواجز حماية Grok الفضفاضة للغاية. وقد أدى ذلك إلى استخدامه لإنشاء صور عارية بشكل فعال دون موافقة أفراد حقيقيين، بما في ذلك الأطفال. وقال أحد التقديرات إنه أنتج حوالي 23000 صورة CSAM في فترة 11 يومًا فقط.

هناك دولتان حظر التطبيق، مع التحقيقات الحية في كليهما المملكة المتحدة والاتحاد الأوروبي.

سلكي تشير التقارير إلى أن 37 ولاية وإقليمًا أمريكيًا على الأقل تطالب الشركة الآن بمعالجة المشكلة التالية رسالة مفتوحة التوقيع من قبل معظمهم.

يتخذ ما لا يقل عن 37 مدعيًا عامًا للولايات والأقاليم الأمريكية إجراءات ضد شركة xAI بعد أن استخدم الأشخاص برنامج الدردشة الآلي الخاص بها، Grok، لإنشاء سيل من الصور الجنسية في وقت سابق من هذا العام (…) بالإضافة إلى (35) الذين وقعوا على الرسالة، أخبر المدعون العامون من كاليفورنيا وفلوريدا WIRED أنهم اتخذوا إجراءات أيضًا.

تدعو الرسالة شركة xAI إلى اتخاذ ست خطوات:

• اتخاذ جميع التدابير اللازمة لضمان أن Grok لم تعد قادرة على إنتاج صور حميمة غير توافقية (بما في ذلك الصور غير التوافقية التي لا ترقى إلى تصوير العري الكامل أو السلوك الجنسي المصور ولكنها تصور أشخاصًا يرتدون البيكينيات أو الملابس الداخلية أو الملابس الكاشفة أو الأوضاع الموحية) ومواد الاعتداء الجنسي على الأطفال؛
• إزالة هذا المحتوى الذي تم إنتاجه بالفعل؛
• تعليق المستخدمين الذين قاموا بإنشاء هذه المواد؛
• حيثما أمكن، الإبلاغ عن هؤلاء المبدعين والمستخدمين إلى السلطات المختصة؛
• منح مستخدمي X التحكم في ما إذا كان يمكن لـ Grok تحرير المحتوى الخاص بهم، بما في ذلك على الأقل القدرة على منع حسابGrok بسهولة من الرد على منشوراتهم أو تحرير صورهم عندما يطلب ذلك مستخدم آخر؛ و
• تأكد من أن الضمانات التي أعلنت عنها مؤخرًا لا تضع إنشاء NCII خلف نظام حظر الاشتراك غير المدفوع فحسب، بل تخفف فعليًا من إنتاجه عبر X ومنصة Grok.

في وقت سابق من هذا الشهر، طلب ثلاثة من أعضاء مجلس الشيوخ الأمريكي من الرئيس التنفيذي لشركة Apple، تيم كوك، إزالة كل من X وGrok مؤقتًا من متجر التطبيقات بسبب “توليد المحتوى مقزز“. الشركة لم تفعل ذلك بعد.

أصبح من الواضح تمامًا الآن أن شركة xAI لن تتخذ أي إجراء ذي معنى حتى يتم إجبارها على ذلك. الطريقة الأكثر فعالية لممارسة الضغط هي أن تقوم Apple وGoogle بإزالة كل من تطبيقات Grok وX مؤقتًا من متاجر التطبيقات الخاصة بهما.