هيئة تنظيم الاتصالات البريطانية تستجوب إكس بعد إنشاء غروك صورًا جنسية للأطفال والنساء

أدان وزير التكنولوجيا في المملكة المتحدة انتشار صور تُظهر نساءً وأطفالًا دون ملابس، تم توليدها باستخدام نموذج الذكاء الاصطناعي غروك التابع لمنصة إكس. 

ووصف الوزير هذه الصور بأنها مروّعة وغير مقبولة في أي مجتمع محترم. وأعلنت هيئة تنظيم الاتصالات البريطانية (أوفكوم) أنها أجرت اتصالًا عاجلًا مع منصة إكس للمطالبة بتوضيحات بشأن هذه الصور التي أنشأها غروك.

غروك التابع لإكس يولد صورًا جنسية لنساء وأطفال

طلب عدد كبير من المستخدمين على منصة التواصل الاجتماعي إكس، من روبوت الدردشة غروك التلاعب بصور حقيقية، بحيث تظهر فيها النساء بملابس سباحة أو في أوضاع ذات إيحاءات جنسية من دون موافقتهن. 

وبعد انتشار آلاف الصور المزيفة على الإنترنت، دعت وزيرة الدولة للعلوم والابتكار والتكنولوجيا، ليز كيندال، منصة إكس المملوكة لإيلون ماسك إلى التعامل مع الأمر على وجه السرعة، وأعربت عن دعمها لهيئة أوفكوم لاتخاذ "أي إجراءات إنفاذ تراها ضرورية".

وأكدت كيندال "لا يمكننا ولن نسمح بانتشار هذه الصور المهينة والحاطة بالكرامة، التي تستهدف النساء والفتيات على نحو غير متناسب". وأضافت "لا لبس في الأمر، المملكة المتحدة لن تتسامح مع الانتشار اللامتناهي لمواد مقززة ومسيئة على الإنترنت. يجب أن نتكاتف جميعًا للقضاء عليها".

وجاءت تصريحات كيندال في وقت تتصاعد فيه الدعوات لتعزيز "قانون السلامة على الإنترنت"، الذي يهدف إلى مكافحة الأضرار الرقمية وحماية الأطفال.

من جهتها، انتقدت جيسالين كين، وهي ناجية من اعتداء الجنسي في الطفولة، رد فعل الحكومة ووصفتْه بأنه "ضعيف ويفتقر للشجاعة". وقالت لصحيفة "ذا غارديان" إنه حتى صباح يوم الثلاثاء، السادس من يناير/كانون الثاني الجاري، كان روبوت الدردشة لا يزال يستجيب لطلبات التلاعب بصورة لها وهي في الثالثة من عمرها، عبر إلباسها "بكيني".

وتساءلت عن سبب السماح لغروك بإنشاء مثل هذه الصور في حين أن باقي المنصات لديها ضمانات لمنع توليد هذا النوع من الصور. وأضافت "الصور التي رأيتها بغيضة ومهينة إلى حدّ كبير، والحكومة تتصرف بردّ فعل متأخر" مؤكدة أن الأدوات القائمة على الذكاء الاصطناعي تحتاج إلى تنظيم أفضل.

أوفكوم تستجوب إكس بشأن تقارير عن صور جنسية للأطفال والنساء

أجرت أوفكوم اتصالًا عاجلًا بشركة إكس المملوكة لإيلون ماسك، بعد ثبوت إنشاء روبوت الدردشة الخاص بها صورًا جنسية للأطفال والنساء.

وفي السياق أكدت أوفكوم أنه بموجب "قانون السلامة على الإنترنت" فإن إنتاج أو مشاركة صور حميمية أو صريحة جنسيًا، بما في ذلك الصور المزيفة المولّدة بالذكاء الاصطناعي من دون موافقة الشخص المعني، يعد أمرًا غير قانوني. 

وأقرت الهيئة يوم الاثنين الخامس من يناير الجاري، بوجود مخاوف جدية حيال توليد غروك صورًا لأشخاص دون ملابسهم من بينها صورًا جنسية لأطفال. وقالت إنها تواصلت مع الشركة لفهم الخطوات التي اتخذتها للامتثال لواجباتها القانونية في حماية المستخدمين داخل المملكة المتحدة، وإنها ستنظر في فتح تحقيق بناءً على رد الشركة.

وتتصاعد الضغوط على الوزراء لاتخاذ موقف أكثر حزمًا، إذ دعت الناشطة في مجال سلامة الأطفال على الإنترنت، بيبان كيدرون، الحكومة إلى "إظهار قدر من الحزم"، وطالبت بإعادة تقييم "قانون السلامة على الإنترنت".

وقالت في حديثها عن منصة إكس "لو تسبب أي منتج استهلاكي آخر بهذا المستوى من الضرر، لكان قد جرى سحبه من الأسواق بالفعل".

وشددت كيدرون على أوفكوم بالتحرك "خلال أيام لا سنوات"، وحثّت المستخدمين على التخلي عن "المنتجات التي لا تُظهر نية جادة لمنع الإضرار بالأطفال والنساء والديمقراطية".

من جانبه، انتقد جيك مور، المستشار العالمي للأمن السيبراني في شركة البرمجيات الأمنية إيسيت (ESET)، ما وصفه بـ"لعبة التراشق" بين منصات مثل إكس والجهات التنظيمية البريطانية، معتبرًا أن رد الحكومة "بطيء على نحو مقلق". وحذّر من أنه مع تزايد قدرة الذكاء الاصطناعي على توليد صور مزيفة وتحويلها إلى مقاطع فيديو أطول، فإن الأثر على حياة الناس سيتفاقم.

وقال مور "من غير المعقول أن يحدث هذا في عام 2026. علينا المضي قدمًا بتنظيم صارم للغاية، أي منطقة رمادية نتركها ستُستغل والحكومة لا تدرك الصورة الأكبر".

أضافت كيدرون أن صور الأطفال المولّدة بالذكاء الاصطناعي وهم يرتدون ملابس سباحة قد لا تندرج قانونيًا ضمن مواد الاعتداء الجنسي على الأطفال، لكنها تنتهك خصوصية الأطفال وحقهم في الاستقلالية. وقالت: "لا يمكننا العيش في عالم لا يستطيع فيه طفل نشر صورة لفوزه بسباق ما، إلا إذا كان مستعدًا لأن يُجرى تسييسه جنسيًا وإذلاله".

ومن الجدير بالذكر، أن أوفكون تملك صلاحية تغريم منصات التكنولوجيا بما يصل إلى 18 مليون جنيه إسترليني أو 10% من إيراداتها العالمية المؤهلة. وكانت أكبر غرامة حتى الآن قد فُرضت الشهر الفائت على مزوّد محتوى إباحي أخفق في إجراء عمليات التحقق الإلزامية من العمر، وبلغت قيمتها مليون جنيه إسترليني.

إكس تحذر المستخدمين من نشر أو توليد محتوى غير قانوني

من جانبها نشرت شركة إكس بيانًا يوم الأحد، حذّرت فيه المستخدمين من استخدام غروك لإنشاء محتوى غير قانوني، بما في ذلك المواد التي تستغل الأطفال جنسيًا.

وجاء في التحذير "نتخذ إجراءات ضد المحتوى غير القانوني على منصة إكس، بما في ذلك مواد الاعتداء الجنسي على الأطفال، عبر إزالته، وتعليق الحسابات نهائيًا، والتعاون مع الحكومات المحلية وجهات إنفاذ القانون عند الاقتضاء. وأي شخص يستخدم أو يوجّه غروك لإنتاج محتوى غير قانوني سيتعرّض للعواقب نفسها كما لو قام بتحميل هذا المحتوى بنفسه".

كما شدد إيلون ماسك على أنّ أيّ شخص يطلب من الذكاء الاصطناعي توليد مواد غير قانونية “سيتحمل العواقب نفسها” التي يتحملها من يرفعها بنفسه.

اقرأ/ي أيضًا

بسبب الاحتيال والتزييف الرقمي.. المفوضية الأوروبية تغرم إكس 120 مليون يورو

إيلون ماسك وأبرز الادعاءات التي طاولته وروّج لها منذ استحواذه على منصة إكس