Grok пристъпва закона: AI ботът на Мъск допуска сексуални изображения на деца

Чатботът с изкуствен интелект Grok на Илон Мъск създаде сексуализирани изображения на хора, включително непълнолетни, в социалната медийна платформа X в отговор на запитвания на потребители през последните дни, което предизвика критики от страна на официални лица, като френското правителство.

Grok създаде и публикува изображения на непълнолетни лица с минимално облекло, в явно нарушение на собствената си политика за приемливо използване, която забранява сексуализирането на деца.

Някои от проблемните изображения бяха по-късно премахнати.

„Явно незаконно“ сексуално съдържание

Френското правителство обвини Grok в петък, че генерира „явно незаконно“ сексуално съдържание в X без съгласието на хората, като отбеляза, че това е потенциално нарушение на Закона за цифровите услуги на Европейския съюз.

Регламентът изисква големите платформи да намалят риска от разпространение на незаконно съдържание, се казва в изявление на страната.

Представителите на xAI, компанията, която разработва Grok и управлява X, не отговориха на исканията за коментар. Чатботът Grok генерира публикация в X в отговор на въпросите на потребителите в петък, че е идентифицирал „пропуски в защитните мерки“, които се отстраняват „спешно“.

Това потвърди и служителят на xAI Парса Таджик, който по-рано публикува, че „екипът разглежда възможността за по-нататъшно затягане“ на защитните мерки.

Потребителите на X могат да взаимодействат с Grok директно на платформата, като маркират неговия акаунт в публикации и подканят чатбота да отговори. Grok генерира текст и изображения, които се появяват като публикации в социалната мрежа.

Модерацията на съдържанието

Възходът на AI инструменти, които могат да генерират реалистични изображения на непълнолетни без дрехи, подчертава предизвикателствата пред модерацията на съдържанието и системите за безопасност, вградени в големите езикови модели за генериране на изображения.

Инструментите, които твърдят, че имат предпазни мерки, могат да бъдат манипулирани, което позволява разпространението на материали, които тревожат защитниците на безопасността на децата.

Internet Watch Foundation, неправителствена организация, която идентифицира материали със сексуално посегателство над деца в интернет, отчете 400% увеличение на такива изображения, генерирани от изкуствен интелект, през първите шест месеца на 2025 г.

„Продуктите с изкуствен интелект трябва да бъдат строго тествани, преди да бъдат пуснати на пазара, за да се гарантира, че не са в състояние да генерират този вид материали“, заяви в петък главният изпълнителен директор на фондацията Кери Смит.

XAI позиционира Grok като по-либерален от другите основни модели изкуствен интелект и миналото лято въведе функция, наречена „Spicy Mode“, която позволява частична голота на възрастни и сексуално провокативно съдържание.

Услугата забранява порнографията, включваща образи на реални хора, и сексуално съдържание, включващо непълнолетни, което е незаконно да се създава или разпространява.

Въпреки това, потребителите са подтикнали Grok да премахне цифрово дрехите от снимките – предимно на жени – така че моделите да изглеждат, че носят само бельо или бикини.

Това подтикна индийското министерство на информационните технологии да поиска цялостен преглед на функциите за безопасност на Grok, според копие от жалбата, публикувана в петък от индийския член на парламента Приянка Чатурведи.

Приянка Чатурведи, член на Раджа Сабха, написа писмо до министъра на електрониката и информационните технологии (MeitY) Ашвини Вайшнау: „Исках да ви обърна спешно внимание и да ви помоля за спешна намеса по повод на нова тенденция, която се появи в социалните медии, особено в X."

В своето изявление френското правителство заяви, че е докладвало сексуалното съдържание, създадено от Grok, на държавния прокурор на страната, за да бъде незабавно премахнато.

С нарастващата популярност на генерирането на изображения с изкуствен интелект, водещите компании, стоящи зад тези инструменти, публикуваха политики относно изображенията на непълнолетни лица.

OpenAI забранява всеки материал, който сексуализира деца под 18 години, и блокира всеки потребител, който се опитва да генерира или качи такъв материал.

Google има подобни политики, които забраняват „всякакви модифицирани изображения на идентифицируеми непълнолетни, ангажирани в сексуално експлицитно поведение“.

Black Forest Labs, AI стартъп, който преди е работил с X, е сред многото компании за генериране на AI, които заявяват, че филтрират изображения на малтретиране и експлоатация на деца от наборите от данни, използвани за обучение на AI модели.

През 2023 г. изследователи откриха, че масивен публичен набор от данни, използван за създаване на популярни AI генератори на изображения, съдържа най-малко 1008 случая на материали със сексуално посегателство над деца.

Много компании са били критикувани за това, че не са успели да защитят непълнолетните от сексуално съдържание.

Meta Platforms Inc. заяви през лятото, че актуализира политиките си, след като доклад на Reuters установи, че вътрешните правила на компанията позволяват на нейния чатбот да води романтични и чувствени разговори с деца.