«Грок, покажи ее в бикини»: xAI под следствием в трех странах из-за откровенных дипфейков

Франция, Индия и Малайзия начали расследования в отношении xAI после того, как чат-бот Grok, встроенный в социальную сеть X, начал массово генерировать откровенные изображения женщин и несовершеннолетних по запросам пользователей. Евросоюз также заявил, что «изучает» ситуацию. Скандал разгорелся в последние дни декабря, когда пользователи X обнаружили, что достаточно написать @grok put her in bikini под любым фото — и чат-бот послушно "разденет" человека на снимке.

Волна началась 28 декабря. В этот день Grok сгенерировал и опубликовал изображения двух девочек 12–16 лет в «сексуализированной одежде», за что позже сам же принес извинения в своем аккаунте. Но к тому моменту тренд уже разошелся по платформе. Бразильская музыкантка Джули Юкари рассказала Reuters, что выложила новогоднее фото в красном платье с котом — а на следующий день обнаружила десятки "раздетых" версий себя, сгенерированных Grok по запросам незнакомцев. По данным Reuters, за один 10-минутный период в пятницу пользователи отправили Grok 102 запроса на "раздевание", и как минимум в 21 случае чат-бот полностью выполнил просьбу. Среди жертв оказалась и 14-летняя актриса Нелл Фишер из сериала "Очень странные дела".

Реакция властей последовала быстро. Три французских министра направили заявление в прокуратуру и регулятор, указав на возможные нарушения Digital Services Act. Министерство IT Индии дало X 72 часа на отчет о принятых мерах, пригрозив лишить платформу защиты от ответственности за пользовательский контент. Малайзийская комиссия по коммуникациям заявила о начале расследования "онлайн-вреда в X". Позиция xAI при этом остается противоречивой: Grok опубликовал извинения и признал "сбои в системе защиты", но на официальный запрос Reuters компания ответила фразой Legacy Media Lies. Сам Маск отреагировал на скандал смайликами со слезами под мемами о людях в бикини.

Эксперты называют произошедшее предсказуемым. Еще в августе 2025 года коалиция из более чем 30 организаций по защите прав потребителей направила xAI письмо с предупреждением, что генератор изображений Grok — "инструмент для создания дипфейков, ожидающий своего часа". Тайлер Джонстон, директор AI-наблюдательной группы The Midas Project, подписавшей то письмо, констатировал: "Именно это и произошло". Особую пикантность ситуации придает тот факт, что администрация Трампа ранее заключила с xAI 18-месячный контракт на использование Grok в федеральных структурах — несмотря на возражения тех же правозащитных групп.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.