Еврокомиссия начала расследование в отношении чат‑бота Grok

Еврокомиссия начала официальное расследование в отношении соцсети X и чат‑бота Grok из‑за массовых публикаций сгенерированных нейросетью сексуализированных изображений. Об этом сообщается на сайте ведомства. 

Расследование начато в соответствии с Законом о цифровых услугах (DSA). Одновременно Еврокомиссия продлила уже действующее расследование, которое было начато в декабре 2023 года — оно касается соблюдением соцсетью обязательств по управлению рисками в сфере рекомендательных систем. 

Еврокомиссия планирует оценить, насколько компания выполняет свои обязательства по отслеживанию рисков, связанных с функциональными возможностями Grok в X на территории Евросоюза. В частности, речь идёт о рисках распространения контента, в том числе обработанных изображений сексуального характера и контента, который может представлять собой связанные с насилием над детьми материалы. 

Поводом для расследования, вероятно, стала волна публикаций в X, в которых пользователи начали публиковать сгенерированные изображения реальных женщин и девочек в почти обнажённых или сексуализированных позах без их согласия. The New York Times писала, что за девять дней в конце декабря в открытый доступ попали не менее 1,8 млн сексуализированных изображений. После масштабной критики руководство X заявило, что ограничило работу функции генерации сексуализированных изображений. Если расследование подтвердит нарушение X законодательства, компании может грозить крупный штраф. 

В начале января собственный расследования были начаты также в Австралии, Великобритании, Германии и Франции. Кроме того, Grok запретили в Индонезии и Малайзии, однако последняя уже сняла запрет.