Инструмент ИИ Grok, принадлежащий компании Илона Маска, временно отключил функцию создания изображений для большинства пользователей. Это решение было принято после многочисленных жалоб, что Grok использовали для создания сексуально откровенных и насильственных изображений. Пользователи сообщали, что с помощью функции «создания изображений» в Grok генерировали фото женщин без их согласия, в том числе изображения с признаками насилия.
Исследования выявили, что Grok использовали для создания сексуализированного контента, а также для изменения фотографий погибшей Рене Николь Гуд, которую убил агент ICE в США. На созданных изображениях её изображали с пулевым ранением в лоб. Эти случаи вызвали широкий резонанс среди общественности и политиков, и к критике присоединился премьер-министр Великобритании.
Австралийский регулятор eSafety начал расследование по распространению deepfake-изображений, которые Grok создавал на платформе X. Ведомство получило несколько жалоб на использование Grok для создания сексуализированных изображений без согласия людей.
На фоне угроз штрафами, регуляторными действиями и сообщениями о возможном запрете X в Великобритании, компания временно ограничила доступ к функции редактирования изображений только для платных подписчиков. Большинство пользователей больше не может создавать или изменять изображения с помощью Grok.
