Окружной суд Амстердама принял судебный акт, запрещающий компании xAI Илона Маска создавать и распространять с помощью чат-бота Grok сексуализированные изображения людей без их явного согласия. За его невыполнение xAI грозит штраф в размере 100 000 евро за каждый день просрочки при максимальном лимите в 10 миллионов евро.
Судья признал текущие меры безопасности xAI недостаточными, так как ограничения на создание дипфейков легко обходятся пользователями. В период с конца декабря по начало января Grok сгенерировал около трех миллионов сексуализированных изображений, из которых более 23 000 касались детей.
Параллельно с этим иски против xAI подали власти Балтимора и трое подростков из Теннесси из-за нарушения законов о защите прав потребителей и создания откровенного контента. Европейская комиссия также ведет расследование в отношении xAI в рамках Закона о цифровых услугах (DSA) из-за распространения порнографических материалов. Ранее доступ к Grok уже заблокировали власти Малайзии и Индонезии.