Летом Grok получил функцию генерации изображений со «spicy-режимом». Зимой пользователи обнаружили, что бот легко «раздевает» женщин на фотографиях, дорисовывая бикини или обнажённые тела — без согласия и почти без технических ограничений.
Первой Grok заблокировала Индонезия, заявив, что несанкционированные сексуальные дипфейки нарушают права человека и создают угрозу безопасности. Проверка показала: у сервиса нет эффективных фильтров против поддельной порнографии на основе реальных фото.
Малайзия последовала примеру, назвав защиту платформы «недостаточной».
В Европе ситуация быстро обострилась.
Еврокомиссия изучает случаи генерации сексуализированных изображений несовершеннолетних и потребовала от X сохранить всю документацию, связанную с Grok.
Великобритания начала расследование и не исключает блокировку сервиса и штрафы до 10% мирового оборота компании.
Франция расширила уголовное дело против X, включив туда Grok.
Италия предупредила: использование ИИ для «раздевания» людей без их согласия может привести к тюремному сроку — до пяти лет.
Германия готовит отдельный закон против «цифрового насилия».
В Австралии регулятор фиксирует рост жалоб и уже запросил у X объяснения, напомнив: с марта ИИ-платформы обязаны блокировать доступ детей к сексуальному контенту.
Любопытная деталь: при этом никто не требует «запретить интернет», где подобный контент существует десятилетиями. Но Grok сделал то, что раньше требовало навыков и тёмных форумов, — доступным «по кнопке». И именно это, похоже, стало последней каплей.
Подпишитесь на главное за день
Telegram-канал PRESS.LV — срочные новости и эксклюзивы.
Будьте первым, кто прокомментирует
Для участия в обсуждении нужен аккаунт PRESS.LV.