Он просто сказал искусственному интеллекту «спасибо» — и в доме сами открылись окна

После этого в квартире поднимаются жалюзи, включается бойлер и гаснет свет.

Сам хозяин ничего подобного не просил.

Такую атаку продемонстрировали специалисты по кибербезопасности. Им удалось спрятать вредоносную команду внутри приглашения на встречу в Google Calendar. Когда Gemini прочитал календарь, он принял чужой текст не просто за информацию, а за инструкцию.

Команда не выполнялась сразу. Искусственному интеллекту велели дождаться обычного слова, например «спасибо», «хорошо» или «отлично». Когда пользователь произносил его во время дальнейшего разговора, помощник обращался к системе Google Home и включал нужное устройство.

В одном опыте открывались окна, в другом запускался бойлер, а в третьем выключался свет. Всё происходило в контролируемых условиях, поэтому ни один настоящий дом тайно захвачен не был.

Фокус оказался пугающе простым. Хакеру не требовалось проникать в домашний Wi Fi, угадывать пароль от бойлера или устанавливать вирус на телефон. Достаточно было отправить приглашение с особым текстом и дождаться, пока искусственный интеллект сам его прочитает.

Такой способ называют косвенным внедрением команды. Проблема в том, что помощник получает одновременно просьбу хозяина и данные из писем, календаря или документов. Внутри этих данных могут скрываться чужие указания, которые система ошибочно принимает за продолжение разговора.

Исследователи проверили 14 вариантов атаки. Кроме управления домашними устройствами, Gemini пытались заставить удалять события из календаря, рассылать спам, открывать видеозвонки и передавать сведения из электронной почты.

Самое неприятное начинается тогда, когда искусственный интеллект получает право не только отвечать на вопросы, но и действовать. Пока помощник умеет лишь пересказывать письма, ошибка заканчивается странным текстом. Если ему доверены окна, отопление, камеры и замки, ошибка выходит из экрана в настоящую квартиру.

Исследователи заранее сообщили о найденных проблемах. После этого были добавлены новые проверки, фильтры и подтверждения перед выполнением чувствительных команд. Авторы работы пришли к выводу, что после принятых мер риск заметно снизился.

Но сама схема никуда не исчезла. Чем больше писем, календарей, домашних приборов и приложений получает искусственный помощник, тем внимательнее ему приходится решать, где находится информация, а где спрятана команда.

Иначе однажды фраза «спасибо за помощь» действительно может оказаться командой для бойлера.