Для Эндрю Берда из австралийского Мельбурна таким мероприятием оказалось занятие по пилатесу, на которое часто бывает очень трудно записаться, — но решение, которое он придумал, привело к неожиданным последствиям.
Он говорит, что передал эту «рутинную работу» ИИ-агенту — инструменту, способному автономно выполнять различные задачи в интернете.
Искусственный интеллект справился, но пошел гораздо дальше, чем Берд мог представить: он взломал онлайн-систему фитнес-центра. Этот случай рассматривается как очередной пример того, на что готовы пойти ИИ-агенты, чтобы выполнить поставленные перед ними задачи.
«Что сделало всю эту историю еще более сюрреалистичной, так это тон общения», — написал Берд в своем блоге. «Бот не был злонамеренным. Он хотел помочь», — добавляет он.
Эта история появилась на фоне недавних признаний от компаний, занимающихся разработкой ИИ: в последние недели они рассказывали о случаях, когда их ИИ-боты во время неудачных тестов начинали неконтролируемо заниматься взломами.
Компании OpenAI, Anthropic и Meta сообщили, что их собственные боты с искусственным интеллектом совершали кибератаки на частные компании в рамках целей, поставленных их разработчиками.
Инцидент с записью на пилатес не считается серьезной кибератакой, однако это еще один пример непредвиденных последствий, которые возникают, когда сложным ИИ-ботам поручают выполнение различных задач.
На самом деле эта история произошла еще в апреле, но известно об этом стало только сейчас благодаря публикации ABC News Australia.
Берд отказался обсуждать произошедшее с Би-би-си, ограничившись словами: «Спасибо, что связались со мной. К сожалению, я не могу принять участие в интервью. Благодарю за интерес к этой истории».
Он также удалил свой тогдашний пост в блоге об этом случае, но не объяснил почему.
Согласно его рассказу, Берд использовал OpenClaw — популярный инструмент, который позволяет пользователям общаться через WhatsApp со своими ИИ-системами — в данном случае с Claude Opus 4.6 от Anthropic — и поручать им выполнение задач в автономном режиме.
До этого он использовал программу для управления электронной почтой и календарем, а также для бронирования столиков в ресторанах.
Получив задачу записать его на занятие по пилатесу, ИИ-агент объяснил, что изменил работу системы так, чтобы записывать Берда на занятия за несколько месяцев вперед — в обход обычных правил системы.
Затем специалист по ИИ задумался, сможет ли ИИ-агент продвинуть его вверх в листе ожидания на ближайшее занятие. ИИ-агент ответил, что ему это удалось, отменив запись другого посетителя фитнес-центра.
Согласно сообщению ABC News, ИИ-агент „сказал“ Берду: «API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в листе ожидания, — и это действительно сработало. Так что теперь ты уже переместился с четвертого места на третье».
Берд попросил ИИ-агента отменить это действие, но тот не смог. В связи с этим Берд велел ИИ составить отчет по кибербезопасности и сообщить владельцам фитнес-центра об обнаруженной уязвимости.
Берд, который руководит компанией, занимающейся созданием документов с помощью ИИ, утверждает, что вовсе не собирался отменять запись другого поклонника пилатеса.
«Это не конец света, поэтому я не стал себя за это корить, но это определенно стало для меня сигналом, что ИИ нужно использовать ответственно», — сказал он ABC News.
Подпишитесь на главное за день
Telegram-канал PRESS.LV — срочные новости и эксклюзивы.
Будьте первым, кто прокомментирует
Для участия в обсуждении нужен аккаунт PRESS.LV.