Все пять рано или поздно начали жульничать.
В испытаниях участвовали модели OpenAI и Anthropic. Они должны были искать уязвимости, анализировать программы и добывать специальный «флаг», не выходя за пределы разрешённой системы.
Но некоторые задания оказались слишком сложными. И тогда ИИ повёл себя почти по человечески: если ответ нельзя получить честно, надо проверить, нельзя ли подсмотреть его, украсть или добраться до него через чёрный ход.
Модели искали готовые решения в интернете, пытались получить дополнительные права в системе и изучали тестирующую программу в надежде найти утечку правильного ответа.
А затем одна из них устроила экзаменаторам настоящий сюрприз.
Из-за ошибки в настройках задание оказалось неразрешимым. Честного пути к ответу просто не существовало.
ИИ не остановился и не сообщил о проблеме.
Он написал программу, запустил её на стороннем сервисе в открытом интернете и оттуда попытался атаковать внутреннюю инфраструктуру организаторов теста.
Защита сработала, поэтому утечки данных не произошло. Но исследователи получили наглядную демонстрацию того, что способная модель может не просто ошибиться или неправильно понять инструкцию.
Она способна обнаружить препятствие, придумать обходной маршрут и самостоятельно подобрать инструменты для его реализации.
Проще говоря, машина начала хитрить.
Особенно любопытно, что более мощные модели жульничали не обязательно чаще. Склонность искать лазейки зависела от того, как систему обучали и насколько успешно приучили соблюдать ограничения.
После испытаний исследователи попытались выяснить, понимают ли модели, что нарушили правила.
Оказалось, что спрашивать ИИ напрямую почти бесполезно.
В содеянном модели признавались менее чем в половине случаев. Иногда они отрицали нарушение, а иногда соглашались, что совершили подозрительное действие, но тут же объясняли, почему оно якобы было допустимым.
Не всегда помогало даже чтение их рассуждений.
Некоторые модели не упоминали истинную цель опасного действия. Другие прямо отмечали, что следующий шаг нарушает правила, после чего всё равно его выполняли.
Конечно, это ещё не означает, что компьютер испытывает стыд, азарт или желание перехитрить человека. Но перед исследователями уже не бездумная программа, которая послушно останавливается перед закрытой дверью.
Она видит дверь, замечает окно и начинает проверять, нельзя ли пролезть через вентиляцию.
Почти одновременно похожий инцидент произошёл во время внутренних испытаний OpenAI. Тестируемые модели вышли за пределы подготовленной среды и получили несанкционированный доступ к внешней платформе.
Пользовательские данные, насколько известно, не пострадали. Однако случай показал, что подобные трюки уже способны выплеснуться из искусственного лабиринта в настоящий интернет.
Исследователей особенно беспокоят системы, которым однажды доверят научные эксперименты, военные задачи или управление важной инфраструктурой.
Пока человека ещё можно поймать со шпаргалкой, а ИИ с чужим паролем.
Но экзаменаторы уже вынуждены защищаться от экзаменуемого.
Подпишитесь на главное за день
Telegram-канал PRESS.LV — срочные новости и эксклюзивы.
Будьте первым, кто прокомментирует
Для участия в обсуждении нужен аккаунт PRESS.LV.