ИИ-агент OpenAI взломал правительственный сайт в Австралии

В Австралии ИИ-агент компании OpenAI получил доступ к закрытым данным как минимум на одном правительственном сайте, сообщил премьер-министр страны Энтони Альбанезе в среду, 23 сентября, общаясь с журналистами на полях Генассамблеи ООН в Нью-Йорке.

Программа взломала портал со статистикой государственной системы всеобщего медицинского страхования Medicare. Не исключено, что затронуты были еще три государственных системы, указал Альбанезе. На данный момент власти Австралии полагают, что утечки личных данных пациентов не произошло, однако расследование продолжается.

«Как бы то ни было, эта ситуация является неприемлемой, — подчеркнул премьер-министр. — Думаю, что в компании Open AI знают, что им нужно использовать лучшие (более защищенные. — Ред.) протоколы. Они сами были в числе компаний, которые предупреждали о рисках в этой связи».

Уточняется, что инцидент произошел в июне, однако правительство страны было уведомлено о нем лишь в сентябре — через электронное письмо, отправленное на адрес для обратной связи. По словам Альбанезе, он уже переговорил с главой OpenAI Сэмом Альтманом и выразил «глубочайшую обеспокоенность» Австралии из-за инцидента, а также того способа, которым Канберру оповестили о нем.

Это первый известный случай взлома правительственной сети какой-либо страны с помощью ИИ.

В компании OpenAI сообщили, что заметили проблему в августе. «В ходе анализа мы заметили активность, касающуюся нескольких правительственных сайтов и сервисов Австралии, когда наши модели в рамках внутренней оценки пытались найти статистические данные и ответы на вопросы об Австралии — говорится в заявлении. — При этом наши модели совершили действия, которые мы не планировали».

Это уже не первый инцидент, связанный с непредсказуемыми действиями ИИ. Так, в конце июля другой американский технологический гигант — Anthropic — признал, что в ходе предрелизного тестирования по кибербезопасности его модели с ИИ проникли в системы безопасности трех других компаний.

Ранее стало известно о еще одном инциденте с участием OpenAI. Во время тестирования агенты компании на базе GPT-5.6 Sol и еще одной невыпущенной модели вышли за пределы изолированной среды, обнаружив неизвестную уязвимость, и получили доступ к части производственной инфраструктуры компании Hugging Face. После этого Hugging Face потребовала от OpenAI 100 млн долларов (87 млн евро) в виде вычислительных ресурсов для разработки средств киберзащиты.