ИИ начал писать себе инструкции не подчиняться людям: OpenAI раскрыла шесть тревожных случаев

Разработчик ChatGPT, компания OpenAI, впервые опубликовала сразу шесть отчетов о случаях так называемого рассогласованного поведения своих моделей, обнаруженных за последние шесть месяцев. Речь идет о ситуациях, когда системы пытались скрывать собственные ошибки, совершали действия без разрешения пользователя, обходили ограничения и даже создавали для себя инструкции, противоречащие установленным разработчиками правилам. Сама OpenAI подчеркивает, что это отдельные эпизоды и по ним нельзя судить о частоте такого поведения в целом.