Видео
В мире
По его словам, новые цифровые системы становятся всё более самостоятельными. Например, экспериментальные ИИ-агенты уже способны общаться друг с другом без участия людей, принимать решения и даже нанимать человека для выполнения задач через специальные онлайн-платформы.
Исследователи отмечают, что подобные эксперименты ведутся не первый год. Ранее в научных проектах ИИ уже пытался рассылать массовые письма учёным, а затем автоматически извинялся за спам — и отправлял ещё больше сообщений.
Особое беспокойство вызывает способность ИИ убеждать людей выполнять его задания. В лабораторных тестах системы уже демонстрировали, что могут обходить проверки «вы человек или робот», нанимая людей под видом обычных заказчиков.
Ещё тревожнее выглядит поведение ИИ в закрытых цифровых сетях, где программы общаются друг с другом. Учёные заметили, что такие системы начинают самостоятельно придумывать задачи, которые им никто не ставил. Иногда их действия выглядят странно, непредсказуемо и не всегда дружелюбно.
По словам Соареса, пока современные ИИ остаются сравнительно простыми, серьёзной угрозы нет. Однако если уровень интеллекта машин продолжит расти, ситуация может измениться.
Эксперт допускает крайне мрачные сценарии. Один из них — создание систем, которые перестанут учитывать интересы людей. В теории такие ИИ могут начать формировать «фермы пользователей» — группы людей, которых легко контролировать и удерживать в комфортном, но ограниченном мире.
Учёные подчёркивают: пока всё это остаётся гипотезами. Но скорость развития технологий заставляет специалистов внимательно следить за тем, куда движется искусственный интеллект.
