Видео
В мире
Джеффри Хинтон много лет предупреждал об опасности автономного оружия. Машины не должны сами решать, кого убивать, говорили учёные и активисты. Нужен запрет, нужны правила, нужен человек, который остаётся в центре решения.
Звучало понятно. Даже слишком понятно.
А потом пришла война в Украине.
Хинтон посмотрел на поле боя, где дроны стали не футуристической игрушкой, а ежедневным вопросом выживания, и признал: всё оказалось сложнее, чем он думал. Для человека, который получил Нобелевскую премию и считается одним из главных умов в истории ИИ, это редкий момент публичного разворота.
Не триумфальная лекция. Не очередной манифест. Просто взрослое признание: реальность не поместилась в старую схему.
Украина использует дроны, в том числе системы с элементами ИИ, потому что иначе современная война становится ещё опаснее для людей на земле. Если противник применяет технологии, трудно убедить страну, которая защищается, отказаться от них ради красивой моральной конструкции.
И вот тут начинается самый неприятный узел.
С одной стороны, автономное оружие пугает. Машина, которая быстро находит цель и может ударить без нормального человеческого контроля, выглядит как кошмар из плохого фантастического фильма.
С другой стороны, солдат на передовой не живёт внутри конференции по этике. Он живёт там, где дрон может заметить танк, окоп, группу людей или другую машину раньше, чем это успеет сделать человек.
Хинтон не стал радостным поклонником военного ИИ. Он всё ещё говорит, что тема опасная. Но теперь его позиция звучит не как лозунг, а как нервный вздох человека, который увидел слишком много новых обстоятельств.
И, возможно, именно поэтому она стала убедительнее.
Потому что легко быть категоричным, когда технология обсуждается в зале с микрофонами, кофе и бейджами. Гораздо труднее сохранить простую формулу, когда эта же технология становится разницей между «удержали позицию» и «не удержали».
Самое странное здесь не то, что учёный изменил мнение. Самое странное, что он признал это публично.
В мире, где эксперты обычно держатся за старые фразы до последнего, нобелевский лауреат вдруг сказал почти человеческое: я думал иначе, но теперь вижу, что всё сложнее.
Для эпохи искусственного интеллекта это, пожалуй, редкий случай настоящего человеческого интеллекта.
