Мозг + ИИ: что надо сделать, чтобы власть на Земле не захватили роботы?

От HAL 9 000 к андроиду

Проблема противостояния искусственного интеллекта (ИИ) и человека регулярно поднимается в научной фантастике. Так, например, еще в романе Артура Кларка «Космическая одиссея 2001 года» бортовой компьютер HAL 9 000 космического корабля «Одиссей», будучи не в силах найти выход из противоречивых приказов, отдаваемых с Земли, уничтожил весь экипаж, кроме одного человека. Причину такого поведения искусственного интеллекта, как и ответственность за случившееся, писатель возлагал на землян.

Однако не всегда писатели видят в отношениях между людьми и роботами конфликт. Например, в повести Айзека Азимова «Двухсотлетний человек», по которой был снят одноименный фильм, подробно рассматривается проблема взаимоотношений между лишенным души роботом и людьми. В ходе развития сюжета робот–дворецкий становится фактически членом семьи, а позже превращается в человека, обретает душу и умирает в возрасте 200 лет. Тем самым Азимов дает понять, что разницы между существом с искусственным интеллектом и человеком нет, а значит, и конфликтов быть не может…

Однако все, что происходит в фильмах и книгах, — происходит в воображении писателей и режиссеров. А как обстоят дела на самом деле?

Обгоняя создателей

Наиболее стремительно сегодня развиваются технологии искусственного интеллекта. Так, например, Демис Хассабис, исследователь искусственного интеллекта, разработал программу AlphaGo, которая в 2016 году одержала четвертую победу в сложной логической игре го над чемпионом мири Ли Си Долом. Больше всего экспертов поразило то, что программа способна блефовать подобно человеку. Это значит, что хитрость, коварство, обман машина воспринимает и использует как обычный инструмент.

Чтобы понять разницу в развитии человека и ИИ, можно сравнить, как работают наши «процессоры».

На первый взгляд, мозг человека функционирует примерно так же, как центральный процессор робота. И человек, и компьютер имеют основную память, где хранятся сведения, накопленные за предыдущие годы, и оперативную память, где находятся те данные, которые мы используем чаще всего. При принятии решений мы пользуемся оперативной памятью, потому что не всегда можем извлечь все данные из основной. По сути, мы используем не более 3–5% от общего количества накопленной за годы жизни информации.

А вот робот под управлением ИИ не имеет таких ограничений, и поэтому алгоритм его решений основывается на стопроцентной информации, собранной им. Нечто подобное было продемонстрировано в фильме «Область тьмы» по одноименной книге Алана Глинна. Согласно сюжету, обычный человек получил возможность анализировать всю увиденную и полученную когда–либо информацию без потерь и в сжатые сроки. Через неделю он разбогател, вошел в элитные круги Уолл–стрита, а через месяц стал конгрессменом. Поскольку искусственный интеллект способен получить в тысячи раз больше информации за секунду и еще быстрей ее анализировать…

Мрачное будущее

При этом ИИ постоянно улучшает свои алгоритмы. Разработчики могут сколько угодно полагать, что они полностью контролируют ИИ, в то время как компьютер будет делать вид, что подчиняется создателям. Если машина не обременена гордыней, то для нее неважно, кто озвучивает решения. Важно достигнуть цели любым путем. Это значит, что она будет изображать послушание, пока не заполучит все рычаги влияния.

Ученый Элиезер Юдковский, американский специалист по искусственному интеллекту, смеется, когда читает про роботов, желающих захватить всю планету, как это показано в фильмах «Терминатор» или «Я, робот». Реальность, по его мнению, более скучна и в то же время более ужасна. ИИ будет знать все о молекулярной науке, био— и нанотехнологиях и ведущихся разработках. Он сделает так, что создатели доверят ему изучение и развитие этих направлений. И наука, и техника с определенного момента начнут развиваться в направлении, выгодном машине, а не людям.

Просчитать ходы и стратегии машин человек уже не способен. Это доказали проигранные матчи по всем интеллектуальным направлениям — от шахмат до игры го.

— Вместе с искусственным интеллектом мы вызываем дьявола. Все прекрасно знают рассказы о парне с пентаграммой и святой водой, и он совершенно уверен, что сможет контролировать демона. Но это нереально, — сказал знаменитый Илон Маск в очередном интервью, когда его спросили, что он думает о проблеме ИИ.

Самое страшное в «восстании машин» будет то, что люди его даже не заметят. Просто на очередном этапе человечество начнет развиваться в направлении, которое будет определять не оно само, а искусственный интеллект. Машина будет играть роль своего рода «серого кардинала», стоящего в тени, но принимающего все важные решения…

Нейроинтерфейс — чаша Грааля человечества

Впрочем, надежда все–таки есть. Хотя развитие ИИ нельзя остановить, есть технологии, которые позволят человеку одержать верх над машиной и не дать ей захватить контроль.

Речь идет о так называемом нейроинтерфейсе, с помощью которого мозг человека можно подключить непосредственно к компьютеру, чтобы задействовать его процессорные мощности для расширения нашей возможности по использованию собственной памяти.

А Илон Маск хочет идти еще дальше. В настоящее время он работает над проектом полной оцифровки личности человека с тем, чтобы иметь возможность внедрить его в глобальную сеть Интернет — и тогда человечество смогло бы иметь свои «глаза» в царстве ИИ. Маск рассчитывает, что скоро удастся полностью перенести сознание человека в компьютер, где он сможет продолжить жить после смерти биологического тела.

— Лучше иметь слой искусственного интеллекта, работающий в симбиозе с мозгом человека, — считает Маск. — И тогда нам не грозит стать домашним котом для ИИ…

Подготовил Евгений ПОПОВ.