LAT Вт, 22. Апреля Завтра: Armanda, Armands
Доступность

Американским военным роботам «прошьют» нормы морали, чтобы они не были убийцами типа Терминатора

70 лет назад писатель-фантаст Айзек Азимов сформулировал три закона робототехники, которые являются своего рода "моральным компасом", направляющим действия высокоразвитого искусственного интеллекта (ИИ). Однако до сих пор уровень развития современных технологий ИИ не позволяет робототехническим системам воспринимать полную информацию об окружающей их среде, и до появления первых роботов, способных осознавать и руководствоваться законами Азимова, похоже, пройдет еще очень много времени. Между тем, как сообщает Defense Оne, исследовательское подразделение ВМС США попробует ускорить этот процесс, выдав пятилетний грант на 7,5 млн долларов ученым из ряда университетов, которые будут заниматься решением данной проблемы. Об этом пишет Newsru.com. Например, исследователи из Университета Тафтса, возглавляемые профессором Мэттиасом Шюцем, занимаются проблемами робототехнической морали и этики уже достаточно давно, пишет DailyTechInfo. Они пытаются разложить принципы человеческой морали на набор более простых основных правил, соблюдение которых позволит роботам подражать поведению высокоморального человека. Разрабатываемая учеными система правил формализуется в структуру алгоритмов, которые могут быть включены в систему ИИ. Внедрение этих алгоритмов позволит автоматической системе оправдывать свои действия и обходить набор четких правил в тех случаях, если поведение системы может выйти за рамки общепринятых моральных норм. Примером может послужить следующая ситуация. Допустим, роботу-санитару поручено доставить раненого бойца к ближайшему медицинскому пункту для оказания ему там помощи. Но в момент транспортировки раненого на пути робота встречается еще один раненый человек, находящийся в критической ситуации. "Моральный компас" позволит роботу прервать выполнение текущего основного задания, оценить имеющуюся ситуацию и принять решение о немедленном оказании помощи найденному человеку или о продолжении выполнения первоначальной задачи по транспортировке первого человека. Двухступенчатый заслон от ротобов-убийц Одной из главных мыслей, которые можно почерпнуть из романов Айзека Азимова, является то, что никакой, пусть даже очень обширный набор четких правил, не сможет обеспечить правильную работу робототехнической системы в каждом из возможных сценариев развития событий. В любой цепочке событий рано или поздно произойдет неожиданное отклонение, которое введет робототехническую систему в ступор и послужит причиной совершения роботом "необдуманных" действий. Профессор Шюц и его коллеги полностью соглашаются с этим постулатом, и для преодоления ограничений ими была разработана двухступенчатая система принятия решений. С точки зрения исследователей, все решения, принятые системой робота, должны проходить предварительную "моральную оценку", реализацию которой уже можно видеть в системе искусственного интеллекта суперкомпьютера Watson компании IBM. Если принятое решение удовлетворяет моральным нормам, то оно принимается к исполнению. В обратном случае вырабатывается еще одно решение, источником которого является система, разработанная группой профессора Шюца, которая учитывает сложности человеческой этики. Так как работы исследователей в данном направлении проводятся по заказу и финансируются армией США, первые роботы, которые получат наборы моральных правил и ограничений, будут боевыми роботами, а также оказывающими солдатам всевозможную помощь. И это, в свою очередь, сможет послужить гарантией того, что сценарии наподобие сюжета фильма "Терминатор" станут попросту невозможными, отмечает DailyTechInfo. В Женеве проходит конференция ООН по теме использования роботов-убийц В Женеве открылась первая в истории экспертная конференция, посвященная теме использования боевых автономных роботизированных систем. Четырехдневный форум, проводящийся под эгидой ООН, проходит с 13 по 16 мая в рамках Конвенции о "негуманном" оружии с участием делегаций 117 стран - участниц конвенции. Делегаты конференции попытаются разобраться в том, насколько опасно может быть для человека массовое введение в эксплуатацию роботов-убийц, самостоятельно принимающих решения об уничтожении целей, передает ИТАР-ТАСС. "Роботы-убийцы представляют угрозу основным положениям международного гуманитарного права", - сообщил журналистам директор отдела вооружений правозащитной организации Human Rights Watch Стив Гуз. По его словам, "как при полицейской операции, так и на войне чрезвычайно важно, чтобы человек принимал решение, когда применять оружие", - заметил Гуз. По различным оценкам, Соединенные Штаты - лидер в этой области - уже сегодня используют в военных целях около 11 тысяч беспилотных летательных аппаратов и более 12 тысяч наземных роботов. По словам принимающего участие в дискуссиях британского ученого, профессора Шеффилдского университета Ноэля Шарки, разработки в этой сфере ведутся также в Китае, Израиле, Тайване, России, Южной Корее, Великобритании. "Полностью автономное оружие непредсказуемо, и в этом заключается проблема", - сообщил журналистам Шарки. Он подчеркнул, что речь не идет о том, чтобы запретить автономных роботов. "Мы не хотим лишь одного - чтобы у них была функция убийства", - подчеркнул эксперт, по словам которого уровень развития техники на настоящий момент не делает такое автономное оружие безопасным. По оценкам маркетинговой компании Global Industry Analysts, к 2018 году мировые расходы на производство военной робототехники увеличатся до 7,5 млрд долларов по сравнению с 5,6 млрд долларов в 2012 году.

Загрузка
Загрузка
Загрузка

Внебрачный сын Жириновского: идёт отчаянная борьба за наследство политика

Владимир Жириновский даже после смерти остается одной из самых обсуждаемых персон в российской политике. Сейчас разговоры касаются наследства лидера ЛДПР.

Владимир Жириновский даже после смерти остается одной из самых обсуждаемых персон в российской политике. Сейчас разговоры касаются наследства лидера ЛДПР.

Читать
Загрузка

В какой-то момент придётся вернуться к вопросу о призыве женщин в армию: генерал Пуданс

Возможно, в какой-то момент придется вернуться к вопросу об обязательном призыве женщин на обязательную военную службу, сказал в интервью агентству LETA командующий Национальными вооруженными силами (НВС) Каспарс Пуданс.

Возможно, в какой-то момент придется вернуться к вопросу об обязательном призыве женщин на обязательную военную службу, сказал в интервью агентству LETA командующий Национальными вооруженными силами (НВС) Каспарс Пуданс.

Читать

«Какого черта я снова буду платить, если нам говорят, что airBaltic процветает?» Крик души налогоплательщика

Проблемы AirBaltic ни для кого не секрет, и теперь, когда в СМИ снова появилась информация о том, что может потребоваться помощь государства или налогоплательщиков, граждане обеспокоены и, откровенно говоря, рассержены. Один смелый человек также выразил свои чувства, позвонив в программу «На линии» на канале TV24.

Проблемы AirBaltic ни для кого не секрет, и теперь, когда в СМИ снова появилась информация о том, что может потребоваться помощь государства или налогоплательщиков, граждане обеспокоены и, откровенно говоря, рассержены. Один смелый человек также выразил свои чувства, позвонив в программу «На линии» на канале TV24.

Читать

Летние лагеря, запись в детсады и школы: что нового?

Наступила горячая пора для родителей детей младшего возраста. Открыта запись в первые классы, уточняется информация о будущих воспитанниках детских садиков. Появляются и новые законодательные нормативы специально для учебных заведений. В новой подборке полезной информации - о правилах зачисления детишек в первый класс, знакомят с актуальными событиями в сфере образования...

Наступила горячая пора для родителей детей младшего возраста. Открыта запись в первые классы, уточняется информация о будущих воспитанниках детских садиков. Появляются и новые законодательные нормативы специально для учебных заведений. В новой подборке полезной информации - о правилах зачисления детишек в первый класс, знакомят с актуальными событиями в сфере образования...

Читать

У нас не правительство, а детский сад в песочнице: Pietiek о скандале с закупками сабель

"Недавний скандал с парадными саблями офицеров Национальных вооруженных сил уже обсудили, кажется, все. Поэтому вполне возможно, что моя статья не будет интересной, но я постараюсь не повторять то, что уже было сказано другими. Я не буду вдаваться в то, какие компании могли заработать на этом контракте, не буду вдаваться в нюансы манипулирования деньгами и так далее. Я предлагаю взглянуть на всю ситуацию со стороны, - пишет Валдис Лиепиньш на портале Pietiek.com.

"Недавний скандал с парадными саблями офицеров Национальных вооруженных сил уже обсудили, кажется, все. Поэтому вполне возможно, что моя статья не будет интересной, но я постараюсь не повторять то, что уже было сказано другими. Я не буду вдаваться в то, какие компании могли заработать на этом контракте, не буду вдаваться в нюансы манипулирования деньгами и так далее. Я предлагаю взглянуть на всю ситуацию со стороны, - пишет Валдис Лиепиньш на портале Pietiek.com.

Читать

Князь по прозвищу Леопард: в замке под Гулбене написан знаменитый роман

Недавно на экраны вышел сериал Netflix «Леопард», снятый по первому и единственному роману итальянского герцога Джузеппе Томазо ди Лампедузы. А написан роман… где бы вы думали? В поместье Стамериена, что неподалеку от латвийского города Гулбене. Что общего у хозяев поместья с сиятельными князьями знойной Сицилии, Львом Толстым и Фрейдом? Почему драма одной семьи уже 70 лет не оставляет равнодушными миллионы читателей и зрителей?

Недавно на экраны вышел сериал Netflix «Леопард», снятый по первому и единственному роману итальянского герцога Джузеппе Томазо ди Лампедузы. А написан роман… где бы вы думали? В поместье Стамериена, что неподалеку от латвийского города Гулбене. Что общего у хозяев поместья с сиятельными князьями знойной Сицилии, Львом Толстым и Фрейдом? Почему драма одной семьи уже 70 лет не оставляет равнодушными миллионы читателей и зрителей?

Читать

Ездили пьяными, нарушали ПДД, ещё и огрызались: как мы Пасху отметили

В понедельник в Латвии зарегистрировано 87 дорожно-транспортных происшествий, в которых пострадали семь человек, сообщили в Государственной полиции.

В понедельник в Латвии зарегистрировано 87 дорожно-транспортных происшествий, в которых пострадали семь человек, сообщили в Государственной полиции.

Читать