Суббота Вести еженедельник 7 Супер Секретов Mājas virtuve
LAT Воскресенье, 16. Июня Завтра: Justine, Juta

Робот-шизофреник? Может ли искусственный интеллект сойти с ума?

Пока Илон Маск и Билл Гейтс пугают нашествием роботов, которые отнимут у людей работу, а затем и вовсе выйдут из-под контроля, машинный разум все глубже проникает в нашу жизнь, но порой разработчики и сами не знают, чего от него ждать.

Проблема в том, что ученые создают нейронные сети, которые способны самообучаться и совершенствоваться без участия человека. Но кто сказал, что они будут совершенствоваться в нужном нам направлении? А точнее — в том направлении, которое является для нас моральным?

Вспомним, каких дров уже успел наломать искусственный интеллект, и разберемся, а не может ли он вообще сойти с ума...

Стал расистом за сутки

"Привееееет, мир!", «Люди — классные". Твиттер–бот Тау, запущенный компанией Microsoft, поначалу выглядел жизнерадостным филантропом. Эти две фразы — первое, что он написал в Сети. По задумке разработчиков, чат–бот должен был имитировать поведение обычных американских тинейджеров. В его лексикон заложили всякие сленговые словечки и сокращения.

Тау был способен обучаться и запоминать то, что пишут пользователи. Но, как известно, то, что пишут в соцсетях, зачастую несильно отличается от того, что малюют на заборах. Уже через несколько часов проект Тау был приостановлен, и Microsoft подвергла цензуре сообщения, оставленные ботом. Среди них оказались такие, как «Гитлер был прав", «Я ненавижу евреев» и «Я ненавижу этих чертовых феминисток, они все должны гореть в аду!". Еще в одном твите искусственный интеллект обвинил власти США в терактах 11 сентября. В тот же день с Тау было покончено.

- Несмотря на то что система была готова блокировать многие виды оскорблений, мы не предусмотрели одну из возможностей. Мы берем на себя ответственность за то, что не смогли спрогнозировать подобный исход, — заявил вице–президент Microsoft Research Питер Ли...

С расизмом и дискриминацией связана еще пара файлов из области «умных» технологий. Компания Amazon, известная любовью к передовым научным идеям, на протяжении трех лет тестировала проект по найму сотрудников на основе ИИ. Нейросеть обучалась навыку, анализируя предшествующий опыт отбора соискателей в Amazon. Приступив к работе, алгоритм стал занижать оценки кандидатов–женщин. Причина банальна: в штате компании преобладали мужчины, и компьютерный разум решил, что им и надо отдавать предпочтение.

А применение «умных» алгоритмов в рекламных инструментах Facebook привело к тому, что они автоматически сформировали адресное предложение для целевой аудитории, которая в приличном обществе считается нерукопожатной. Ведь объединяет этих людей не что иное, как антисемитизм. Удивительно, но искусственный интеллект нашел, что предложить ненавистникам евреев. И это явно не то, чего хотел бы создатель Facebook Марк Цукерберг...

А кто на фото?

Разумеется, сами разработчики ИИ говорят лишь об ошибках и временных сбоях в его работе. Как, например, произошло с российским Сбербанком, который внедряет машинные алгоритмы в своей системе, но те пока приносят убытки.

- Маленькая ошибка, закравшаяся в алгоритм, может приводить к большим последствиям. В нашей практике из–за того, что машина совершала ошибку, мы теряли миллиарды рублей, — признался руководитель российского Сбербанка Герман Греф.

Можно припомнить и нелепый случай в Китае, где система распознавания лиц записала в нарушители девушку, чье фото было размещено на автобусе в виде рекламного постера. ИИ решил, что она переходила улицу в неположенном месте (причем неоднократно), и завалил ее уведомлениями о штрафах...

Но это всего лишь забавное недоразумение, а вот ошибки «умных» алгоритмов в медицине имеют уже другую цену. В первую очередь это касается онкологических заболеваний. Компания IBM заявляла о небывалых способностях своего суперкомпьютера Watson. Но, как удалось узнать журналистам, при анализе опухолей Watson зачастую давал ошибочные, а иногда и опасные для жизни пациентов рекомендации!

Испытания некоторых видов искусственного интеллекта уже привели к человеческим жертвам. Речь о беспилотных автомобилях. Два дорожных инцидента со смертельным исходом были зафиксированы при тестировании автономной «Теслы". Еще один случай произошел при испытаниях беспилотника Uber в Аризоне — машина сбила насмерть женщину–пешехода.

Мало кто сомневается, что автомобили без водителей — это неизбежное будущее. Но, прежде чем оно наступит, инженерам предстоит решить многие важные вопросы, в том числе морально–этического характера. Кого сбивать, если нарушителей на дороге окажется несколько и нужно будет выбрать кого–то одного? Может ли машина съехать в кювет, чтобы не задавить пешехода, но тем самым подвергнуть риску пассажира? Наконец, не случится ли так, что робот–автомобиль, решив избежать столкновения с другим беспилотником (из соображений солидарности), пожертвует жизнью человека, того же пешехода?

Программисты могут сколько угодно уверять, что они все предусмотрели и код имеет несколько степеней защиты. Но понятия морали и нравственности, даже если заложить их в программу, в системе ценностей машинного разума могут оказаться более второстепенными, чем только ему понятный здравый смысл...

Цифровой психопат

Ученые из Техасского университета проводили опыты над нейронной сетью Discern. По их задумке, программа должна была изучать языки. Загрузив в нее множество данных, исследователи решили имитировать душевную болезнь, наделив искусственный интеллект шизофренией, то есть намеренно заставили его сойти с ума.

Не в силах совладать с анализом большого объема данных, Discern принялся говорить о себе в третьем лице и путать времена. Он смешивал в словесный винегрет обрывки фраз и слов, выдавал какие–то абсурдные сценарии. А потом вдруг заявил, что в здании заложена бомба и он приготовил ученым террористический акт. Уже не так смешно?

А в 2018 году группа исследователей из Массачусетского технологического института с нуля создала первого в мире ИИ–психопата. Назвали его Норманом — в честь героя хичкоковского триллера "Психо". А обучали на описаниях жутких сцен убийств, взятых из Интернета. После этого машинный разум уже не мог воспринимать мир привычным нам образом.

Он видел вокруг — в различных (вполне мирных) силуэтах и кляксах — исключительно сцены насилия. Например, как кого–то расстреливают из пулемета или выбрасывают из автомобиля. Ученые из Массачусетса пришли к выводу: при необходимости алгоритм можно запрограммировать на что угодно. Это как с воспитанием ребенка.

По мнению португальского эксперта но нейронауке Закари Мейнена, в будущем ИИ научится испытывать депрессию, галлюцинации и прочие эмоции, в том числе негативные — их будут вызывать цифровые аналоги нейромедиаторов. Подобными исследованиями сейчас занимается вычислительная психиатрия — новая наука в области искусственного интеллекта.

Ну а сценариев, как поведет себя сошедший с ума компьютер, – сколь угодно много. Он может направить авиалайнер на жилые кварталы. Может устроить взрыв на АЭС. А может создать дипфейк, который приведет к третьей мировой войне. Вы не знаете, что такое дипфейк? Так называют фальшивое видео откровенного содержания, где лица порноактеров заменены на лица знаменитостей. Исследования показали, что нейросети способны создавать такие подделки, выглядящие очень убедительно. И если в подобном фильме «сыграет» крупный политик, лидер ядерной державы, закончиться все может очень печально...

 

Дмитрий ПИСАРЕНКО.

Загрузка
Загрузка
Загрузка
Загрузка

Наслаждайтесь летом на берегу Балтийского моря на Вентспилсском пляже!

В этом году на Вентспилсском пляже уже 26-й год подряд был поднят Голубой флаг, который является международной оценкой чистой окружающей среды, хорошего качества воды, безопасности на берегу и на воде, а также высокого уровня благоустройства и соответствия строгим требованиям, установленным международной организацией по охране окружающей среды - Фондом экологического образования. На Вентспилсском пляже имеется освещение, проложены пешеходные мостки, установлены скамейки для загара, качалки с навесами, кабинки для переодевания, информационные стенды и спасательное оборудование. С началом купального сезона на Вентспилсском городском пляже ежедневно с 10.00 до 22.00 работ

Вентспилсский городской пляж с белым мелким песком достигает в ширину почти 80 м, а дюны образуют естественные "солнечные ванны", которые прекрасно защищают от ветра и позволяют открыть пляжный сезон раньше, чем где-либо еще.

Читать
Загрузка

Активный отдых в Вентспилсе: родельная трасса, Парк приключений и аквапарки

Родельная трасса �ая родельная трасса находится в Вентспилсе, и в июне она отметила свою первую годовщину. За это время по 800-метровой трассе со спуском длиной 580 м прокатилось уже около 100 000 восторженных посетителей. Родельная трасса имеет 360-градусный вираж и позволяет развивать максимальную скорость до 40 км/ч. Сани двухместные, оснащены электронной системой торможения. Вентспилсская родельная трасса доступна для посетителей круглый год – при необходимости во время непогоды сани оснащаются чехлами. Парк приключений Вентспилсский Парк приключений предлагает обширную зону развле

Крупнейшая в Балтии всесезон

Читать

Вентспилс приглашает на праздники и фестивали!

Дата Мероприятие 6 июля Праздник моря Фестиваль песен памяти Гунтиса Скрастиньша 12-13 июля Международный слет байкеров Kurland Bike Meet 2024 19-21 июля Международный фестиваль уличной культуры и спорта Ghetto Games 27 июля Концерт в честь 5-летнего юбилея концертного зала Latvija 2-4 августа Праздник города Вентспилса

В этом году в Вентспилсе, как обычно, пройдут уже ставшие традиционными различные мероприятия, поэтому сейчас самое время планировать отдых в городе на берегу Балтийского моря!

Читать

Салют на латышско-киргизской свадьбе взбудоражил пользователей платформы «Х» (ВИДЕО)

В публичном пространстве появилась информация о том, что салют проводился в рамках Baltic Pride, чтобы завершить мероприятие "с изюминкой". На платформе "Х" люди возмущались, что это было очень нетолерантно и выразло неуважение по отношению к Украине, а также изливали свой гнев на партию "Прогрессивные", так как именно она поддерживала Baltic Pride, а значит, и салют тоже. С другой стороны прозвучал контраргумент, что салют устроили все-таки русские, праздновавшие свадьбу около Музея оккупации. Третьи начали сплетать эти истории вместе: мол, "российские граждане организовали салют в честь прайда". Редакция Jauns.lv  выяснила у устроителей мероприятия.  общества Mozaīka, что они салют не запускали, и такое решение было принято по ряду причин. Вот что пишет в "Х", например, Nils: "Русские оккупанты в Риг

В субботу, 15 июня, вечером недалеко от Музея оккупации Латвии кто-то запускал салют, а в воскресенье по этому поводу в соцсетях начались дискуссии о том, кто это мог быть, пишет Jauns.lv.

Читать

На 101-м году жизни скончался актер театра и кино Янис Кубилис

Янис Кубилис родился в 1923 году в Нерете. Актер учился своему ремеслу у своих главных учителей Веры Балюне и Алфреда Амтманя-Бриедиса, а как художник сформировался под сильным влиянием Жаниса Катлапса, сообщает агентство LETA. С 1947 года Кубилис работал в Драматическом (Национальном) театре, где играл романтических, драматических, а также трагических сценических персонажей. В частности, он сыграл Петериса Крауклиса в спектакле "Рига" Аугуста Деглава, Пабло Касона в спектакле "Третье слово", Федерико Гарсиа Лорку в спектакле "Преступление в Гранаде" по пьесе Жаниса Гривы, Александра Гамилькара Жамиака в спектакле "Мистер Гамилькар", Йохана Лелде в пьесе Стумбре "Рыжий слуга". Янис Кубилис был удостоен Государственной премии ЛССР в 1965 году. Ее присудили ему за изображение двух гениальных личностей — персонажа пушкин

В возрасте ста лет скончался латвийский актер Янис Кубилис, о чем оповестила пресс-служба Латвийского национального театра. 24 июля Кубилису должен был исполниться 101 год,  сообщает Rus.Delfi.lv.

Читать

Ринкевич: российские войска должны быть полностью выведены с территории Украины

На саммите Ринкевич осудил российскую агрессию против Украины, подчеркнув ее глобальное влияние в сфере продовольственной безопасности, ядерной безопасности, по гуманитарным и другим вопросам. Кроме того, он отметил, что международное сообщество должно работать над всеобъемлющей дорожной картой для достижения мира. В ходе дискуссии о возвращении пленных и вывезенных в Россию из Украины детей Ринкевич осудил целенаправленно осуществляемые Россией депортации и подчеркнул значимость вовлечения международной общественности, чтобы способствовать их возвращению и психологической реабилитации, что особенно касается детей. Он также заметил, что нужно использовать международные организации и двусторонние контакты. Помимо этого, Ринкевич призвал другие страны последовать примеру Латвии, открывшей три центра поддержки в Украине,

Россия должна полностью вывести войска из Украины и восстановить территориальную целостность Украины в международно признанных границах. Об этом на Саммите мира по Украине, проходящем в субботу и воскресенье в Швейцарии, заявил президент Латвии Эдгар Ринкевич.

Читать

Погода на следующей неделе: то солнце, то дожди; возможен сильный ветер

В течение недели ожидаются как дождливые, так и ясные дни. Начиная с воскресенья в Латвию с юга постепенно придут более теплые воздушные массы, температура воздуха значительно повысится - местами до +25-26 градусов. В понедельник на востоке страны ожидаются сильные ливни с грозами. Много осадков будет и в среду - дожди пройдут по всей Латвии. По-прежнему будет дуть слабый ветер, во время грозы - порывистый. По ночам температура будет держаться в пределах от +11 до +17 градусов. Днем температура воздуха достигнет +21-26 градусов, на побережье будет прохладнее. Прогноз для предпраздничных и праздничных дней может еще поменяться, но последняя информация свидетельствует о том,  что местами пройдут дожди и ветер усилится, кое-где порывы достигнут 19 м/с. Температура воздуха - ночью примерно та же, что и в рабочие д

В предпраздничную неделю в Латвии солнце будет светить чаще, воздух прогреется до +26 градусов, но осадки будут все же наблюдаться на более обширной части страны, о чем свидетельствует прогноз Латвийского центра окружающей среды, геологии и метеорологии.

Читать