Суббота Вести еженедельник 7 Супер Секретов Mājas virtuve
LAT Пн, 15. Сентября Завтра: Gunvaldis, Gunvaris, Sandra, Sondra
Доступность

Бюро омбудсмена: искусственный интеллект может вредить людям

Высокопоставленные чиновники заверяют, что у Латвии есть ресурсы для создания цифровых решений не только для себя, но и для глобального рынка.

Это здорово, но, создавая такие инновации, мы должны помнить, что искусственный интеллект может нарушать основные права, в том числе дискриминировать людей, если не будет соблюден ряд условий. Например, используемые данные должны быть высокого качества и заслуживать доверия, люди должны четко осознавать, что они находятся в контакте с системой ИИ, где бы она ни использовалась, и она должна быть такой, чтобы человек мог в любой момент взять ее под контроль, – полагает Бюро омбудсмена, заказавшее проведение исследования Ирене Баркане, научному сотруднику Латвийского университета.

В исследовании «Системы ИИ и аспекты дискриминации» анализируется, как системы ИИ уже нарушают основные права человека в таких областях, как трудоустройство, образование, биометрическая идентификация и доступ к базовым услугам. Это четыре из восьми областей повышенного риска, определенных новым Постановлением ЕС об искусственном интеллекте.

Международная практика показывает, что ИИ может дискриминировать людей

Вот несколько показательных примеров из международной практики:

В Нидерландах система выявления системных рисков для борьбы с мошенничеством ошибочно обвинила около 26 000 родителей в мошенничестве при оформлении пособий по уходу за ребенком. Некоторым родителям приостановили выплату пособий, а других попросили вернуть деньги. Во многих случаях сумма составляла десятки тысяч евро, что создавало для семей значительные финансовые трудности. В данном случае система искусственного интеллекта допустила ошибку при оценке аспекта двойного гражданства. Суд установил, что имело место нарушение, и в 2021 году скандал с выплатой пособий заставил правительство Нидерландов уйти в отставку.

В США алгоритм подбора персонала онлайн-ритейлера Amazon считал мужчин лучшими кандидатами и отклонял резюме, в которых фигурировало слово «женщина». В результате Amazon отказался от своего инструмента подбора персонала с помощью ИИ.

Исследование Стэнфордского университета, проведенное в прошлом году, показало, что детекторы Chat GPT классифицируют текст, написанный не носителями английского языка, как созданный искусственным интеллектом. На самом деле это не так – у этих людей ограниченный словарный запас и грамматика по объективным причинам. Из-за ошибок ИИ они могут столкнуться с необоснованными обвинениями в мошенничестве или плагиате в академической и профессиональной среде.

Что должно измениться, чтобы ИИ стал другом, а не угрозой?

Во-первых, необходимо обратить внимание на качество данных и управление ими. Если система ИИ не была «обучена» на высококачественных данных, точна и протестирована перед «выходом на рынок», велика вероятность того, что она будет дискриминировать людей.

Во-вторых, системы ИИ должны быть разработаны таким образом, чтобы людям было абсолютно ясно, что они взаимодействуют с системой ИИ, а не, например, с сотрудником какого-либо учреждения. Люди также должны быть проинформированы о своих правах.

В-третьих, эти системы должны быть способны работать таким образом, чтобы их мог должным образом контролировать и направлять человек.

В-четвертых, речь также идет о подотчетности и мониторинге. Это означает, что системы ИИ с высоким уровнем риска должны иметь тщательно разработанные процедуры оценки качества данных, документации, человеческого надзора, точности, кибербезопасности и т. д. Например, в области биометрии такая проверка должна осуществляться третьей стороной.

«Несомненно, системы ИИ могут быть другом и помощником. Однако исследование показывает, какими могут быть последствия, если система ошибается. Если ошибка человека причиняет вред другому (конкретному) человеку, то ошибка, допущенная системой ИИ, автоматически приписывается той группе общества, которая соответствует критериям, установленным системой ИИ. Таким образом, последствия оказываются гораздо шире.

Я надеюсь, что призыв политиков к тому, чтобы Латвия могла создавать системы искусственного интеллекта мирового класса, сбудется и в том смысле, что соблюдение основных прав станет в них приоритетом», - сказала Анете Ильвес, руководитель Отдела по борьбе с дискриминацией Бюро омбудсмена.

Для справки

Летом этого года в Европейском союзе вступило в силу постановление Европейского парламента и Совета (Регула 2), устанавливающее новые стандарты в области ИИ. Через два года, то есть со 2 августа 2026 года, оно начнет действовать непосредственно во всех странах-членах ЕС, включая Латвию (за исключением некоторых положений, которые будут применяться раньше).

Комментарии (0) 4 реакций
Комментарии (0) 4 реакций
Загрузка
Загрузка
Загрузка
Загрузка

Банда «майских террористов» Риги предстанет перед судом: ох, чего же они натворили…

Государственная полиция направила в суд уголовное дело против трех молодых людей, которые 31 мая в Риге совершили несколько грабежей и краж, подожгли мусорные контейнеры и повредили автомобиль. Одному из задержанных применена мера пресечения – арест.

Государственная полиция направила в суд уголовное дело против трех молодых людей, которые 31 мая в Риге совершили несколько грабежей и краж, подожгли мусорные контейнеры и повредили автомобиль. Одному из задержанных применена мера пресечения – арест.

Читать
Загрузка

Загадочная смерть 30-летнего мужчины: соседи подозревают нехорошее

В Валмиере мужчина погиб после падения из окна пятого этажа. Жители дома переживают случившееся, потому что от соседа такого не могли ожидать – погибший был домовитым, работящим, открытым и дружелюбным человеком. Окружающим трудно поверить, что это было самоубийство, сообщает «Degpunktā».

В Валмиере мужчина погиб после падения из окна пятого этажа. Жители дома переживают случившееся, потому что от соседа такого не могли ожидать – погибший был домовитым, работящим, открытым и дружелюбным человеком. Окружающим трудно поверить, что это было самоубийство, сообщает «Degpunktā».

Читать

«Хотите опустошить наши деревни?» Люди на границе Латвии с Россией отчаянно бьются за школы

Приграничные самоуправления по-прежнему призывают к пересмотру критериев числа учеников, в соответствии с которыми школы получают государственное финансирование на зарплату педагогов, однако Министерство образования и науки (МОН), ссылаясь на ограниченный бюджет, изменений пока не планирует, прозвучало в понедельник на заседании комитета по образованию и культуре Латвийского союза самоуправлений (ЛСС).

Приграничные самоуправления по-прежнему призывают к пересмотру критериев числа учеников, в соответствии с которыми школы получают государственное финансирование на зарплату педагогов, однако Министерство образования и науки (МОН), ссылаясь на ограниченный бюджет, изменений пока не планирует, прозвучало в понедельник на заседании комитета по образованию и культуре Латвийского союза самоуправлений (ЛСС).

Читать

Центральный рынок: все подорожало после ливней и наводнений?

Первые недели сентября побаловали нас по-летнему теплыми днями, но осень, похоже, все же вступила в свои права. Вместе с погодой поменялся и выбор товаров на Рижском Центральном рынке: обилие фруктов и ягод уступило место на прилавках первому урожаю. Но так ли сильно повлияли на цены проливные дожди, затопившие поля, и почему ларьки со свежими овощами мокнут под дождем, а не в обновленном Овощном павильоне? Давайте посмотрим вместе.

Первые недели сентября побаловали нас по-летнему теплыми днями, но осень, похоже, все же вступила в свои права. Вместе с погодой поменялся и выбор товаров на Рижском Центральном рынке: обилие фруктов и ягод уступило место на прилавках первому урожаю. Но так ли сильно повлияли на цены проливные дожди, затопившие поля, и почему ларьки со свежими овощами мокнут под дождем, а не в обновленном Овощном павильоне? Давайте посмотрим вместе.

Читать

«Оскорбление здравого смысла»: три лжи о войне Израиля в Газе от Wall Street Journal

Глупые представления об Израиле повторяются днем и ночью. Их тиражируют высокопоставленные международные организации. Их подтверждают такие уважаемые их члены как «Действие против голода», которую я помогал основать. Но это не делвет их утверждения верными. Три конкретных примера:

Глупые представления об Израиле повторяются днем и ночью. Их тиражируют высокопоставленные международные организации. Их подтверждают такие уважаемые их члены как «Действие против голода», которую я помогал основать. Но это не делвет их утверждения верными. Три конкретных примера:

Читать

Живодёр бросил в речке сумку полную камней с живым котом (ВИДЕО)

В воскресенье, 14 сентября, около 11 часов утра сотрудник Рижского регионального управления полиции во время прогулки с собаками услышал мяуканье из Даугавы. Недалеко от берега он заметил сумку, из которой доносился звук, и бросился в воду.

В воскресенье, 14 сентября, около 11 часов утра сотрудник Рижского регионального управления полиции во время прогулки с собаками услышал мяуканье из Даугавы. Недалеко от берега он заметил сумку, из которой доносился звук, и бросился в воду.

Читать

Минималка в Литве вырастет до 1153 евро в месяц. Латвия снова позади

В 2026 году минимальная зарплата в Литве должна составить 1153 евро брутто. Это на 115 евро больше, чем сейчас, и около 836 евро «на руки», сообщает lrt.lt. 

В 2026 году минимальная зарплата в Литве должна составить 1153 евро брутто. Это на 115 евро больше, чем сейчас, и около 836 евро «на руки», сообщает lrt.lt. 

Читать