В Евросоюзе вступили в силу правила использования ИИ

В Евроcоюзе в воскресенье, 2 февраля, вступили в силу новые правила обращения с искусственным интеллектом (ИИ). Согласно Закону ЕС об ИИ (AI Act), с этого дня запрещены системы ИИ, представляющие «неприемлемые риски» для безопасности, здоровья или основных прав, за исключением случаев, связанных с «национальной безопасностью». 

Так, в числе прочего, в Европейском Союзе запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как «социальный рейтинг» (social scoring), применяется, например, в Китае, где граждан делят на категории по поведению и соответственно поощряют или наказывают. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях. 

Длинный список запретов 

По-прежнему запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей. В эту категорию попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению. 

В список запретов ЕС включены системы ИИ, использующие уязвимости людей или социальных групп. В эту категорию входят, к примеру, автоматизированные «роботизированные звонки» (Robo-Calls), которые могут использоваться для мошенничества в отношении пожилых людей. 

Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и другие правоохранительные органы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом. 

Оценка уровня риска систем ИИ

Со 2 февраля компании, разрабатывающие или использующие ИИ, должны будут оценивать уровень риска своих систем и принимать необходимые меры для их приведения в соответствие с законодательными требованиями. 

Согласно заявлению Еврокомиссии, цель нового регулирования — не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем «ИИ-компетенций». 

Критика со стороны бизнеса 

Отраслевой союз Bitkom раскритиковал закон об ИИ, заявив, что он не обеспечивает правовой определенности. «Неясно, к каким именно приложениям относится законодательный запрет», — пояснила член правления Bitkom Зузанне Демель (Susanne Dehmel). 

«Политики установили жесткие требования и сжатые сроки для компаний, но сами не сделали свою домашнюю работу. Теперь весь риск ложится на компании, работающие с ИИ. В то время как в США в развитие ИИ инвестируются сотни миллиардов долларов, а в Китае выпускаются чрезвычайно мощные языковые модели, мы в Германии и Европе ставим палки в колеса компаниям, работающим с ИИ», — отметила Демель.

«Европа рискует оказаться в стороне» 

Председатель Еврокомиссии (ЕК) Урсула фон дер Ляйен (Ursula von der Leyen) и президент Европейского центрального банка (ЕЦБ) Кристин Лагард признали в совместном блоге, что конкурентоспособность Европы находится под угрозой. «Пока в мире разворачивается революция в сфере искусственного интеллекта, ЕС рискует оказаться в стороне», — указали они. 

Однако, по их словам, Европа обладает всеми необходимыми условиями, чтобы наверстать упущенное, поскольку в ЕС на каждый миллион жителей приходится почти столько же выпускников технических специальностей (MINT — математика, информатика, естественные науки и техника), сколько и в США». 

«Этот талант рождает множество идей: доля Европы в глобальных заявках на патенты почти такая же, как у США», — подчеркнули фон дер Ляйен и Лагард.