ЕС хочет ограничить использование искусственного интеллекта

Европейский союз обсуждает возможность запрета на использование искусственного интеллекта (ИИ) в нескольких сферах, таких как массовое наблюдение и социальные кредитные рейтинги, сообщило издание Politico со ссылкой на разработанный документ. 

Согласно проекту члены ЕС, например, должны будут создать оценочные комиссии для тестирования и проверки систем ИИ с высоким риском. А компании, которые разрабатывают или продают ИИ, подпадающие под ограничения, в том числе из других странах мира, могут быть оштрафованы до 4% их глобального дохода.

Согласно копии проекта, с которой ознакомился The Verge, проект предусматривает:

• запрет на ИИ для "неизбирательного наблюдения", включая системы, которые напрямую отслеживают людей в физических средах или собирают данные из других источников;
• запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения или личностных качеств;
• специальное разрешение на использование "удаленных систем биометрической идентификации", таких как распознавание лиц в общественных местах.
• уведомления о взаимодействии человека с ИИ, если это не "очевидно из обстоятельств и контекста использования".
• надзор за ИИ "высокого риска", которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например для найма на работу и судебных решений.
• оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет производиться на проверенных "высококачественных" наборах данных.
• создание "Европейского совета по искусственному интеллекту", состоящего из представителей всех стран ЕС.

Подписывайтесь на LIGA.Tech в Facebook: главные новости о технологиях

Некоторые пункты нуждаются в доработке, считают эксперты, опрошенные изданием. "Описания запрещаемых систем искусственного интеллекта расплывчаты и содержат непонятные формулировки, которые могут создать серьезные лазейки", – сказал The Verge Дэниел Леуфер, аналитик европейской политики Access Now. 

Кроме того, эксперты отмечают пробелы в таких пунктах, как социальное кредитование, которые, по их мнению, недостаточно регулируются в новом проекте – ИИ не должен решать, кто заслуживает доверия, а кто нет.

Другие аналитики отмечают, что власти наоборот лезут туда, куда им не стоило бы. Проект "представляет собой типичный брюссельский подход к новым технологиям и инновациям. Если есть сомнения, регулируйте", – отметил Омер Тене, вице-президент некоммерческой организации IAPP.

Пока неизвестно, какие изменения могут быть внесены в этот проект, поскольку власти ЕС готовятся к официальному релизу 21 апреля, после чего документ будут дорабатывать депутаты Европарламента и обсуждать в каждом государстве ЕС.

• В Европе уже не впервые говорят о регулировании технологической отрасли. Так, власти ЕС хотят заставить Google и Facebook платить издателям за новости, а в начале года европейские политики вызвали глав техгигантов для обсуждения законов, ограничивающих их монополию. Судя по слухам, разрабатываемые законы будут предусматривать штраф в 10% дохода для технологических гигантов, чтобы ограничить их монополию. 

Подписывайтесь на LIGA.Tech в Telegram: только важное