Что ограничит первый закон об искусственном интеллекте и при чем здесь Украина – коротко

На этой неделе Европейский парламент одобрил законопроект о регулировании искусственного интеллекта. Ожидается, что в течение нескольких недель его утвердит совет министров.

В The Guardian сделали разбор, как это повлияет на пользователей и компании. Liga.Tech публикует перевод основных тезисов этого материала и объясняет, почему этот закон имеет значение для Украины и других стран вне Европейского Союза.

Как закон защитит обычных граждан

Законопроект описывает, какие системы будут запрещены. Вот основной перечень:

• пытаются манипулировать людьми, чтобы нанести вред или классифицировать людей на основе социального поведения либо личности;
• мониторинг эмоций людей на работе или в школе;
• системы "биометрической категоризации", которые сортируют людей на основании их биометрических данных (сканирование сетчатки глаза, распознавание лица, отпечатки пальцев), чтобы сделать вывод о расе, сексуальной ориентации, политических взглядах или религиозных убеждениях;
• составление баз данных распознавания лиц путем копирования изображений лиц из интернета или камер видеонаблюдения.

Что будет с генеративным ИИ

Генеративный искусственный интеллект – термин для систем, которые продуцируют правдоподобный текст, изображения, видео и аудио на основании простых подсказок. Таковым, например, является ChatGPT. В законе его регуляция подпадает под определение "системы ИИ общего назначения".

В их отношении будут использовать двухуровневый подход. На первом – все разработчики моделей должны соблюдать законодательство ЕС об авторских правах и подробно отчитываться о содержании, используемом для обучения модели. К моделям с открытым кодом, в отличие от "закрытых" моделей (например, GPT-4 ChatGPT), не будут применяться требования авторского права.

Более жестко будут регулировать модели ИИ, составляющие "системный риск на основе оценки их ИИ" как близкого к человеческому. Ожидается, что это охватит чаты и генераторы изображений. Меры будут приняты в отношении моделей, которые повлекут за собой серьезные инциденты – например, смерть или нарушение фундаментальных прав.

Запретят ли дипфейки

Люди, компании или государственные органы, публикующие дипфейки, должны будут указывать, что это искусственно созданный контент. Даже если это сделано с творческой или сатирической целью. Законотворцы просят делать это способом, который "не препятствует показу или наслаждению от работы".

Текст, который был создан чат-ботом и информирует общественность "о вопросах, представляющих общественный интерес", должен быть отмечен как созданный искусственным интеллектом. Но только в тех случаях, где он не прошел проверку человеком.

Каким будет наказание для компаний-разработчиков

Штрафы будут колебаться от 7,5 млн евро, или 1,5% от общего мирового оборота компании (в зависимости от того, что больше) за обман регуляторов, до 35 млн евро, или 7% оборота, за развертывание или разработку запрещенных инструментов ИИ.

Для небольших компаний и стартапов будут установлены более пропорциональные штрафы.

Когда закон вступит в силу

Ожидается, что законопроект будет одобрен советом министров и станет законом в течение нескольких недель. Однако закон вступит в силу поэтапно, после публикации в официальном вестнике ЕС. 

У поставщиков систем высокого риска будет до трех лет для выполнения требований. Запрет определенных категорий вступит в силу через шесть месяцев. Также будет создан новый Европейский офис искусственного интеллекта, который будет устанавливать стандарты и станет главным надзорным органом.

Почему это имеет значение для Украины

Законопроект будет иметь влияние за пределами ЕС, поскольку Брюссель является авторитетным техническим регулятором. В качестве примера приводится "Общий регламент о защите данных (GDPR)", который в некоторых случаях применяется за пределами Евросоюза. Закон об искусственном интеллекте может работать так же.

"Многие другие страны будут наблюдать за происходящим в ЕС после принятия акта об искусственном интеллекте. Если подход Евросоюза сработает – его, вероятно, скопируют", – комментирует The Guardian Гийом Кунесон, партнер юридической фирмы Linklaters.