Мир боится ИИ и хочет его регулировать. Что будет делать Украина

Специализированные эксперты прогнозируют, что через несколько лет искусственный интеллект (ИИ) может полностью заменить людей на некоторых должностях. Уже сейчас компании перекладывают часть задач на ИИ, а государственные регуляторы и обычные люди не всегда успевают за этими изменениями. В октябре Украина догнала Запад в вопросах регулирования искусственного интеллекта и представила свою дорожную карту.

Liga.Tech изучила, как пытаются контролировать искусственный интеллект в разных странах, что собирается делать Украина и как нейросети будут помогать нашим чиновникам быть более эффективными.

США: запретили ИИ работать с ядерным оружием

В США был представлен законопроект, который должен ограничить искусственный интеллект в ракетно-ядерных системах. Таким образом группа законодателей хочет помешать любым будущим политическим решениям Пентагона, которые могут привести к тому, что ИИ сможет самостоятельно осуществить ядерную атаку.

В целом федеральное законодательство США переложило работу по регулированию генеративных инструментов ИИ на местные органы власти. Таким образом защита граждан от влияния ИИ сейчас зависит от места их проживания.

Например, Калифорния, Колорадо, Коннектикут, Вирджиния и Нью-Йорк запрещают "профилирование" искусственного интеллекта без согласия потребителя. Это касается компаний, которые используют автоматизацию для принятия решений на основе оценки ваших данных – например, предоставление или отказ в заявках на кредиты, страховое покрытие и т.д.

Еще в январе школы Нью-Йорка отреагировали на стремительную популярность ChatGPT, запретив использовать его в школьных сетях и компьютерах. Таким образом они хотят ослабить вредное влияние технологии на обучение студентов, которые могут использовать его, например, для написания эссе.

Италия: первая страна Европы, запретившая ChatGPT

Италия стала первой страной Европы, ограничившей ChatGPT. Национальная служба защиты данных Garante приказала OpenAI временно прекратить обработку данных итальянских пользователей.

Регулятор назвал причиной утечку данных в OpenAI, позволявшую пользователям просматривать названия диалогов, которые другие пользователи вели с чатом. Garante выразила обеспокоенность по поводу отсутствия правовой основы для сбора и обработки персональных данных для обучения алгоритмов. Также их волнует отсутствие возрастных ограничений в ChatGPT и высокая вероятность фейковых ответов.

Европейский Союз: закон будет в 2025 году

В июне Европарламент одобрил законопроект, занимающийся регулированием искусственного интеллекта. Его окончательный вариант еще предстоит согласовать, а сам закон вступит в силу не раньше 2025 года.

Члены Европейского парламента согласились наложить большие ограничения на инструменты генеративного ИИ, такие как ChatGPT. Разработчики должны будут посылать свои технологии на проверку перед тем, как публиковать их в коммерческих целях.

Кроме того, парламент решил соблюдать запрет на биометрическую идентификацию в режиме реального времени, а также системы, способные влиять на подсознание людей.

Великобритания: не хотят придушить инновации

29 марта 2023 года Британское правительство опубликовало "белую книгу" о новом гибком подходе к урегулированию искусственного интеллекта, который должен укрепить доверие людей к этой технологии и облегчить развитие предприятиям.

Чиновники отметили, что будут избегать жесткого законодательства, которое может подавить инновации, и вместо этого будет применять адаптивный подход к регулированию ИИ.

Таким образом, Британия планирует предоставить полномочия уже существующим регуляторам для подготовки индивидуальных, в зависимости от контекста подходов, которые соответствуют тому, как ИИ используется в каждом конкретном секторе.

Ожидается, что в течение следующих 12 месяцев регуляторы выпустят практические указания, где подробно описано, как применять принципы в своих секторах.

Премьер-министр Великобритании Риши Сунак также призвал союзников из других стран заключить соглашение, которое сможет регулировать вопросы ИИ на глобальном уровне. Правительство также готовится к проведению глобального саммита по безопасности ИИ позже в этом году.

Китай: ИИ лояльный к коммунизму

ChatGPT недоступен в таких странах как Китай, Северная Корея, Иран, Россия, Сирия и другие государства с жесткой интернет-цензурой и ограничением прав человека. Он официально не заблокирован, но OpenAI не разрешает пользователям в стране зарегистрироваться.

Однако несколько крупных технологических компаний в Китае разрабатывают собственные альтернативы. Baidu, Alibaba и JD.com объявили, что скоро представят конкурентов ChatGPT.

Пекин уже ввел регулирование так называемых дипфейков – видео, фото и текстов, созданных с помощью ИИ.

Китайские регуляторы также следят за тем, как работают компании с алгоритмами рекомендаций. Теоретически, по мнению экспертов издания CNBC, это может применяться к технологиям в стиле ChatGPT, когда искусственный интеллект будет выдавать только ответы, лояльные политике партии.

Украина: внедрение ИИ в госуправлении

"В Украине недавно активизировал свою работу экспертно-консультационный комитет по развитию искусственного интеллекта при Минцифре. Это более 50 специалистов – ученые, юристы, предприниматели, у которых есть экспертиза в сфере ИИ", – рассказал в июле в комментарии Liga.Tech заместитель министра цифровой трансформации Украины Александр Борняков.

Главой комитета стал руководитель магистерской программы по компьютерным наукам по направлению Data Science УКУ Алексей Молчановский, принимавший участие в разработке Концепции развития искусственного интеллекта в Украине, утвержденной Кабмином в декабре 2020 года. Кроме этого, Алексей возглавлял рабочую группу, разработавшую мини-курс по искусственному интеллекту для школьного предмета "Информатика".

Сопредседателем комитета стал Тимофей Милованов, президент KSE, где функционирует AI-лаборатория – центр исследований, работающий над созданием передовых решений в области ИИ.

"Среди ближайших фокусов работы комитета – развитие образования в сфере искусственного интеллекта", – рассказывает Алексей Борняков. Например, планируется перевод классического учебника по искусственному интеллекту от Стюарта Рассела и Питера Норвига на украинский язык, усовершенствование информатики в школах.

Эксперты также будут помогать в разработке политик, касающихся ИИ. "Будем привлекать их к вопросам разработки базы для законодательной регуляции этой сферы. Также среди акцентов внедрение использования ИИ в сфере государственного управления. И, конечно, ИИ и defense tech, потому что сейчас это важный фокус для государства в целом и Минцифры в частности", – рассказывал тогда Борняков.

Минцифра продолжает совместную с Госстатом работу над Government BI — инструментом для принятия взвешенных управленческих решений государственными органами власти. Об этом проекте ранее упоминал глава Минцифры Михаил Федоров, который рассказывал, что искусственный интеллект будет анализировать все обращения граждан, а также то, что они пишут в социальных сетях по поводу работы украинских ведомств.

"Искусственный интеллект будет элементом этой системы и будет помогать госслужащим принимать решения на основе четких данных и обозначенных стратегических целей органа власти. А не ситуативно и ограниченно, как это бывает, к сожалению", – говорил Алексей Борняков.

Что касается правового регулирования этой сферы, то сейчас продолжаются консультации с экспертами Комитета по вопросам искусственного интеллекта при Минцифре. Они изучают мировой опыт и практику регулирования сферы ИИ.

"Существует два подхода к этому: общий закон об ИИ (Закон ЕС об ИИ), а также вариант soft law ("мягкое право", необязательные международные нормы. – Liga.Tech), предусматривающий внесение изменений в отраслевые законы в сферах использования или внедрения ИИ. В результате разработают правовой акт, который будет вынесен на публичное обсуждение ", – объяснял Александр Борняков.

Дорожная карта

Министерство цифровой трансформации 7 октября представило дорожную карту регулирования искусственного интеллекта в Украине, которую разработали вместе с профильным комитетом экспертов. Как отметил глава Минцифры Михаил Федоров , "искусственный интеллект – неотвратимый тренд, поэтому Украине нужны четкие правила, чтобы развивать бизнес и защитить права человека во взаимодействии с ИИ".

Минцифра приводит основные факты о дорожной карте регулирования ИИ в Украине:

1. Bottom Up. Украина выбрала подход "снизу вверх" в регулировании ИИ, который интересен тем, что изначально сосредотачивается на практических инструментах для бизнеса – от добровольных кодексов поведения до так называемой "Белой книги". В отличие от некоторых стран, начинающих "сверху", вводя строгое регулирование сразу, Украина делает ставку на гибкость и адаптационность. Это все – для того, чтобы не убить инновационных дух и стимулировать развитие стартапов, но и сделать наши компании конкурентными на рынке Европы и нравственными для граждан.

2. Регуляторная песочница. Подобно ряду передовых стран в сфере технологий, таких как Сингапур, Испания и Великобритания, Украина планирует ввести так называемый sandbox. По сути речь идет об экспериментальной среде, которая позволит стартапам тестировать новаторские ИИ-продукты в безопасных условиях перед тем, как они выйдут на рынок.

3. Европейский стандарт. Евроинтеграция предполагает, что украинское законодательство должно соответствовать законодательству ЕС. После принятия АИ Act в Европе (пока точные сроки неизвестны) планируется адаптировать под него регулирование ИИ и в нашем государстве. Это поможет сделать украинские технологические компании более привлекательными для инвестиций и сотрудничества с международными партнерами. Из интересного: в самом AI Act применяется так называемый risk-based approach – то есть технологии распределяют по уровню рисков. К неприемлемым и запрещенным относится, в частности, использование ИИ для социального ранжирования или системы биометрической идентификации, работающих в реальном времени. Конечно, важный акцент делается на отсутствии дискриминации по гендеру, расе или другим признакам. Штрафы за некоторые нарушения составляют до 30 млн евро.

4. Без "диктатуры". В отличие от некоторых стран, где регулирование воспринимается как необходимое зло, украинский подход стимулирует культуру саморегулирования. Это значит, что бизнес будет активно вовлечен в процесс принятия решений и разработки нравственных стандартов.

5. Запрос на "указатель". На прошлой неделе на IT Arena вице-президент исследования ИИ в Gartner Светлана Сикулар заявила, что искусственный интеллект – это первая отрасль в истории, где сама индустрия просит лидеров создать правила. Технология так быстро развивается, что бизнес нуждается в четком "плане действий", чтобы идти в ногу со временем. Поэтому дорожная карта – это шаг на этом пути.

Согласно информации от Ukrainian Tech Ecosystem Overview, в Украине зарегистрированы 63 продуктовых компании в сфере искусственного интеллекта. "Но это далеко не исчерпывающий перечень, ведь многие приложения используют технологии на пересечении с ИИ. Так что бум в этом направлении будет только расти. И Украина имеет все шансы поспорить за передовые позиции в Европе в этой сфере", – утверждают в Минцифре.