Зачем Китаю "дружить" с искусственным интеллектом. Наверное, так проще всех контролировать

Міністерство науки та технологій Китаю (MOST) опублікувало "Кодекс етики нового покоління штучного інтелекту". На західні ресурси ця новина потрапила дещо пізніше і викликала значний інтерес. 

Китай має амбітні плани лідерства у штучному інтелекті (ШІ), конкурує з США, та має науковців і технологічних гігантів, які формують практику дослідження та застосування ШІ в країні. Незважаючи на певну тенденцію до самоізоляції, Китай значно впливає на глобальні процеси у цій сфері.

Це, звісно, не перший китайський документ такої тематики. План розвитку ШІ був затверджений китайським урядом ще у 2017 році. 

У першій половині 2019-го той же Комітет по врядуванню ШІ при MOST випустив загальні принципи врядування ШІ. Тоді ж свої принципи ШІ випустила Пекінська академія штучного інтелекту. 

Є цілий ряд настанов, стратегій та білих книг штучного інтелекту авторства китайських державних установ, технологічних компаній та навіть місцевої влади окремих регіонів, де запроваджені пілотні зони ШІ.

Теперішній кодекс етики конкретизує загальні принципи у практичному застосуванні, управлінні та нагляді над системами ШІ, його можна вважати китайським аналогом європейських "Етичних вказівок для надійного ШІ", автором яких є незалежна експертна група при Єврокомісії.

У чому особливість процесу формування етики ШІ в Китаї?

На перший погляд, китайські етичні принципи штучного інтелекту дуже близькі до європейських – добробут та права людини, справедливість, конфіденційність, підконтрольність, прозорість та підзвітність. Але диявол – в деталях, тобто в культурному та політичному контексті.

Тоді як Європейські принципи засновані на правах людини, закріплених Хартією Європейського Союзу, китайська влада відкрито декларує, що ШІ їй потрібен для "модернізації соціального управління", тобто контролю над суспільством.

Так само "пріоритет суспільних інтересів, відчуття щастя, сталий економічний розвиток", відсилають прямо до національної безпеки та політичної стабільності, які задекларовані Комуністичною партією Китаю як передумови та, водночас, наслідки економічного розвитку.

У китайському контексті заявлені етичні принципи не суперечать використанню ШІ для спостереження за громадянами, для розпізнавання облич з метою етнічного профілювання (зокрема, уйгурів) та виявлення "потенційних терористів", відстежування комунікацій мовами меншин та залучення до цього приватних компаній. Всі ці заходи можна пояснити суспільними інтересами, забезпеченням щастя громадян та сталого економічного розвитку.

Також виносимо за дужки військові застосування ШІ – вже зараз очевидно, що принципи оцінки ризиків для таких систем будуть кардинально відмінними від цивільних та підзвітними лише китайському уряду.

Цікаво також, що всі ініціативи щодо етики ШІ просувають китайські урядові структури, академічні інституції та бізнес (під керівним началом КПК, звісно). У цьому – відмінність із аналогічними процесами у США та ЄС, де важливим двигуном, та, часто, ініціатором діалогу є громадянське суспільство. Відповідно, стейкхолдери процесів формують їх результати.

Чим активніше та ширше використовується штучний інтелект, тим все більш очевидним стає пріоритет державних інтересів Китаю над правами людини і, як наслідок, безпрецедентний об'єм та розмаїтість даних, які китайська влада збирає про своїх громадян. 

Використання цих даних урядом та бізнесом для навчання систем ШІ, умовність етичних обмежень щодо їх застосування – створюють конкурентну перевагу китайським технологіям. І ця перевага буде тиснути на європейську ліберальну людиноцентричну політику регулювання нових технологій.

Поверхнева схожість етичних принципів китайського ШІ з європейськими може також стати викликом для ЄС і США внаслідок дифузії успішних, але сумнівних, або відверто неетичних практик – як на рівні урядових політик та інструментів, так і в спільних науково-дослідницьких та бізнесових проектах.

Але ця схожість буде також підґрунтям для пошуку порозуміння, щонайменше задля взаємного доступу до ринків для китайського, європейського та американського бізнесу в безлічі галузей, які починають все більше опиратися на вузький штучний інтелект – пошукових системах та рейтингуванні, робототехніці, автопілотованих механізмах, побутовій техніці, розпізнаванні зображень, медицині.