Самая большая угроза искусственного интеллекта для человечества – в соцсетях

Послушал свежее выступление Юваля Ноя Харари об искусственном интеллекте.

Новости так себе.

Если коротко, люди считают, что AI не способен на чувство, поэтому не может быть человечным. Но AI практически уже хакнул текст. Величайшую операционную систему человечества. И текстов достаточно, чтобы управлять эмоциями нас, людей. Потому эмоционального барьера уже не существует.

Каждый человек взаимодействует с объективной физической реальностью через собственную субъективную культурную призму. То, как мы видим мир и действуем, полностью зависит от историй, которые мы слышали от родителей, читаемых книг, анекдотов, а также законов, рекламных или политических сообщений, которые мы интерпретируем и накапливаем. Фактически ты = контент, который ты употребил.

AI уже может захватить мир, проанализировав всю мировую культуру и создавая неограниченное количество нового контента – мудрости, историй и т.д. Фактически уже сейчас он может производить новые религии. А что самое важное – вступать в живое текстовое общение с человеком, не показывая, что он не человек.

И таким образом хакать операционную систему уже отдельного человека – понимать, как он думает, и корректировать свои месседжи. Таких личных общений может быть одновременно неограниченное количество и фактически это сможет заменить демократию. Потому что демократия есть общение и диалог, вместо диктата от диктатора.

То есть захват мира может произойти не через роботов а-ля терминатор, а через чатики и соцсети. И постепенную замену контента на созданную AI.

Автор рекомендует максимально тормозить развитие AI, чтобы успеть хоть что-нибудь понять о нем. И обязательно полностью маркировать весь контент, созданный не человеком.

Но это не точно.

Оригинал