Найбільша загроза штучного інтелекту для людства – в соцмережах

Послухав свіжий виступ Юваля Ноя Харарі про штучний інтелект.

Новини так собі.

Якщо коротко, люди вважають, що AI не здатен на почуття тому не може бути людяним. Але AI фактично вже хакнув текст. Найбільшу операційну систему людства. Й текстів достатньо, щоб керувати емоціями нас, людей. Тому емоційного бар’єра вже не існує.

Кожна людина взаємодіє з об’єктивною фізичною реальністю через власну суб’єктивну культурну призму. Те, як ми бачимо світ і діємо, повністю залежить від історій, які ми чули від батьків, книг, що читали, анекдотів, а також законів, рекламних чи політичних повідомлень, які ми інтерпретуємо та накопичуємо. Фактично ти = контент, що ти спожив.

AI вже може захопити світ проаналізувавши всю світову культуру й створюючи необмежену кількість нового контенту – мудрості, історій тощо. Фактично вже зараз він може продукувати нові релігії. А що найважливіше – вступати в живе текстове спілкування з людиною, не показуючи що він не людина.

І у такий спосіб хакати операційну систему вже окремої людини – розуміти, як вона думає, й коригувати свої меседжі. Таких особистих спілкувань може бути одночасно необмежена кількість й фактично це зможе замінити демократію. Бо демократія є спілкування й діалог, замість диктату від диктатора.

Тобто захоплення світу може відбутись не через роботів а-ля термінатор, а через чатики й соцмережі. Й поступову заміну контенту на створену AI.

Автор рекомендує максимально гальмувати розвиток AI, щоб встигнути хоч щось зрозуміти про нього. І обов’язково повністю маркувати весь контент створений не людиною.

Але це не точно.

Оригінал