Open AI формує команду для контролю над надрозумним штучним інтелектом

OpenAI формує спеціальну команду для управління ризиками суперінтелектуального штучного інтелекту. Про це компанія повідомила на своєму сайті.

Суперінтелект – це гіпотетична модель штучного інтелекту, яка буде розумнішою навіть за найобдарованішу та найрозумнішу людину, і досягатиме успіху в кількох галузях знань, а не в одній, як деякі моделі попереднього покоління.

OpenAI вважає, що така модель може з'явитися до кінця десятиліття. Нову команду очолять головний науковий співробітник OpenAI Ілля Суцкевер та Ян Лейке, керівник дослідницької лабораторії. Крім того, OpenAI заявила, що виділить 20 відсотків своїх обчислювальних потужностей на цю ініціативу з метою розроблення автоматизованого дослідника вирівнювання.

Така система теоретично допоможе OpenAI забезпечити безпеку використання суперінтелекту та його відповідність людським цінностям. У лабораторії додали, що в майбутньому вони поділяться дорожньою картою.

Генеральний директор OpenAI, впродовж останніх місяців зустрівся щонайменше зі 100 федеральними законодавцями. Публічно Альтман заявив, що регулювання ШІ є "необхідним" і що OpenAI "прагне" працювати з політиками.