Open AI формирует команду для контроля над сверхумным искусственным интеллектом

OpenAI формирует специальную команду по управлению рисками суперинтеллектуального искусственного интеллекта. Об этом компания сообщила на своем сайте.

Суперинтеллект – это гипотетическая модель искусственного интеллекта, которая будет умнее даже самого одаренного и умного человека, и будет достигать успеха в нескольких областях знаний, а не в одной, как некоторые модели предыдущего поколения.

OpenAI считает, что подобная модель может появиться к концу десятилетия. Новую команду возглавят главный научный сотрудник OpenAI Илья Суцкевер и Ян Лейке, руководитель исследовательской лаборатории. Кроме того, OpenAI заявила, что выделит 20 процентов своих вычислительных мощностей по этой инициативе с целью разработки автоматизированного исследователя выравнивания.

Такая система теоретически поможет OpenAI обеспечить безопасность использования суперинтеллекта и его соответствие человеческим ценностям. В лаборатории добавили, что в будущем они поделятся дорожной картой.

Генеральный директор OpenAI за последние месяцы встретился по меньшей мере со 100 федеральными законодателями. Публично Альтман заявил, что регулирование ИИ является "необходимым" и что OpenAI "стремится" работать с политиками.