"Крестный отец" ИИ Хинтон предложил представить, как Путин использует роботов для войны

Человек, считающийся крестным отцом искусственного интеллекта, уволился с работы, предупредив о растущей опасности, связанной с разработками в этой области. Об этом сообщает BBC.

75-летний Джеффри Хинтон заявил, что теперь сожалеет о своей работе. Он сказал BBC, что некоторые опасности, которые несут в себе чат-боты с искусственным интеллектом, "достаточно страшные". "Сейчас они не умнее нас, насколько я могу судить. Но я думаю, что в скором времени они могут стать таковыми".

Британско-канадский когнитивный психолог и компьютерный ученый рассказал, что в скором времени чат-боты могут превзойти уровень информации, который способен хранить человеческий мозг. "Сейчас мы видим, что такие вещи, как GPT-4, затмевают человека по объему общих знаний, которыми он владеет, и затмевают его на долгое время. С точки зрения соображений, он не так хорош, но он уже способен на простые соображения", – сказал Хинтон.

"И учитывая темпы прогресса, мы ожидаем, что ситуация улучшится достаточно быстро. Так что нам нужно беспокоиться об этом. Представьте себе, например, что какой-то плохой актер, такой как Путин, решил дать работам возможность создавать свои собственные подцели".

Ученый предупредил, что в конечном итоге это может "создать подцели вроде "мне нужно получить больше власти. Я пришел к выводу, что интеллект, который мы развиваем, очень отличается от того, какой у нас есть".

Доктор Хинтон присоединяется к растущему количеству экспертов, выражающих обеспокоенность по поводу ИИ – как скоростью, с которой он развивается, так и направлением, в котором он движется.