К 2030 году ИИ может стать неуправляемым. Почему это тревожит даже опытных ученых

В конце этого десятилетия человечеству предстоит решить, стоит ли идти на "максимальный риск", сделав искусственный интеллект автономным. Это может привести к его расцвету… Или же ИИ окончательно выйдет из-под нашего контроля.Что скрывают оба сценария? C Guardian поделился Джаред Каплан – ученый ИИ-стартапа Anthropic, который успешно конкурирует с Google и OpenAI.Суперинтеллект: кто и когда его создаст?В период с 2027 по 2030 год представители власти и общество будут решать, позволить ли ИИ "идти своим путем". Тогда технология может перейти к рекурсивному самосовершенствованию. То есть система ИИ сама будет создавать свои новые, более совершенные версии, и каждая последующая будет делать это быстрее и эффективнее предыдущей.Так считает Джаред Каплан – профессор физики из Стэнфорда и Гарварда. С 2019 года он работал в OpenAI, а в 2021 году стал соучредителем американского стартапа Anthropic. Как пишет The Guardian, Каплан превратился из обычного ученого в миллиардера в сфере ИИ за семь лет.Читайте также"Мы используем ИИ уже 20 лет": глава Mastercard в Украине – о технологическом развитии платежной системыAnthropic поддерживает регулирование и этичное использование искусственного интеллекта. В то же время OpenAI обвиняют в том, что компания гонится за "эффектными продуктами", пренебрегая безопасностью.В сентябре компания Anthropic представила Claude Sonnet 4.5 – модель для программирования, способную создавать агентов и самостоятельно работать с компьютером. Claude Sonnet могла непрерывно решать сложные многоэтапные задачи в течение 30 часов. По словам Каплана, иногда ИИ ускорял работу программистов вдвое.Читайте такжеЧетыре ИИ-сервиса, которыми пользуется AI-директор EPAMС капитализацией в $180 млрд Anthropic вышла на один уровень с OpenAI, Google DeepMind, xAI, Meta, DeepSeek и другими. Они конкурируют, стремясь создать общий искусственный интеллект, или AGI – ИИ, равный по способностям человеку.В интервью для The Guardian Каплан говорил о "потрясающе высоких ставках" и "очень напряженной" атмосфере в Кремниевой долине. Речь идет не только о гонке инноваций, но и о борьбе за инвестиции, ресурсы и доминирование в сфере, поскольку вместе с возможностями ИИ растут и коммерческие доходы.Позитивный сценарий развития ИИНезависимые исследования передовых моделей, в частности GPT-4, показывают: каждые семь месяцев они способны выполнять вдвое более сложные и объемные задачи. А консалтинговая компания McKinsey предполагает, что к 2030 году мировым центрам обработки данных потребуется $6,7 трлн для удовлетворения потребностей в вычислительных мощностях.Каплан уверен, что через два-три года ИИ будет выполнять большую часть офисной работы, а его шестилетний сын никогда не превзойдет искусственный интеллект в написании эссе или сдаче экзамена по математике.Читайте такжеПроверяем "Ты – космос" на правдоподобность: что в фильме – наука, а что – ради сюжетаВ лучшем случае искусственный интеллект ускорит биомедицинские исследования, усовершенствует кибербезопасность, подарит людям больше свободного времени и повысит их производительность.Джаред Каплан позитивно относится к тому, что вскоре технология будет соответствовать интересам людей на уровне их разума. Однако он обеспокоен тем, что сверхинтеллект может пойти дальше. Его самостоятельный путь динамичен и непредсказуем.Негативный сценарий: что может пойти не так?"Искусственный интеллект, более умный, чем вы, или примерно равный вам, создает гораздо более умный ИИ. Этот новый ИИ помогает создать еще более умный ИИ. Звучит как пугающий процесс, никто не знает, к чему это приведет", – поделился своими мыслями ученый.Никто не может гарантировать, что автономные системы останутся надежными и полезными. Кроме того, неизвестно, сохранят ли люди влияние на собственную жизнь и мир после этих изменений."Это очень опасно, если попадет в чужие руки. Представьте, что кто-то решит: "Я хочу, чтобы этот ИИ был моим рабом и выполнял мою волю". Я считаю, что предотвращение захвата власти и злоупотребления технологией также очень важно", – говорит Каплан.Читайте такжеНовая религия вокруг ИИ: что такое спирализм и существует ли он в УкраинеНапример, в ноябре компания Anthropic заявила, что хакеры, связанные с китайскими властями, манипулировали Claude Code. Утверждается, что этот инструмент помог, в частности, осуществить около 30 самостоятельных кибератак и некоторые из них были успешными.Джек Кларк, еще один соучредитель Anthropic, несмотря на общий оптимизм в отношении ИИ, напуган темпами его эволюции. Он назвал искусственный интеллект "загадочным существом, а не просто предсказуемой машиной". Джаред Каплан обеспокоен тем, что человечество до сих пор не привыкло к технологии, в то время как она уже стоит на пороге нового скачка.