До 2030 року ШІ може стати неконтрольованим. Чому це тривожить навіть провідних науковців

Наприкінці цього десятиліття людство вирішуватиме, чи йти на "максимальний ризик", зробивши штучний інтелект автономним. Це може спричинити його розквіт… Або ж ШІ остаточно вийде з-під нашого контролю.Що приховують обидва сценарії? З Guardian поділився Джаред Каплан – науковець ШІ-стартапу Anthropic, який успішно конкурує з Google та OpenAI.Суперінтелект: хто й коли його створитьМіж 2027 і 2030 роками уряди й суспільство вирішуватимуть, чи дозволити ШІ "йти власним шляхом". Тоді технологія може перейти до рекурсивного самовдосконалення. Тобто система ШІ сама створюватиме свої нові, досконаліші версії, і кожна наступна робитиме це швидше й ефективніше за попередню.Так вважає Джаред Каплан – професор фізики зі Стенфорда й Гарварда. З 2019 року він працював у OpenAI, а у 2021-му співзаснував американський стартап Anthropic. Каплан перетворився зі звичайного науковця на мільярдера в галузі ШІ за сім років, пише The Guardian.Читайте також"Застосовуємо ШІ вже 20 років": голова Mastercard в Україні – про технорозвиток платіжної системиAnthropic підтримує регулювання та етичне використання штучного інтелекту. Водночас OpenAI звинувачують у тому, що компанія женеться за "ефектними продуктами", нехтуючи безпекою.У вересні Anthropic представила Claude Sonnet 4.5 – модель для програмування, здатну створювати агентів та самостійно користуватися комп’ютером. Claude Sonnet могла 30 годин безперервно розв’язувати складні багатокрокові завдання. За словами Каплана, іноді ШІ прискорював роботу програмістів удвічі.Читайте такожЧотири ШІ-сервіси, якими користується AI-директор EPAMМаючи капіталізацію в $180 млрд, Anthropic вийшла на один рівень з OpenAI, Google DeepMind, xAI, Meta, DeepSeek тощо. Вони конкурують, намагаючись створити загальний штучний інтелект, або AGI – ШІ, рівний за здібностями з людиною.В інтерв’ю для The Guardian Каплан говорив про "приголомшливі ставки" та "дуже напружену" атмосферу в Кремнієвій долині. Йдеться не лише про перегони інновацій, а й про боротьбу за інвестиції, ресурси та домінування у сфері, адже разом зі здібностями ШІ зростають комерційні доходи.Позитивний сценарій еволюції ШІНезалежні дослідження передових моделей, зокрема ChatGPT, показують: кожні сім місяців вони здатні виконувати вдвічі довші та складніші завдання. А консалтингова компанія McKinsey припускає, що до 2030 року світовим дата-центрам знадобиться $6,7 трлн, щоб задовольнити потребу в обчислювальних потужностях.Каплан переконаний, що за два-три роки ШІ виконуватиме більшість офісної роботи, а його шестирічний син ніколи не перевершить штучний інтелект у написанні есе чи складанні іспиту з математики.Читайте такожПеревіряємо "Ти – космос" на реальність: що у фільмі – наука, а що – заради сюжетуЗа найкращим сценарієм, штучний інтелект прискорить біомедичні дослідження, розвине кібербезпеку, дасть людям більше вільного часу та покращить їх продуктивність.Джаред Каплан позитивно ставиться до того, що незабаром технологія відповідатиме інтересам людей на рівні їх розуму. Однак він стурбований, що суперінтелект може піти далі. Його самостійний шлях динамічний і непрогнозований.Негативний сценарій: що може піти не так"Штучний інтелект, розумніший за вас або приблизно рівний вам, створює набагато розумніший ШІ. Цей новий допомагає створити ще більш розумний ШІ. Звучить як страшний процес, ніхто не знає, до чого він призведе", – поділився думками науковець.Ніхто не може гарантувати, що автономні системи залишатимуться надійними та корисними. А ще невідомо, чи збережуть люди вплив на власне життя і світ після цих зрушень."Це дуже небезпечно, якщо потрапить у чужі руки. Уявіть, що хтось вирішив: "Хочу, щоб цей ШІ був моїм рабом та виконував мою волю". Я вважаю, що запобігання захопленню влади та зловживанню технологією також дуже важливе", – каже Каплан.Читайте такожНова релігія навколо ШІ: що таке спіралізм та чи є він в УкраїніНаприклад, у листопаді Anthropic заявила, начебто хакери, пов’язані з владою Китаю, зманіпулювали Claude Code. Як стверджується, інструмент допоміг, зокрема, запустити близько 30 самостійних кібератак, і деякі з них були успішні.Джек Кларк – ще один співзасновник Anthropic – попри загальний оптимізм стосовно ШІ наляканий темпами його еволюції. Він назвав штучний інтелект "таємничою істотою, а не простою передбачуваною машиною". Джаред Каплан стурбований, що людство досі не звикло до технології в той час, коли вона вже на порозі нового стрибка.