Спілкування з користувачами коштують ChatGPT $1 мільйон на день

Щоразу, коли користувачі в ChapGPT вводять запит на отримання кулінарних порад або рекомендацій на телебаченні, це коштує OpenAI до $1 мільйона щодня. Про це пише повідомляє Information.

Видання повідомляє, що частково через непомірні витрати на запуск ChatGPT, OpenAI, як вважають, приблизно подвоїла свої збитки до майже $540 мільйонів минулого року. Варто зазначити, що ці цифри базуються на оцінках аналітиків, а не на актуальних фінансових звітах.

Згідно з попереднім звітом, для виконання мільйонів щоденних запитів у ChatGPT від OpenAI потрібна величезна обчислювальна потужність. Генеративний чатбот зі штучним інтелектом обходиться компанії від $700 000 до $1 мільйона щодня.

Ділан Пател, головний аналітик SemiAnalysis, розповів що більша частина витрат "базується на дорогих серверах, які їм потрібні", і що ці оцінки базуються на моделі GPT-3, а не на сучасній GPT-4, яку використовує OpenAI. 

Щоб допомогти зменшити ці витрати, Microsoft протягом останніх чотирьох років співпрацює з AMD над створенням власного внутрішнього чипа штучного інтелекту Athena. Цей новий чип може бути запущений наступного року і повинен бути економічно ефективнішим, ніж використання графічних процесорів Nvidia для запуску моделей ШІ.