Багато користувачів воліють запускати власний штучний інтелект, і навіть є подібні проєкти, на кшталт ChatGTP4ALL. Але поки ви не витрачатимете $700 000 щодня для покриття витрат на його роботу, ви не матимете результатів, подібних до ChatGPT від OpenAI. Адже саме таку суму OpenAI витрачає щодня, щоб надавати послуги свого штучного інтелекту ChatGPT, повідомляє Ділан Пател, головний аналітик дослідницької фірми SemiAnalysis.
Чудеса штучного інтелекту, які ми можемо спостерігати сьогодні, стали можливими завдяки залученню величезної обчислювальної потужності. Адже алгоритму за кілька секунд потрібно на базі підказки користувача проаналізувати мільярди параметрів, щоб побудувати прийнятну відповідь. Ознайомтеся з подробицями підкапотної магії ChatGPT.
Патель сказав, що його початкова оцінка базується на моделі GPT-3, яка уже застаріла. OpenAI нещодавно запустив GPT-4 і вона, ймовірно, стала ще дорожчою в експлуатації. Зате GPT-4 значно розумніша за GPT-3 і її можливості такі, що після її випуску директор OpenAI Сем Альтман повідомий, що наляканий можливостями технології.
Хоча навчання великих мовних моделей ChatGPT, ймовірно, коштує десятки мільйонів доларів, операційні витрати або витрати на висновки, «набагато перевищують витрати на навчання при розгортанні моделі в будь-якому розумному масштабі, — сказали виданню Forbes Патель і Афзал Ахмад, інший аналітик SemiAnalysis. – Насправді витрати на роботу ChatGPT перевищують щотижневі витрати на навчання».
Компанії, які використовують мовні моделі OpenAI, роками платять високі ціни. Нік Уолтон, генеральний директор Latitude, стартапу, який розробляє гру підземелля зі штучним інтелектом для створення сюжетних ліній, сказав, що використання цієї моделі разом із платежами на сервери Amazon Web Services коштує компанії 200 000 доларів на місяць, щоб штучний інтелект відповідав на мільйони запитів користувачів.
Через високу вартість Волтон сказав, що він вирішив перейти до AI21 Labs – постачальника іншого штучного інтелект. Це, за його словами, скоротило витрати його компанії на штучний інтелект вдвічі до 100 000 доларів на місяць.
Повідомляється, що Microsoft працює над секретним чипом Athena, прагнучи знизити вартість запуску генеративних моделей штучного інтелекту. Проект, який стартував у 2019 році, з’явився через кілька років після того, як Microsoft уклала угоду з OpenAI на 1 мільярд доларів. В рамках цієї угоди штучний інтелект OpenAI працює виключно на хмарних серверах Microsoft Azure.
