Многие пользователи предпочитают запускать собственный искусственный интеллект и даже есть подобные проекты, вроде ChatGTP4ALL. Но пока вы не будете тратить $700 000 ежедневно для покрытия затрат на его работу — вы не будете иметь результатов, подобных ChatGPT от OpenAI. Ведь именно такую сумму OpenAI тратит каждый день, чтобы предоставлять услуги своего искусственного интеллекта ChatGPT, сообщает Дилан Пател, главный аналитик исследовательской фирмы SemiAnalysis.
Чудеса искусственного интеллекта, которые мы можем наблюдать сегодня, стали возможны благодаря привлечению огромной вычислительной мощности. Ведь алгоритм за несколько секунд нужно на базе подсказки пользователя проанализировать миллиарды параметров, чтобы построить приемлемый ответ. Ознакомьтесь с подробностями подкапотной магии ChatGPT.
Патель сказал, что его начальная оценка базируется на уже устаревшей модели GPT-3. OpenAI недавно запустил GPT-4, и она, вероятно, стала еще дороже в эксплуатации. Зато GPT-4 значительно умнее GPT-3 и ее возможности таковы, что после ее выпуска директор OpenAI Сэм Альтман сообщит, что напуган возможностями технологии.
Хотя обучение больших языковых моделей ChatGPT, вероятно, стоит десятки миллионов долларов, операционные затраты или затраты на выводы, «намного превышают затраты на обучение при развертывании модели в любом разумном масштабе, – сказали изданию Forbes Патель и Афзал Ахмад, другой аналитик SemiAnalysis. – На самом деле затраты на работу ChatGPT превышают еженедельные расходы на обучение».Компании, использующие речевые модели OpenAI, годами платят высокие цены. Ник Уолтон, генеральный директор Latitude, стартапа, разрабатывающий игру подземелья с искусственным интеллектом для создания сюжетных линий, сказал, что использование этой модели вместе с платежами на серверы Amazon Web Services стоит компании 200 000 долларов в месяц, чтобы искусственный интеллект отвечал на миллионы запросов. пользователей.
Из-за высокой стоимости Уолтон сказал, что он решил перейти к AI21 Labs – поставщику другого искусственного интеллекта. Это, по его словам, сократило расход его компании на искусственный интеллект вдвое до 100 000 долларов в месяц.
Сообщается, что Microsoft работает над секретным чипом Athena, стремясь снизить стоимость запуска генеративных моделей искусственного интеллекта. Проект, стартовавший в 2019 году, появился спустя несколько лет после того, как Microsoft заключила соглашение с OpenAI на 1 миллиард долларов. В рамках этого соглашения искусственный интеллект OpenAI работает только на облачных серверах Microsoft Azure.
