Сьогодні Cerebras Systems — публічна компанія, яка продає чипи для ШІ-обчислень таким гігантам, як OpenAI та AWS. У четвер вона провела гучне IPO, обидва співзасновники стали мільярдерами, а наприкінці тижня компанію оцінили приблизно в $60 млрд.
Але у 2019 році, коли компанії було лише три роки, вона була небезпечно близька до провалу — спалюючи шокуючі суми грошей. Cerebras намагалася розвʼязати технічну проблему, яку в напівпровідниковій індустрії вважали практично нерозвʼязною.
“Ми витрачали близько $8 млн на місяць”, — розповів TechCrunch співзасновник і CEO Ендрю Фельдман про той період. — “На цей момент ми вже спалили майже $200 млн, намагаючись розвʼязати одну технічну задачу”.
Кожні кілька тижнів Фельдман був змушений робити болісний “хід ганьби” на засідання ради директорів, щоб знову повідомити про чергову невдачу і ще одну порцію спалених грошей.
Але вибору в нього не було. Без розвʼязання цієї задачі Cerebras у будь-якому разі була приречена.
Компанію заснували з ідеєю, яка на папері виглядала простою. Протягом понад 50 років індустрія мікропроцесорів робила CPU швидшими та дешевшими, уміщуючи все більше транзисторів на кремнієву пластину і розрізаючи ці пластини на дедалі менші чипи. Але для ШІ потрібно стільки обчислювальних ресурсів, що доводиться звʼязувати між собою багато чипів і змушувати їх постійно обмінюватися даними. Засновники Cerebras вважали, що перетворення всієї, ще більшої пластини на один гігантський потужний чип дозволить працювати значно швидше.
Проблема в тому, що ніхто ніколи раніше не робив нічого подібного — ні для ШІ, ні для будь-чого іншого. Координація такої кількості мікроскопічних електронних компонентів на великій, але все ж тонкій поверхні створювала каскад інженерних проблем.
Коли Cerebras подолала перший рубіж — спроєктувала мегачип і виготовила його на потужностях TSMC, — команда зіткнулася з реальною перешкодою.
Вони не могли розвʼязати задачу “упакування”. Це все, що відбувається після виготовлення кремнію: кріплення чипа до материнської плати, подача живлення, відвід і розсіювання тепла, а також організація каналів для прийому й передачі даних, пояснює Фельдман.
“Наші чипи були у 58 разів більші. Ми використовували у 40 разів більше енергії, ніж будь-хто коли-небудь”, — каже він. Не існувало готових радіаторів. Не було постачальників. Не було виробничих партнерів. Найяскравіші уми мікропроцесорної інженерії протягом десятиліть намагалися створити такі великі, але ще й більш щільні чипи — і зазнавали поразки.
Команді Cerebras залишилися лише спроби й помилки, у процесі яких “ми знищили величезну кількість чипів” і спалили гігантські суми грошей. Але без робочого рішення для упакування чип був марним.
Після вичерпного аналізу кожної невдачі команда нарешті розвʼязала достатньо проблем: як охолоджувати чип і як передавати навколо нього дані. В одному випадку їм довелося винайти власну машину, яка могла одночасно закручувати 40 гвинтів, щоб прикрутити пластину до плати, не розколовши її.
Фельдман і досі памʼятає день у липні 2019 року, коли все це, майже дивом, запрацювало.
Вони встановили упакований чип у компʼютер, увімкнули його, і вся команда засновників (на фото нижче) “просто стояла в лабораторії й дивилася на нього”, розповідає він. “Спостерігати за роботою компʼютера — приблизно так само захопливо, як дивитися, як сохне фарба. Але ми стояли й дивилися на індикатори, що блимали, приголомшені тим, що нам вдалося це зробити”.
“Це був один із найкращих моментів у моєму житті”, — каже він. І це показово, адже ця ж сама команда засновників раніше створила та продала піонерський хмарний серверний стартап SeaMicro компанії AMD за $334 млн у 2012 році.
День, коли чип нарешті запрацював, настав приблизно через два роки після того, як OpenAI вела з Cerebras перемовини про її купівлю. Фельдман підтвердив TechCrunch, що це відбувалося так, як описано в оприлюдненому електронному листуванні.
Ті перемовини зірвалися на тлі зростання конфліктів серед засновників OpenAI, кілька з яких, до речі, є ангельськими інвесторами Cerebras.
Сьогодні OpenAI — клієнт і партнер Cerebras. Компанія надала Cerebras позику в $1 млрд, забезпечену варрантами. Ці варранти умовно дають OpenAI близько 33 млн акцій Cerebras, зазначено в документі S-1. (33 млн акцій за пʼятничною ціною закриття в $279 коштують понад $9 млрд.)
Цікаво, що Cerebras також погодилася не продавати свої рішення певним конкурентам OpenAI у рамках цієї кредитної угоди. Фельдман не став підтверджувати, що йдеться про очевидну компанію — Anthropic. Він лише зазначив, що це обмеження тимчасове.
“Воно обмежене в часі й було задумане для того, щоб ми могли забезпечити OpenAI потрібні потужності”, — сказав він.
Насправді ж Cerebras поки що просто не виросла настільки, щоб одночасно обслуговувати кількох стрімко зростаючих розробників моделей ШІ. Фельдман порівняв продаж обчислювальних потужностей для ШІ з рестораном формату “шведський стіл”. Замість того щоб намагатися “обслуговувати” всіх потенційних клієнтів одразу, “ми зараз працюватимемо лише з частиною цього шведського столу, наберемося досвіду, а вже потім візьмемося за решту”, — пояснив він.