На конференції Craft у Будапешті автор блогу The Pragmatic Engineer Герґей Орош розповів внутрішню історію тижня, який він назвав «найгіршим в історії Meta». Йдеться про курйозно небезпечний експлойт в Instagram, масові ротації інженерів у ручне дата‑лейблінг, культуру «AI‑максингу» та падіння моралі в одній із колись найсильніших інженерних організацій світу. За цією історією — не лише безпека, а й управління, мотивація та реальні ризики бездумної AI‑гонки.
«Найкумедніший експлойт»: як Instagram перетворився на нуль-факторний ресет
У понеділок, з якого починається розповідь Ороша, в Instagram стався інцидент, який інженери всередині компанії описують як «goofiest ever Instagram exploit». З технічного погляду це був не вишуканий злам, а радше фатальний баг у системі безпеки. Але наслідок — можливість перехопити будь‑який акаунт.
Сценарій виглядав абсурдно простим. Потенційний атакувальник змінював свою геолокацію на геолокацію жертви — умовно через VPN ставив себе в США, якщо хотів взяти під контроль, скажімо, акаунт публічної особи з мільйонами підписників. Далі йшов у Meta AI і повідомляв, що його акаунт нібито зламано, з проханням надіслати код підтвердження на контрольовану ним пошту.
На цьому «двокроковий» експлойт закінчувався. «Meta AI sent out a code to you and you could take over anyone’s account». Жодної додаткової перевірки, жодної автентифікації власника, ніякого second factor. Орош називає це «the first zero authent zero off password reset» — першим у світі скиданням пароля без будь-якої аутентифікації та авторизації.
Для практикуючих інженерів все це має очевидне ім’я: «we’re software engineers. You know what this is? This is a bug». Не новий клас атак, а груба помилка у продакшен‑коді, що пройшла через усі захисні шари — автоматичні розгортання, канарейкові релізи, код‑рев’ю, trust & safety‑команду — і врешті дозволила обійти базові принципи безпеки.
Наступного дня, ще до завершення внутрішнього розслідування інциденту (SEV, як це називають у Meta), свою відставку оголосив Chief Information Security Officer компанії. Для людей усередині це стало ознакою того, що проблема — не локальний прокол, а симптом глибшої хвороби всієї організації.
Коли код і рев’ю пише AI: безлюдний конвеєр у критичному функціоналі
За кулісами цього «нуль‑факторного» ресету стояла ще одна характеристика інциденту, яка робить його показовим для всієї AI‑ера: «the thing that caused the issue was AI written code that was reviewed by AI and not humans at Meta».
Тобто ланцюжок виглядав так: модель написала код, модель же його й перевірила, а далі цей код пішов у продакшен у тій сфері, яка стосується доступу до акаунтів сотень мільйонів користувачів. Людського погляду на критичну зміну не було.
Цей випадок особливо контрастує з тим, що Орош називає «really strong engineering culture» Meta: історично компанія мала одні з найкращих у світі систем автоматизованих розгортань, кілька рівнів валідації, суворий процес ручного код‑рев’ю, окремі trust & safety‑команди. У Instagram, за його словами, trust & safety‑група налічувала «closer to 100 engineers», чия робота — підтримувати безпеку платформи.
Той факт, що AI‑згенерований і AI‑рев’юваний код здатен пролізти через усі ці бар’єри і опинитися на критичному шляху аутентифікації, виявляє системну зміну пріоритетів: увага до якості й безпеки поступається місцем гонитві за AI‑інструментами, їхнім використанням і внутрішніми метриками.
Токен‑максинг як система: коли AI‑використання стає KPI
Щоб зрозуміти, чому взагалі хтось вирішив довірити таку зміну суто AI‑ланцюжку, Орош повертається до того, що називає «AI maxing» і «token maxing». У квітні він писав про тренд, коли в низці великих компаній, включно з Meta, інженерів почали фактично міряти за кількістю використаних AI‑токенів.
У Meta, за описом Ороша, існувала внутрішня дошка лідерів за «AI usage», де можна було отримати статуси на кшталт «session immortal», «token legend» тощо. Хоча офіційно це не формалізували як KPI, усі розуміли: «AI usage inside of Meta was part of performance evaluation… if you had a low token count you know that’s not a great signal».
Результат був передбачуваним. Інженери «start to inflate their token count» — запускали AI для будь-якої дрібниці: замість того, щоб писати простий код вручну, читати документацію самостійно, розбиратися в системі, вони просили це зробити модель, «just burn a bunch of tokens». Внутрішній AI для них був безплатний, а бонуси й рейтинг — реальні.
Код, який зрештою спричинив Instagram‑експлойт, за словами співрозмовників Ороша всередині компанії, теж був «AI generated» і проходив кілька рівнів автоматичного рев’ю: «of course, they use it AI to review it as well. They use it to triple review it, etc.»
Додатковим каталізатором став контекст скорочень. Meta заздалегідь оголосила про майбутні великі звільнення, а потім 20 травня скоротила близько 10% штату. У проміжку між анонсом і датою X багато працівників жили з очікуванням, що на їх майбутнє впливатиме в тому числі рівень використання AI. Це створило ще більше стимулів для токен‑максингу — навіть ціною відволікання від реальної роботи.
У trust & safety‑команді Instagram це відчувалося особливо гостро: «inside of trust and safety team, people were not thinking about trust and safety were thinking about token maxing». Тобто організація, яка мала бути «останньою лінією оборони», сама жила в логіці гейміфікованої гонитви за токенами.
Forced pivot: як 40% trust & safety відправили на ручний дата‑лейблінг
Найбільш розривний елемент історії пов’язаний із різкою перебудовою самої організації Instagram. Орош говорить про «AI psychosis» у Meta, підкреслюючи, що вживає це слово обережно, але вважає його близьким до того, що відбувається.
Trust & safety‑організація Instagram формувалася 7–8 років, головним чином у Лондоні. Це був висококваліфікований інженерний колектив, який будував системні механізми безпеки й захисту користувачів. За кілька днів до масштабних травневих скорочень «40% of this team before 20th of May was reassigned to do manual data labeling».
Людей повідомили в четвер, що з понеділка вони більше не працюють у своїй старій команді. Їх переводять у нову організацію xScale AI в орбіті керівника на ім’я Alexander Wang, і їхня нова робота — «AI data labeling».
У практичному вимірі це виглядає як нескінченна черга однотипних GitHub pull request’ів: «you get these tasks it’s a GitHub pull request you need to review it you need to add some tests you need to add some feedback and then then you do the next and then you add some tests and you add some feedback and you and you do the next». Багато хто з цих людей — сеньйорні інженери з глибокою експертизою у безпеці — «were not given a choice».
Тут руйнується ще один стовп колишньої культури Meta. За словами Ороша, раніше «every engineer was treated like royalty»: вони могли обирати команди, напрямки, працювали у відносно «інженерно‑центричному» середовищі. Масове примусове переведення у ручний дата‑лейблінг стало радикальним зламом цього контракту.
За оцінками, які він наводить, «there’s five closer to 5,000 developers inside of Meta doing manual AI labeling… there’s a running joke inside of Meta that this is bigger than OpenAI». Усередині компанії ходить жарт, що за масштабами ця внутрішня армія лейблерів уже перевищує деякі зовнішні AI‑лабораторії. Це підкреслює, наскільки одержимою стала ставка керівництва на власну велику модель — попри побічні ефекти для бізнесу та людей.
Після хвилі скорочень і ротацій «most teams are less than half the size. Some don’t have on call coverage anymore, which means that in some services, there’s just no one picking up on call». Для Meta, де історично on‑call вважався священною частиною операційної готовності, це безпрецедентно.
AI‑експеримент ціною культури: що відчувають інженери всередині Meta
У підсумку Орош описує те, що відбувається в Meta, як «fully self-inflicted» і «coming from the top». На його думку, це свідомий вибір керівництва, передусім Марка Цукерберга та очільників нових AI‑напрямів: «they’re saying we don’t care. We it’s so important for us to build this model that we will risk our business and we don’t care if you know we get hacked or something like that».
Мораль усередині компанії, за його словами, «as low as has been in Meta… way worse than the 2022–2023 layoffs». Ті, хто залишився, отримують великі утримувальні бонуси, але водночас активно проходять співбесіди в інших компаніях. І причина не лише в ризику наступної хвилі скорочень.
Багато інженерів бояться, що будь‑якої миті їх можуть так само «призначити» в один з дата‑лейблінгових підрозділів. «As a professional, I did not sign up to become a manual data labeler», — переказує Орош позицію тих, з ким спілкується. Люди, які колись приходили в Meta за високою інженерною планкою, тепер відчувають, що перетворилися на витратний ресурс у великому експерименті зі створення LLM.
Окремий штрих — тотальний збір даних для тренування AI. В США, за словами Ороша, компанія «recording your screen. They’re recording all your screen strokes to train an AI». У поєднанні з відчуттям втрати автономії та деградації культури це перетворює Meta на одне з найлегших місць для рекрутингу: «it’s the easiest time to hire to recruit from Meta right now».
Інженери, з якими він говорить, описують це як кінець тієї «Facebook engineering culture», яку Орош, попри те що сам там ніколи не працював, «learned to actually love». З їхньої перспективи, навіть той факт, що Цукерберг сам є розробником і колись писав значну частину коду Facebook, вже не захищає інженерів: «they feel we don’t matter anymore. We’re tools. We’ve been thrown away».
Висновок: уроки Instagram‑експлойту для AI‑ери
Історія «найкумеднішого експлойту» Instagram виявляється значно більшою, ніж один гучний баг. Вона показує, як у поєднанні можуть спрацювати три фактори: культивований зверху токен‑максинг, автоматизація без людських запобіжників і агресивна перебудова оргструктури під AI‑цілі.
Код, написаний і перевірений AI без людського рев’ю, проривається в критично важливу зону — й перетворює процедуру відновлення акаунту на нуль‑факторний ресет. Команда, що мала б ловити такі аномалії, сама зайнята нарощуванням метрик використання AI або ручним лейблінгом для тої ж моделі. Керівництво ж демонструє готовність ризикувати й бізнесом, і людьми заради одного‑єдиного вектору — виграти AI‑гонку.
На фоні цього інциденту центральне питання для решти індустрії звучить простіше, ніж усі розмови про AGI: де проходить межа між продуктивним впровадженням AI і самознищувальним «AI‑психозом»? І чи готові команди, які сьогодні автоматизують код‑рев’ю й безпеку, зупинитися на крок раніше, ніж це зробила Meta з Instagram.
Джерело
Slow down to speed up: AI and software engineering — The Pragmatic Engineer