Штучний інтелект уже вміє виявляти тисячі zero‑day вразливостей — помилок у програмному коді, для яких поки не існує виправлень. IBM Technology у новому випуску пояснює, як такі моделі змінюють кібербезпеку, чому панікувати запізно і як перетворити цю загрозливу можливість на системний захист.
Від S.A.T.A.N до AI‑сканерів: як «небезпечні інструменти» стають стандартом
У 1990‑х вихід утиліти S.A.T.A.N (System Administrator Tool for Analyzing Networks) спричинив гучну етичну дискусію. Програма автоматично сканувала мережу, виявляла слабкі місця в системах та формувала картину вразливостей.
Аргументи критиків тоді звучали знайомо:
- інструмент «занадто небезпечний для публічного доступу»;
- різко знижує поріг входу для атакувальних дій;
- зменшує час і вартість підготовки злому.
Проблема полягала в тому, що S.A.T.A.N був типовим dual‑use‑інструментом: ним могли однаково користуватися як адміністратори для посилення захисту, так і зловмисники для пошуку точок входу. Фактично це була гонка: хто швидше пробіжиться сканером по інфраструктурі — захисники чи атакувальники.
Через 30 років суперечка виглядає анахронізмом. Ринок наповнений вразливісними сканерами на кшталт Nessus, а ціла індустрія побудована на підходах, які колись лякали професійну спільноту. Колись «надто небезпечні» інструменти стали буденними елементами захисту.
Сьогодні та сама дискусія повторюється, але вже навколо ШІ‑моделей, здатних знаходити та експлуатувати zero‑day вразливості.
Як ШІ знаходить вразливості, які люди не бачили десятиліттями
Нові AI‑моделі навчилися:
- сканувати код і системи на наявність невідомих раніше помилок;
- будувати працездатні експлойти для цих помилок;
- покривати всі основні ОС і браузери.
Один із показових кейсів — OpenBSD, операційна система з репутацією однієї з найбільш безпечних. ШІ‑модель виявила там баг, який:
- існував 27 років;
- був у відкритому коді;
- залишався невиявленим спільнотою майже три десятиліття.
Алгоритм знайшов те, що «лежало на поверхні», але було занадто складним чи неочевидним для людського аналізу. І це не унікальний епізод, а початок тренду: ШІ може переглядати масиви коду та конфігурацій у масштабах, недоступних людям.
Цей прорив працює у два боки:
- плюс для захисту — вразливість стає видимою, отже її можна виправити;
- ризик для безпеки — якщо знання про неї опиняється спершу у вузького кола, це створює «монополію на експлуатацію».
Ситуацію ускладнює ще й те, що:
- у світі вже є моделі без обмежень на кшталт WormGPT, які без докорів сумління генерують шкідливий код;
- витоки вихідних кодів ШІ‑систем уже траплялися, тож очікувати, що «просунуті сканери» вдасться утримати виключно в руках відповідальних гравців, нереалістично.
Фактично «дзвін уже продзвенів»: інструменти існують, і питання тепер не в тому, чи можна їх зупинити, а в тому, хто й як ними скористається.
Де справжня небезпека: вікно між виявленням та патчем
Щоб зрозуміти, чому ШІ‑сканери одночасно корисні й небезпечні, варто подивитися на життєвий цикл вразливості як на шкалу ризику:
-
Помилка з’являється в коді
Ризик практично нульовий: ніхто ще не знає про «дірку». -
Вразливість відкривають
Тут можливі два сценарії, і в обох ризик зростає: - якщо про неї знають лише кілька осіб і це зловмисники — ризик «зашкалює»;
-
якщо вразливість виявляє етичний дослідник і передає вендору — ризик нижчий, але все одно не нульовий.
-
Інформація стає публічною
Усі вже знають про проблему, але патча ще немає або він не встановлений. Ризик високий для всіх користувачів. -
Вихід та встановлення патча
Після оновлення ризик повертається до мінімуму — за умови, що виправлення справді застосовані.
Критична зона — проміжок між відкриттям і масовим впровадженням патча. Якщо в цей період вразливість активно експлуатується, а користувачі не оновлюються, наслідки можуть бути масштабними.
ШІ радикально стискає перший етап — час від появи бага до його виявлення. Але водночас він потенційно збільшує:
- швидкість передання знань про експлуатацію;
- кількість гравців, здатних ці знання використати.
Тому головне питання — не як «заборонити» таким моделям шукати вразливості, а як побудувати процедури, що мінімізують час та площу ризику.
Як використати ШІ на користь безпеки: відповідальне розкриття й DevSecOps
Є дві практики, які дають шанс перетворити «AI проти всіх» на «AI проти AI».
1. Відповідальне розкриття (responsible disclosure)
Модель, відпрацьована за останні 30 років:
- дослідник знаходить вразливість;
- приватно повідомляє про неї вендору;
- дає йому фіксований час (30, 60, 90 днів) на виправлення;
- після цього, незалежно від результату, інформація стає публічною.
Цей підхід:
- дає постачальнику «фору» для створення патча;
- не залишає вендору можливості нескінченно відкладати виправлення;
- не відкриває відразу всіх деталей для зловмисників.
Логічний крок — застосовувати ту ж модель до результатів роботи ШІ‑сканерів: автоматизоване виявлення не відміняє потреби в організованому, контрольованому процесі розкриття.
2. DevSecOps: «проганяти код через ШІ‑м’ясорубку» до релізу
Класичний DevOps об’єднує розробку та експлуатацію. Додавши до цього безпеку (DevSecOps), компанії інтегрують перевірки прямо в конвеєр розробки:
- кожен коміт і кожен білд проходить автоматизовані тести на вразливості;
- ШІ‑моделі сканують код і конфігурації до того, як продукт потрапить до користувачів;
- жоден реліз не виходить, доки не пройде «AI‑рев’ю».
Це перетворює гонку «хто першим знайде баг» на змагання всередині команди розробки, а не в публічному просторі між захисниками та хакерами.
AI проти AI: хто швидше зламає й полагодить
ШІ вже приносить відчутні дивіденди в реальних продуктах. Mozilla, наприклад, оголосила, що у Firefox 150 виправлено 271 вразливість, виявлену за допомогою однієї з таких моделей. Це 271 потенційний експлойт, який не дістанеться зловмисникам.
Ключові висновки цієї хвилі змін:
- масштаб вразливостей скінченний. Mozilla прямо формулює тезу: «дефектів кінцева кількість, і ми входимо у світ, де зможемо знайти їх усі»;
- інструменти вже по обидва боки барикад. Атакувальники використовують «відв’язані» моделі, захисники — із вбудованими обмеженнями та процедурами;
- перевага — за тими, хто краще автоматизує захист. Чим глибше ШІ вбудований у процеси розробки та підтримки, тим менше шансів у зловмисників скористатися «вікном можливостей».
Сценарій «кінець zero‑day назавжди» виглядає передчасним, але існує реальна перспектива радикально скоротити їхню кількість та «час життя» завдяки:
- відкаліброваному відповідальному розкриттю для AI‑інструментів;
- повній інтеграції ШІ‑сканерів у DevSecOps;
- усвідомленню, що заборонити такі системи вже неможливо, а от навчитися ними користуватися — критично необхідно.
30 років тому S.A.T.A.N вважали занадто небезпечним для публічного доступу. Сьогодні аналогічні інструменти вважаються базовими для кіберзахисту. Імовірно, із ШІ‑моделями для пошуку вразливостей історія повториться — тільки на новій швидкості.
Джерело
AI That’s Too Dangerous For You? What we learned from S.A.T.A.N — IBM Technology