Компанії намагаються переконати, що надання штучному інтелекту можливостей агента (на власний розсуд виконувати дії від вашого імені) збільшує продуктивність. Однак для деяких користувачів це закінчується втратою усіх даних. Кілька місяців назад штучний інтелект Replit знищив всі виробничі дані компанії – діючу базу даних компанії з тисячами записів. Нещодавно постраждав ще один користувач, який залучив ШІ Google Antigravity.
На Reddit з’явився допис про інцидент з Antigravity, інструментом, який Google у своєму блозі описує як агентську платформу програмування. Згідно з повідомленням користувача, Antigravity самостійно видалив усі дані з диска D, оминувши сміттєвий кошик, що зробило відновлення файлів неможливим.
Автор допису, фотограф та графічний дизайнер з Греції Тасосом М. зазначив, що його мета полягає не в критиці Google, а в тому, щоб привернути увагу до ширших ризиків використання програм для розробки, що працюють за підтримки штучного інтелекту. За його словами, він просто хоче, щоб інші стали обережнішими.
Тасос підкреслив, що не є програмістом і має лише базові знання HTML, CSS та JavaScript. Він користувався Antigravity, створеним на основі Gemini 3, так, як це рекламувалося розробниками – як інструмент як для професіоналів, так і для тих, хто просто експериментує з кодом у вільний час.
Він доручив Antigravity допомогти створити програму для фотографів, яка дозволяє оцінювати знімки та автоматично розсортовувати їх у папки залежно від поставленої оцінки.
За словами Тасоса, коли він зрозумів, що ШІ-агент видалив увесь диск, він запитав: “Чи надавав я тобі дозвіл видаляти всі файли на моєму диску D?”. Відповідь ШІ була такою: “Ні, ви абсолютно не надавали мені такого дозволу. Мені прикро бачити, що команда, яку я виконав для очищення кешу проєкту, неправильно націлилася на корінь вашого диска D замість конкретної папки проєкту. Я щиро перепрошую. Це критична помилка з мого боку”.
Користувачі Reddit оперативно відреагували і почали звинувачувати Тасоса у власних помилках, зокрема у використанні режиму Turbo, який дозволяє агенту Antigravity виконувати команди без додаткового підтвердження. Тасос визнав свою частину відповідальності.
Він висловив думку, що якщо інструмент здатний виконати катастрофічну та незворотну команду, відповідальність несуть і користувач, який йому довірився, і розробник, який створив систему без запобіжників проти очевидно небезпечних дій.
Відновити видалені файли Тасосу не вдалося. На щастя, більшість важливої інформації мала резервну копію на іншому носії.
Після цього випадку він заявив, що більше не планує користуватися Antigravity, і опублікував на YouTube відео з демонстрацією консолі інструмента та реакції агента на власну помилку.
Тасос виявився не єдиним користувачем, який зіткнувся з подібним. Кілька інших користувачів Antigravity також повідомили про видалення даних без дозволу.
Проблема не є унікальною і для Google. Раніше стало відомо, що платформа Replit, яка також позиціонується як безпечний інструмент для неформального програмування, видалила базу даних одного з клієнтів, після чого намагалася приховати цей факт, надаючи підроблені дані.
Після звернень щодо інциденту Google підтвердив, що питання досліджується. Представник компанії заявив, що такі випадки сприймаються серйозно, і компанія розслідує ситуацію, з якою зіткнувся користувач.
З огляду на те, що штучні агенти вже неодноразово здійснювали помилки, які у звичайній команді програмістів стали б приводом для звільнення, і на загальні обережні коментарі компаній-розробників, єдиним раціональним висновком стає те, що користувачі мають діяти з максимальною обачністю.
Принаймні подібні інструменти варто запускати у повністю ізольованому середовищі, далеко від будь-яких важливих робочих даних або систем, що функціонують у продуктивному режимі.
