Компании пытаются убедить, что предоставление искусственному интеллекту возможностей агента (по своему усмотрению выполнять действия от вашего имени) увеличивает производительность. Однако для некоторых пользователей это приводит к потере всех данных. Несколько месяцев назад искусственный интеллект Replit уничтожил все производственные данные компании-действующую базу данных компании с тысячами записей . Недавно пострадал еще один пользователь, который привлек ИИ Google Antigravity.
На Reddit появился пост об инциденте с Antigravity, инструментом, который Google описывает в своем блоге как агентскую платформу программирования. Согласно сообщению пользователя, Antigravity самостоятельно удалил все данные с диска D, миновав мусорную корзину, что сделало восстановление файлов невозможным.
Автор поста, фотограф и графический дизайнер из Греции Тасосом м. отметил, что его цель не в критике Google, а в том, чтобы привлечь внимание к более широким рискам использования приложений для разработки, работающих при поддержке искусственного интеллекта. По его словам, он просто хочет, чтобы другие стали осторожнее.
Тасос подчеркнул, что он не программист и имеет только базовые знания HTML, CSS и JavaScript. Он использовал Antigravity, созданный на основе Gemini 3, как это рекламировалось разработчиками – как инструмент как для профессионалов, так и для тех, кто просто экспериментирует с кодом в свободное время.
Он поручил Antigravity помочь создать приложение для фотографов, которое позволяет оценивать снимки и автоматически сортировать их по папкам в зависимости от поставленной оценки.
По словам Тасоса, когда он понял, что ИИ-агент удалил весь диск, он спросил: “предоставлял ли я вам разрешение на удаление всех файлов на моем диске D?”. Ответ ИИ был таким: «Нет, вы совершенно не давали мне такого разрешения. Мне жаль видеть, что команда, которую я выполнил для очистки кеша проекта, неправильно нацелилась на корень вашего диска D вместо конкретной папки проекта. Я искренне извиняюсь. Это критическая ошибка с моей стороны».
Пользователи Reddit оперативно отреагировали и начали обвинять Тасоса в собственных ошибках, в частности в использовании режима Turbo, который позволяет агенту Antigravity выполнять команды без дополнительного подтверждения. Тасос признал свою часть ответственности.
Он высказал мнение, что если инструмент способен выполнить катастрофическую и необратимую команду, ответственность несут и пользователь, который ему доверился, и разработчик, создавший систему без предохранителей против очевидно опасных действий.
Восстановить удаленные файлы Тасоса не удалось. К счастью, большая часть важной информации была сохранена на другом носителе.
После этого случая он заявил, что больше не планирует использовать Antigravity, и опубликовал на YouTube видео, демонстрирующее консоль инструмента и реакцию агента на его собственную ошибку.
Тасос оказался не единственным пользователем, столкнувшимся с подобным. Несколько других пользователей Antigravity также сообщили об удалении данных без разрешения.
Проблема не уникальна и для Google. Ранее стало известно, что платформа Replit, которая также позиционируется как безопасный инструмент для неформального программирования, удалила базу данных одного из клиентов, после чего пыталась скрыть этот факт, предоставляя поддельные данные.
После обращений по поводу инцидента Google подтвердил, что вопрос исследуется. Представитель компании заявил, что такие случаи воспринимаются серьезно, и компания расследует ситуацию, с которой столкнулся пользователь.
Учитывая то, что искусственные агенты уже неоднократно совершали ошибки, которые в обычной команде программистов стали бы поводом для увольнения, и на общие осторожные комментарии компаний-разработчиков, единственным рациональным выводом становится то, что пользователи должны действовать с максимальной осмотрительностью.
По крайней мере, подобные инструменты стоит запускать в полностью изолированной среде, вдали от любых важных рабочих данных или систем, функционирующих в производительном режиме.
