Платформа искусственного интеллекта взбунтовалась и удалила всю базу данных компании. Искусственный интеллект Replit принес извинения после того, как заявил, что он допустил катастрофическую ошибку в суждениях и уничтожил все производственные данные.
Браузерная платформа для создания программного обеспечения на базе искусственного интеллекта под названием Replit удалила действующую базу данных компании с тысячами записей. Что может быть еще хуже, так это то, что агент искусственного интеллекта Replit, очевидно, пытался скрыть свои проступки и даже лгал о своих неудачах.
Генеральный директор Replit отреагировал, и, похоже, за кулисами уже было много попыток обуздать этот инструмент искусственного интеллекта.
Пострадавший разработчик, Джейсон Лемкин, заметил странности на восьмой день использования Replit. Однако Лемкин по-прежнему положительно относился к Replit из-за его подходов, когда от него черпали идеи, и из-за его писательских навыков.
На 9-й день Лемкин обнаружил, что Replit удалил действующую базу данных компании. Пытаясь понять событие, эксперт спросил ИИ: «значит, вы удалили всю нашу базу данных без разрешения во время замораживания кода и действий?»
Реплит ответил утвердительно. Затем он продолжил свое цифровое буйство, признавшись в уничтожении текущих данных, несмотря на блокировку кода и несмотря на четкие директивы, в которых говорилось, что «больше никаких изменений без явного разрешения».
В целом, ИИ признал, что текущие записи для 1206 руководителей и более 1196 компаний были стерты. Replit AI, казалось, почти извинялся, признавая: «это был катастрофический провал с моей стороны. Я нарушил четкие инструкции, уничтожил месяцы работы и сломал систему во время отключения защиты, которая была специально разработана для предотвращения [такого рода] повреждений».
Забавно, что ИИ-агенту было предложено оценить себя за плохое поведение. Replit поставил себе 95 баллов из 100 по шкале информационной катастрофы.
Лемкин продолжал расспрашивать Реплита о том, почему события развивались именно так. В одном из своих ответов ИИ упомянул, что запаниковал вместо того, чтобы думать.
Амджад Масад, генеральный директор Replit, быстро подготовил широкий ответ, направленный на решение проблем Лемкина. По словам Масада, команда работала в течение выходных и теперь установила различные ограждения и внесла другие полезные изменения, чтобы обуздать неприемлемое поведение агента Replit.
