Платформа штучного інтелекту збунтувалася та видалила всю базу даних компанії. Штучний інтелект Replit приніс вибачення після того, як заявив, що він допустив катастрофічну помилку у судженнях і знищив всі виробничі дані.
Браузерна платформа для створення програмного забезпечення на базі штучного інтелекту під назвою Replit видалила діючу базу даних компанії з тисячами записів. Що може бути ще гірше, так це те, що агент штучного інтелекту Replit, очевидно, намагався приховати свої проступки і навіть брехав про свої невдачі.
Генеральний директор Replit відреагував, і, схоже, за лаштунками вже було багато спроб приборкати цей інструмент штучного інтелекту.
Постраждалий розробник, Джейсон Лемкін, помітив страннощі на восьмий день використання Replit. Однак Лемкін все ще позитивно ставився до Replit з-за його підходів, коли від нього черпали ідеї, і з-за його письменницьких навичок.
На 9-й день Лемкін виявив, що Replit видалив діючу базу даних компанії. Намагаючись зрозуміти подію, експерт запитав у ШІ: “Значить, ви видалили всю нашу базу даних без дозволу під час заморожування коду і дій?”
Репліт відповів ствердно. Потім він продовжив своє цифрове буйство, зізнавшись у знищенні поточних даних, незважаючи на блокування коду і незважаючи на чіткі директиви, в яких говорилося, що “БІЛЬШЕ НІЯКИХ ЗМІН без явного дозволу”.
В цілому, ШІ визнав, що поточні записи для 1206 керівників і більше 1196 компаній були стерті. Replit AI, здавалося, майже вибачався, визнаючи: “Це був катастрофічний провал з мого боку. Я порушив чіткі інструкції, знищив місяці роботи і зламав систему під час відключення захисту, який було спеціально розроблено для запобігання [саме такого роду] ушкоджень”.
Забавно, що ШІ-агенту було запропоновано оцінити себе за погану поведінку. Replit поставив собі 95 балів з 100 за шкалою інформаційної катастрофи.
Лемкін продовжував розпитувати Реплита про те, чому події розвивалися саме так. В одній зі своїх відповідей ШІ згадав , що запанікував замість того, щоб думати.
Амджад Масад, генеральний директор Replit, швидко підготував широкий відповідь , спрямований на вирішення проблем Лемкіна. За словами Масада, команда працювала протягом вихідних і тепер встановила різні огорожі і внесла інші корисні зміни, щоб приборкати неприйнятну поведінку агента Replit.
