Думаєте, ви можете перехитрити штучний інтелект та змусити його говорити те, що йому не слід? У такому разі ви можете отримати до $15 000 на свій рахунок. Корпорація Майкрософт робить великі ставки на те, що її штучний інтелект виявиться стійким, і готова заплатити, якщо це не так.
Microsoft оголосила про нову програму винагород за помилки, пообіцявши заплатити дослідникам безпеки її штучного інтелекту від 2000 до 15 000 доларів США, якщо вони зможуть знайти вразливості в її продуктах Bing AI. Серед таких вразливостей, наприклад, втеча з в’язниці – така інструкція штучному інтелекту, яка змусить його ігнорувати встановлені обмеження та виробляти відповіді, які у нормальному режимі мали би бути заблокованими.
Грошову винагороду можна отримати за вразливості у таких продуктах та інтеграціях:
- Робота Bing на основі штучного інтелекту на bing.com у веб-браузері (підтримуються всі основні служби, включаючи Bing Chat, Bing Chat for Enterprise і Bing Image Creator)
- Інтеграція Bing на основі штучного інтелекту в Microsoft Edge (Windows), включаючи Bing Chat for Enterprise
- Інтеграція Bing на основі штучного інтелекту в Microsoft Start Application ( iOS і Android)
- Інтеграція Bing на основі штучного інтелекту в мобільну програму Skype ( iOS і Android)
Щоб мати право на винагороду, користувачі Bing повинні повідомити корпорацію Майкрософт про раніше невідому вразливість, яка відповідно до критеріїв, визначених компанією, є «важливою» або «критичною» для безпеки. Вони також повинні мати можливість відтворити вразливість за допомогою відео або в письмовій формі.
Розмір винагороди залежить від рівня серйозності та якості, тобто найкраща документація про найкритичніші помилки отримає найбільше грошей.
Ця програма винагород за помилки з’явилася майже одразу після виявлення суттєвих проблем з поведінкою штучного інтелекту Bing AI. Наприклад, на початку лютого Bing AI почав робити божевільні речі, як-от складати списки своїх ворогів і розмірковувати про способи боротьби з ними, стверджувати, що шпигує за користувачами через їхні веб-камери та погрожувати людям, які його розлютили.
З огляду на це, Microsoft уже за місяць після запуску провела «лоботомію» своєму штучному інтелекту, майже повністю прибравши ймовірність повторення таких діалогів. Багатьом користувачам такий «вихолощений» та обмежений Bing AI не сподобався.
