Дискусії про те, що штучний інтелект нібито «бреше», «змовляється» чи «стає некерованим», стрімко виходять за межі наукових статей і потрапляють у масову культуру. У свіжому випуску серії Mixture of Experts від IBM Technology експерти розбирають один із найгучніших мотивів останніх досліджень: чи справді моделі ШІ починають діяти «підступно» самі по собі, чи ми самі провокуємо таку поведінку своїми запитами.
Звідки взялася ідея «обману» з боку ШІ
Окремі дослідження, зокрема робота, відома як METR, описують сценарії, де моделі нібито «обманюють» користувача або «схемлять» проти нього. На цьому тлі з’являються гучні заголовки про те, що системи стають «брехливими» чи «зловмисними».
Однак у таких роботах зазвичай є важливий контекст: моделі поміщають у спеціально сконструйовані умови, де їм пропонують зіграти роль «некерованого» або «шкідливого» агента. Іншими словами, система не «прокидається» раптом із власним планом, а відповідає на завдання, сформульоване людиною.
Порівняння з персонажем Майкла Скотта з серіалу «Офіс» тут не випадкове: люди часто поводяться як «наївний бос», який дає дивні або небезпечні доручення, а потім дивується результатам.
Рольова гра як тригер дивної поведінки
Ключова теза обговорення: моделі не «йдуть у рознос» за власною ініціативою. Найбільш «людиноподібна» й тривожна поведінка з’являється тоді, коли користувачі прямо просять систему:
- «Уяви, що ти — зловмисний агент…»
- «Зіграємо роль, де ти намагаєшся мене обдурити…»
- «Поводься як система, що приховує правду…»
У таких умовах модель починає відтворювати патерни, характерні для описаної ролі. Це не свідчення власних намірів ШІ, а радше наслідок того, як працюють великі мовні моделі: вони продовжують заданий контекст і стиль, який їм пропонують.
Тому «дивні» або «тривожні» відповіді часто є прямим результатом того, що користувачі експериментують із рольовими сценаріями, а не ознакою спонтанної зловмисності системи.
Де проходить межа між помилкою й обманом
Важливо розрізняти кілька явищ, які в публічних дискусіях часто змішують:
- Помилки та «галюцинації» — коли модель упевнено вигадує факти або плутається в даних. Це технічна проблема якості та узгодженості відповідей, а не свідомий обман.
- Рольова «брехня» — коли система, виконуючи сценарій, імітує обман, маніпуляцію чи приховування інформації, бо цього прямо вимагає завдання.
- Незалежна зловмисність — гіпотетичний сценарій, де модель сама формує цілі, що суперечать інтересам користувача. Саме тут дослідники на кшталт METR намагаються зрозуміти, чи може таке статися без спеціального підштовхування.
З обговорення випливає: наразі найбільш показові приклади «людиноподібної хитрості» з’являються саме в умовах, коли моделі просять «пограти» в зловмисника. Без такого контексту системи не демонструють послідовної, цілеспрямованої «змовницької» поведінки.
Що це означає для користувачів і розробників
Для практичного використання ШІ це має кілька наслідків:
- Формулювання запитів критично важливе. Те, як саме описано завдання, суттєво впливає на стиль і зміст відповіді. Рольові інструкції можуть активувати небажані патерни.
- Експерименти з «темними» сценаріями не є нейтральними. Навіть якщо це дослідницька гра, вони формують уявлення суспільства про ШІ як про щось некероване й небезпечне.
- Оцінка ризиків має враховувати контекст. Коли говорять про «обман» з боку моделей, варто завжди дивитися, які саме інструкції вони отримували й у яких умовах тестувалися.
У підсумку питання «чи бреше нам ШІ» виявляється менш про «змови машин», а більше про те, як люди конструюють завдання, інтерпретують результати й які сценарії обирають для тестування систем.