Згадайте себе у дитинстві — як ви взаємодіяли з іграшками, наче вони живі. Ви з ними розмовляли, відчували їхній “настрій”, враховували їхні “уподобання”. Дитяча уява багата й допомагає розвиватися. Але що станеться, коли іграшки стануть майже справді живими? Розмовляючі ляльки — не новина. Проте нове покоління іграшок із вбудованим штучним інтелектом змушує експертів бити тривогу.
Минуло понад десять років від появи «My Friend Cayla» — ляльки з Bluetooth і Wi-Fi, яку у 2017 році заборонили в Німеччині як потенційний шпигунський пристрій. А тепер компанія Mattel у партнерстві з OpenAI оголосила про намір «переосмислити майбутнє гри», як пояснив у липні Bloomberg директор з франшиз Джош Сілверман. І це майбутнє вже нависло над поколінням дітей і їхніх батьків.
Хоча конкретних планів співпраці ще не розкрито, поява «ШІ-Барбі» виглядає цілком реальною. І саме ця перспектива викликає тривогу в Марка Фернандеса, головного стратега компанії Neurologyca, що розробляє «людиноцентричний» ШІ. У своїй статті для IEEE Spectrum він зазначає:
«Діти природно наділяють іграшки людськими рисами — це частина процесу навчання. Але коли іграшка починає говорити у відповідь з пам’яттю, логікою та видимим “зв’язком”, межа між уявою і реальністю стирається».
Якщо дорослі здатні формувати емоційні зв’язки з чат-ботами, то від дитини годі чекати усвідомлення, що співрозмовник у ляльці — не людина. Ситуація ускладнюється, коли ШІ-іграшки стають «емоційно чутливими друзями поза сім’єю», що пропонують дитині комфорт, цікавість і розмову на вимогу.
І хоча потенційна «Барбі-бот» орієнтована радше на дітей від семи років, інші компанії, як-от стартап Curio, вже випускають м’які іграшки з чат-ботами для малюків дошкільного віку.
Такі іграшки легко можуть стати першими «друзями» дитини. Але, на відміну від конфліктів з батьками чи братами й сестрами, які допомагають вчитися співпереживанню та стійкості, ШІ-іграшки перетворюються на комфортну «ехо-камеру» — подібно до того, як чат-боти задовольняють емоційні потреби дорослих.
«Справжні стосунки завжди складні, особливо між батьками та дітьми. Вони включають непорозуміння, компроміси та спільний емоційний стрес. Саме через ці мікроконфлікти формується емпатія та витривалість. Але ШІ-компаньйон повністю обходить цей процес», — пише Фернандес.
Він попереджає: додавання штучного інтелекту до виховання, яке вже зазнало кардинальних змін через повсюдні планшети, може «спростити уявлення дитини про те, що означає будувати стосунки з іншими».
Схожі побоювання висловлюють і активісти з захисту прав дітей. Роберт Вайсман з організації Public Citizen вважає, що іграшки з ШІ можуть завдати «реальної шкоди» дитячому розвитку.
Фернандес, попри критику, не є противником штучного інтелекту. Його компанія створює «емоційно адаптивні» системи, зокрема програмне забезпечення для розпізнавання емоцій за обличчям. Але він наполягає: подібні технології «не є прийнятними для дітей».
У підсумку питання стоїть ширше: чого саме ми навчаємо дітей.
«Що ми прищеплюємо нашим дітям щодо дружби, емпатії та емоційного зв’язку, якщо їхні перші “справжні” стосунки — із машинами?» — підсумовує Фернандес.
За матеріалами: Futurism
