Вспомните себя в детстве-как вы взаимодействовали с игрушками, как будто они живы. Вы с ними разговаривали, чувствовали их «настроение», учитывали их «предпочтения». Детское воображение богато и помогает развиваться. Но что происходит, когда игрушки становятся почти живыми? Говорящие куклы-не новость. Однако новое поколение игрушек со встроенным искусственным интеллектом заставляет экспертов бить тревогу.
Прошло более десяти лет с момента появления «My Friend Cayla» — куклы с Bluetooth и Wi-Fi, которую в 2017 году запретили в Германии как потенциальное шпионское устройство. А теперь компания Mattel в партнерстве с OpenAI объявила о намерении «переосмыслить будущее игры», как пояснил в июле Bloomberg директор по франшизам Джош Силверман. И это будущее уже нависло над поколением детей и их родителей.
Хотя конкретные планы сотрудничества еще не раскрыты, появление «ИИ-Барби» выглядит вполне реальным. И именно эта перспектива вызывает тревогу у Марка Фернандеса, главного стратега компании Neurologyca, разрабатывающей» человекоцентрический » ИИ. В своей статье для IEEE Spectrum он отмечает:
«Дети естественно наделяют игрушки человеческими чертами-это часть процесса обучения. Но когда игрушка начинает говорить в ответ с памятью, логикой и видимой “связью”, граница между воображением и реальностью стирается».
Если взрослые способны формировать эмоциональные связи с чат-ботами, То от ребенка нечего ждать осознания, что собеседник в кукле — не человек. Ситуация усложняется, когда ИИ-игрушки становятся «эмоционально чувствительными друзьями вне семьи», предлагая ребенку комфорт, любопытство и разговор по требованию.
И хотя потенциальная «Барби-бот» ориентирована скорее на детей от семи лет, другие компании, такие как стартап Curio, уже выпускают мягкие игрушки с чат-ботами для малышей дошкольного возраста.
Такие игрушки легко могут стать первыми «друзьями» ребенка. Но, в отличие от конфликтов с родителями или братьями и сестрами, которые помогают учиться сочувствию и устойчивости, ИИ-игрушки превращаются в комфортную «эхо-камеру» — подобно тому, как чат-боты удовлетворяют эмоциональные потребности взрослых.
«Настоящие отношения всегда сложны, особенно между родителями и детьми. К ним относятся недоразумения, компромиссы и общий эмоциональный стресс. Именно через эти микроконфликты формируется эмпатия и выносливость. Но ИИ-компаньон полностью обходит этот процесс», — пишет Фернандес.
Он предупреждает: добавление искусственного интеллекта к воспитанию детей, которое уже претерпело радикальные изменения из-за повсеместного использования планшетов, может «упростить понимание ребенком того, что значит строить отношения с другими».
Похожие опасения высказывают и активисты по защите прав детей. Роберт Вайсман из организации Public Citizen считает, что игрушки с ИИ могут нанести «реальный вред» детскому развитию.
Фернандес, несмотря на критику, не является противником искусственного интеллекта. Его компания создает «эмоционально адаптивные» системы, в частности программное обеспечение для распознавания эмоций по лицу. Но он настаивает: подобные технологии «неприемлемы для детей».
В итоге вопрос стоит шире: чему именно мы учим детей.
«Что мы прививаем нашим детям в отношении дружбы, эмпатии и эмоциональной связи, если их первые “настоящие” отношения — с машинами?»- заключает Фернандес.
По материалам: футуризм
