Джеффрі Хінтон — піонер у сфері нейронних мереж, чиї розробки змінили індустрію AI, і якого часто називають «хрещеним батьком штучного інтелекту» — вважає, що для запобігання загрозі від «некерованого» AI потрібно надати системам «материнські інстинкти».
Хінтон, чия робота з нейронними мережами сприяла появі сучасних великих мовних моделей (LLM), нині більше відомий як скептик та критик безпечності штучного інтелекту. Він неодноразово попереджав про ймовірність знищення людства надрозумними системами.
Під час конференції індустрії штучного інтелекту в Лас-Вегасі Нобелівський лауреат (2024) окреслив своє бачення: надрозумний AI не буде «покірним» спробам людей його контролювати.
«Розумні системи дуже швидко вироблять дві підцілі: перша — вижити, друга — отримати більше контролю», — заявив Хінтон.
На його думку, замість жорсткого домінування слід застосувати інший підхід: зробити так, щоб штучний інтелект став схожим на маму, яка піклується про свою «нерозумну дитину» — людину.
«Єдина відома нам модель, де більш розумне створіння підконтрольне менш розумному, — це мати, яку контролює її дитина», — сказав він. — «Це єдиний хороший сценарій. Якщо AI не буде мене «виховувати», він мене замінить».
Хінтон вважає, що «суперінтелектуальні турботливі матері-AI» здебільшого не захочуть позбуватися цього інстинкту, щоб не допустити загибелі людей.
Ця ідея викликає питання. Сам термін «материнський інстинкт» — суперечливий і науково неоднозначний. Дослідження показують, що досвід вагітності та батьківства змінює мозок, але після пологів жінки переживають дуже різний спектр емоцій та зв’язку з дитиною. Часто зв’язок формується поступово, а не миттєво.
Багато експертів наголошують, що образ «природженого інстинкту матері» був сформований переважно чоловіками, закріплений у релігійних уявленнях, євгеніці та гендерних стереотипах.
«Уявлення про те, що самопожертва і ніжність, необхідні дитині, автоматично вшиті в жіночу біологію, — це сучасний і шкідливий міф», — писала Пулітцерівська лауреатка Челсі Коннабой у The New York Times (2022).
Хоча любов і турбота батьків до дітей — реальність, саме існування такого інстинкту на біологічному рівні залишається дискусійним. Тож ідея передати його AI — тим паче у вимірюваній формі — базується на неперевіреному припущенні.
Сам Хінтон зазначив, що турбота матерів про дітей — не лише інстинкт, а й результат соціального тиску. Однак суспільний тиск існує в більшості сфер людського життя і не обмежується лише материнством.
Варто нагадати, що суперінтелект наразі — лише гіпотетичне явище. Натомість уже сьогодні є більш нагальні проблеми, наприклад, посилення соціальних упереджень, які моделі AI переймають із тренувальних даних.
Та й навряд чи єдині два сценарії взаємодії з AI — це або «панування й підкорення», або «AI-мама та людське немовля».
