Джеффри Хинтон-пионер в области нейронных сетей, чьи разработки изменили индустрию ИИ, и которого часто называют «крестным отцом искусственного интеллекта» — считает, что для предотвращения угрозы от «неуправляемого» ИИ нужно придать системам «материнские инстинкты».
Хінтон, чия робота з нейронними мережами сприяла появі сучасних великих мовних моделей (LLM), нині більше відомий як скептик та критик безпечності штучного інтелекту. Він неодноразово попереджав про ймовірність знищення людства надрозумними системами.
Во время конференции индустрии искусственного интеллекта в Лас-Вегасе Нобелевский лауреат (2024) изложил свое видение: сверхразумный ИИ не будет «покорным» попыткам людей его контролировать.
«Умные системы очень быстро выработают две подцели: первая-выжить, вторая — получить больше контроля», — заявил Хинтон.
По его мнению, вместо жесткого доминирования следует применить другой подход: сделать так, чтобы искусственный интеллект стал похожим на маму, которая заботится о своем «неразумном ребенке» — человеке.
«Единственная известная нам модель, в которой более разумное существо контролируется менее разумным, — это мать, которую контролирует ее ребенок», — сказал он. — «Это единственный хороший сценарий. Если ИИ не будет меня «воспитывать», он меня заменит».
Хинтон считает, что» суперинтеллектуальные заботливые матери-ИИ » по большей части не захотят избавляться от этого инстинкта, чтобы не допустить гибели людей.
Эта идея вызывает вопросы. Сам термин «материнский инстинкт» — противоречивый и научно неоднозначный. Исследования показывают, что беременность и отцовство изменяют мозг, но после родов женщины испытывают совершенно другой спектр эмоций и связи с ребенком. Часто связь формируется постепенно, а не мгновенно.
Многие эксперты подчеркивают, что образ «врожденного инстинкта матери» был сформирован преимущественно мужчинами, закреплен в религиозных представлениях, евгенике и гендерных стереотипах.
«Представление о том, что самопожертвование и нежность, необходимые ребенку, автоматически вшиты в женскую биологию, — Это современный и вредный миф», — писала Пулитцеровская лауреат Челси Коннабой в The New York Times (2022).
Хотя любовь и забота родителей к детям-реальность, само существование такого инстинкта на биологическом уровне остается дискуссионным. Таким образом, идея передать его ИИ — тем более в измеримой форме — основана на непроверенном предположении.
Сам Хинтон отметил, что забота матерей о детях — не только инстинкт, но и результат социального давления. Однако общественное давление существует в большинстве сфер человеческой жизни и не ограничивается только материнством.
Стоит напомнить, что суперинтеллект сейчас-лишь гипотетическое явление. Вместо этого уже сегодня есть более насущные проблемы, такие как усиление социальных предубеждений, которые модели ИИ берут на себя из данных обучения.
Да и вряд ли единственные два сценария взаимодействия с AI-это либо» господство и покорение«, либо»AI-мама и человеческий младенец».
