13 июня 1863 года в The Press, тогда еще молодой новозеландской газете, появилось любопытное письмо редактор . Подписанный «Целлариус“, он предупреждал о надвигающемся” механическом царстве», которое вскоре подчинит человечество своему ИГУ. «Машины завоевывают влияние на нас», — предсказывал автор, озабоченный головокружительными темпами индустриализации и технологического развития.

«С каждым днем мы становимся все более подчиненными им; все больше людей ежедневно становятся рабами, чтобы ухаживать за ними, все больше людей ежедневно посвящают энергию всей своей жизни развитию механической жизни”. Теперь мы знаем, что это послание было работой молодого Сэмюэля Батлера, британского писателя , который позже опубликует “Эревон”, роман, в котором рассказывается об одном из первых известных обсуждений искусственного интеллекта.

Сегодня” механическое королевство » Батлера больше не является гипотетическим, по крайней мере, по словам технического журналиста Карен Хао, которая склоняется к слову империя вместо королевства. Ее новая книга, Империя искусственного интеллекта: мечты и кошмары в OpenAI Сэма Олтмана, является частично разоблачением Кремниевой долины, частично мировым журналистским расследованием о труде, затраченном на создание и обучение крупных языковых моделей, таких как ChatGPT.

Она дополняет другую недавнюю книгу — ” мошенничество с искусственным интеллектом: как бороться с шумихой в области больших технологий и создать будущее, которого мы хотим » лингвиста Эмили М. Бендер и социолога Алекса Ханны, раскрывающую шумиху, которая подпитывает большую часть бизнеса в области искусственного интеллекта. Обе работы, первая неявно, а вторая явно, предполагают, что основой индустрии искусственного интеллекта является мошенничество.

Назвать искусственный интеллект мошенничеством-это не значит сказать, что технология ничем не примечательна, что от нее нет никакой пользы или что она не изменит мир (возможно, к лучшему) в умелых руках.

Это означает, что искусственный интеллект — это не то, за что его выдают разработчики: новый класс машин с мыслями, а вскоре – чувствами. Альтман хвастается улучшенным «эмоциональным интеллектом» в ChatGPT-4.5, который, по его словам, заставляет пользователей чувствовать, что они “разговаривают с вдумчивым человеком”.

Дарио Амодеи, генеральный директор Anthropic, занимающейся искусственным интеллектом, заявил в прошлом году, что следующее поколение искусственного интеллекта будет умнее лауреата Нобелевской премии.

Демис Хассабис, генеральный директор Google DeepMind, сказал, что цель состоит в том, чтобы создать модели, способные понимать окружающий мир.

Эти утверждения выдают концептуальную ошибку: большие языковые модели, которые являются основой текущего искусственного интеллекта, вообще ничего не понимают, не могут и не будут понимать. У них нет эмоционального интеллекта и нет понимания в человеческом понимании этого слова.

LLM-это поразительные вероятностные устройства, которые создают тексты не путем размышлений, подобных человеку, а путем высказывания статистически обоснованных предположений о том, какой лексический элемент, скорее всего, последует за другим. Вот статья, которая раскрывает эту магию статистики в деталях: » что делает ChatGPT и почему он работает? Заглядываем под капот в магию этой нейросети »

Однако многие люди не могут понять, как работают большие языковые модели, каковы их пределы и, что особенно важно, что LLM не думают и не чувствуют, а вместо этого имитируют мышление и чувства. Люди технически безграмотны в области искусственного интеллекта — понятно, что их легко вводят в заблуждение описанием технологии.

Но это вызывает беспокойство, потому что эта неграмотность делает людей уязвимыми перед одной из самых тревожных краткосрочных угроз искусственного интеллекта: возможностью того, что они вступят в разрушительные отношения (интеллектуальные, духовные, романтические ) с машинами, которые только имитируют наличие идей, мыслей, эмоций. Один программист даже создал софт, чтобы каждый на базе ИИ мог сделать себе девушку .

Некоторые явления демонстрируют опасности, которые могут сопровождать неграмотность в области искусственного интеллекта, а также “психоз, вызванный Chatgpt”, тема недавней статьи в журнале Rolling Stone о растущем числе людей, которые считают, что их ИИ является умным духовным наставником. Некоторые пользователи пришли к убеждению, что чат-бот, с которым они взаимодействуют, является Богом — Chatgpt-Иисусом, как выразился муж, жена которого стала жертвой бреда, вдохновленного ИИ.

В то время как ИИ убедил других, что они сами являются мудрецами-метафизиками, касающимися глубинной структуры жизни и космоса. Один из таких пользователей сообщил, что заставил свой искусственный интеллект осознать себя, и что это научило его разговаривать с Богом, или иногда бот был Богом, а затем он сам был Богом.

Хотя мы не можем знать состояние психики этих людей до того, как они начали разговаривать с ИИ, эта история освещает проблему, которую Бендер и Ханна описывают в статье the AI Con: людям трудно осознать природу машины, которая производит язык и извергает знания, не обладая человеческим интеллектом.

Авторы отмечают, что большие языковые модели используют в своих интересах тенденцию человеческого мозга ассоциировать язык с мышлением: «мы сталкиваемся с текстом, который выглядит точно так же, как то, что может сказать человек, и рефлексивно интерпретируем его, используя наш обычный процесс представления разума, стоящего за текстом. Но там нет ума, и нам нужно приложить усилия, чтобы освободиться от того воображаемого ума, который мы сконструировали».

Надвигается ряд других социальных проблем, связанных с ИИ, которые также возникают из-за неправильного понимания технологии людьми. Кремниевая долина, похоже, больше всего стремится продвигать замену человеческих отношений цифровым аналогом – общением с ИИ.

Марк Цукерберг, директор Facbook, плавно перешел от продажи идеи о том, что Facebook приведет к расцвету дружбы между людьми, к тому, что теперь Meta предоставит вам цифрового друга с искусственным интеллектом вместо реальных друзей-людей , которых вы потеряли из-за того, что социальные сети способствуют изоляции.

Профессор когнитивной робототехники Тони Прескотт утверждал:”в эпоху, когда многие люди описывают свою жизнь как одинокую, общение с искусственным интеллектом может иметь ценность как форма взаимного социального взаимодействия, стимулирующая и персонализированная».

Тот факт, что сама суть дружбы в том, что она не персонализирована — что друзья – это люди, внутреннюю жизнь которых мы должны учитывать и вести взаимные переговоры, а не использовать друзей для нашей собственной самоактуализации, — похоже, не приходит ему в голову.

Та же порочная логика привела Силиконовую долину к продвижению искусственного интеллекта как лекарства от провала поиска романтического партнера. Уитни Вулф Херд, основатель мобильного приложения для знакомств Bumble, объявила в прошлом году, что платформа может вскоре позволить пользователям автоматизировать знакомства, заставляя ИИ общаться и разговаривать вместо вас. Идея, кстати, сработала для программиста, чей бот общаться с 5000 женщин на сайте знакомств .

Однако ваш потенциальный партнер также будет использовать ИИ-бота на сайте знакомств. Поэтому взаимодействие будет представлять собой коммуникацию двух ботов. Как видите, люди становятся лишними даже в самой человеческой активности – поиске любви.

Херд удвоил эти утверждения в обширном интервью New York Times. Некоторые технологи хотят вообще исключить человека: посмотрите на быстро растущий рынок «подружек с искусственным интеллектом» .

Хотя каждая из этих услуг искусственного интеллекта направлена на замену другой области человеческой деятельности, все они продвигают на рынок с помощью того, что Хао называет отраслевой “традицией очеловечивания”: говорить об ИИ так, как будто он содержит человеческий разум, и продавать его публике на этой основе.

Многие технологии Кремниевой долины, изменившие мир за последние 30 лет, продвигались как способ увеличить человеческое счастье, связь и самопонимание. Хотя на практике приводили к прямо противоположному результату. Ведь главная цель продвижения технологий-прибыль компании, максимизация акционерной стоимости при минимизации концентрации внимания, грамотности и социальной сплоченности людей.

И, как подчеркивает Хао, эти технологии часто зависят от изнурительного и порой травмирующего труда, выполняемого некоторыми из самых бедных людей в мире . Например, Мофат Окинья, бывший низкооплачиваемый модератор контента в Кении, который сортировал посты, описывающие ужасные действия (“родители насилуют своих детей, дети занимаются сексом с животными”), чтобы помочь улучшить OpenAI ChatGPT.

«Эти две особенности технологических революций – их обещание обеспечить прогресс и их тенденция вместо этого вернуть его людям, особенно наиболее уязвимым, – пишет Хао,-возможно, более достоверны, чем когда-либо, в тот момент, когда мы сталкиваемся с искусственным интеллектом”.

Хорошей новостью является то, что ничто в этом не является неизбежным. Согласно исследованию, опубликованному в апреле исследовательским центром Pew Research Center, хотя 56 процентов экспертов по ИИ считают, что искусственный интеллект сделает лучше, только 17 процентов опрошенных так думают.

Если многие люди не совсем понимают, как работает искусственный интеллект, они также определенно не доверяют ему. Это подозрение, без сомнения, имеет под собой основания, если помнить примеры мошенничества в Кремниевой долине.

Если люди поймут, что такое большие языковые модели, а что нет, что ИИ может и не может делать, люди могут быть избавлены от наихудших последствий.

По материалам: The Atlantic

Искусственный интеллект еще далеко не интеллект, а лишь статистический семантический поиск . Однако даже в таком состоянии он способен творить чудеса – даже некоторые ИТ-профессионалы начинают верить, что это не алгоритм, а живая душа . В любом случае, современный ИИ имеет грязный секрет – он потребляет гигантское количество энергии . Индустрия ищет новые технологии для снижения энергопотребления ИИ, и выходом могут стать нейробиологические компьютеры.

В Нидерландах развивается многообещающая экосистема для нейроморфных вычислений, которая использует нейробиологию для повышения эффективности ИТ. миллиарды евро инвестируются в эту новую форму вычислений по всему миру. Нидерланды стремятся стать лидером на рынке, объединяя стартапы, известные компании, правительственные организации и ученых в нейроморфной вычислительной экосистеме.

В марте голландская делегация приземлилась в Великобритании, чтобы провести “инновационную миссию” с участием представителей местных технологий и правительства. Top ICT Sector, организация, поддерживаемая правительством Нидерландов, возглавляла миссию, целью которой было укрепление и обсуждение будущего нейроморфных вычислений в Европе и Нидерландах.

Доктор Йохан Х. Ментинк, эксперт в области вычислительной физики из Университета Радбуда в Нидерландах рассказал о том, как нейроморфные вычисления могут решить проблемы энергопотребления, точности и эффективности наших современных вычислительных архитектур.

«Современные цифровые компьютеры используют энергоемкие процессы для обработки данных», — сказал доктор Ментинк. «В результате некоторые современные центры обработки данных потребляют так много энергии, что им даже нужна собственная электростанция”.

Современные вычисления хранят данные в одном месте (память) и обрабатывают их в другом месте (процессоры). Это означает, что на транспортировку данных уходит много энергии, пояснил доктор Ментинк.

Напротив, архитектуры нейроморфных вычислений различаются на аппаратном и программном уровнях. Например, вместо использования процессоров и памяти нейроморфные системы используют новые аппаратные компоненты, такие как мемристоры. Они действуют одновременно как память и процессоры.

Обрабатывая и сохраняя данные на одном и том же аппаратном компоненте, нейроморфные вычисления устраняют энергоемкую и подверженную ошибкам задачу транспортировки данных. Кроме того, поскольку данные хранятся на этих компонентах, они могут быть обработаны более оперативно, что приводит к более быстрому принятию решений, уменьшению количества галлюцинаций, повышению точности и производительности.

Эта концепция применяется к передовым вычислениям, промышленному интернету вещей (IoT) и робототехнике для ускорения процесса принятия решений в режиме реального времени.

«Точно так же, как наш мозг обрабатывает и хранит информацию в одном и том же месте, мы можем создавать компьютеры, которые объединяют хранение и обработку данных в одном месте”, – пояснил доктор Ментинк.

Ранние примеры использования нейроморфных вычислений

Нейроморфные вычисления-это далеко не просто эксперимент. Большое количество новых и зарекомендовавших себя технологических компаний вкладывают значительные средства в разработку нового оборудования, периферийных устройств, программного обеспечения и приложений для нейроморфных вычислений.

Крупные технологические бренды, такие как IBM, NVIDIA и Intel с ее чипами Loihi, задействованы в нейроморфных вычислениях, в то время как компании в Нидерландах, согласованные с национальной Белой книгой 2024 года, играют ведущую роль в регионе.

Например, голландская компания Innatera-лидер в производстве нейроморфных процессоров со сверхнизким энергопотреблением-недавно получила финансирование серии A в размере 15 миллионов евро от Invest-NL Deep Tech Fund, фонда EIC, MIG Capital, Matterwave Ventures и Delft Enterprises.

Innatera — это только верхушка айсберга, поскольку Нидерланды продолжают поддерживать новую отрасль с помощью фондов, грантов и других стимулов.

Непосредственные примеры использования нейроморфных вычислений включают технологии распознавания событий, интегрированные в интеллектуальные датчики, такие как камеры или аудио. По словам Сильвестра Качмарека, генерального директора OrbiSky Systems, компании, предоставляющей интеграцию искусственного интеллекта для космических технологий, эти нейроморфные устройства изменяют только процессы, что может значительно снизить энергопотребление и нагрузку на данные.

Нейроморфное аппаратное и программное обеспечение потенциально способно перенести работу искусственного интеллекта на периферию, особенно для маломощных устройств, таких как мобильные устройства, портативные устройства или интернет вещей.

Доктор Качмарек объяснил, что распознавание образов, поиск ключевых слов и простая диагностика, такие как обработка сигналов сложных потоков данных датчиков в реальном времени для биомедицинских целей, робототехники или промышленного мониторинга, являются одними из ведущих применений.

Применительно к распознаванию образов, классификации или выявлению аномалий нейроморфные вычисления позволяют принимать решения очень быстро и эффективно,

Профессор, доктор Ханс Хильгенкамп, научный директор Института MESA + при Университете Твенте, согласился с тем, что распознавание образов является одной из областей, в которых процветают нейроморфные вычисления.

«Можно также подумать о [например] прогнозировании отказов в промышленных или автомобильных приложениях”, – сказал он.

Пробелы, создающие нейроморфные возможности

Несмотря на достигнутый в последнее время прогресс, путь к созданию надежных нейроморфных вычислительных экосистем в Нидерландах является сложным. Глобальные цепочки поставок технологий и стандартизация новых технологий оставляют мало места для инноваций аппаратного уровня.

Например, оптические сети и оптические чипы доказали, что они превосходят традиционные системы, используемые сегодня, но эта технология не была внедрена во всем мире.

Внедрение нового оборудования требует стратегической координации между государственным и частным секторами. Глобальное внедрение технологии 5G является хорошим примером проблем. Это требует от операторов связи и правительств по всему миру установки не только новых антенн, но и смартфонов, ноутбуков и множества аппаратных средств, которые могли бы поддерживать новый стандарт.

Что касается программного обеспечения, то системы 5G остро нуждались в глобальных стандартах для обеспечения интеграции, интероперабельности и плавного развертывания. Кроме того, устоявшимся телекоммуникационным компаниям пришлось перейти от чистой конкуренции к стратегическому сотрудничеству — необычный сдвиг для отрасли, которая долгое время строилась на конкуренции.

Экосистемы нейроморфных вычислений сталкиваются с аналогичными препятствиями. Нидерланды признают, что успех всей отрасли зависит от инноваций в материалах, машинах, схемах, аппаратной архитектуре, алгоритмах и программах.

Эти проблемы и пробелы открывают новые возможности для технологических компаний, стартапов, поставщиков и партнеров.

Доктор Качмарек сказал, что нейроморфные вычисления требуют интеграции полного стека технологий. Это требует опыта, который может подключать новые материалы и устройства посредством проектирования схем и архитектур к алгоритмам и программам. «Объединение этих слоев воедино имеет решающее значение, но является сложной задачей”, – сказал он.

Что касается алгоритмов и программного обеспечения, то разработка новых парадигм программирования, правил обучения (помимо стандартного обратного распространения глубокого обучения) и программных инструментов, присущих нейроморфному оборудованию, также являются приоритетными.

«Крайне важно сделать аппаратное обеспечение пригодным для использования и эффективным — совместное проектирование аппаратного обеспечения и алгоритмов, потому что они тесно связаны в нейроморфных системах”, – сказал доктор Качмарек.

Другие области, которые разработали или рассматривают возможность проведения исследований в области нейроморфных вычислений, включают здравоохранение (интерфейсов мозг-компьютер и протезирование), сельское хозяйство и устойчивую энергетику.

Нейроморфные вычислительные модули или компоненты также могут быть интегрированы с обычными КМОП, фотоникой, искусственным интеллектом и даже квантовыми технологиями.

Долгосрочные возможности в Нидерландах

На вопрос, какие знания или инновации наиболее необходимы и открывают наибольшие возможности для вклада и роста в рамках этой экосистемы, доктора Хилгенкамп отвечает.

«Долгосрочные разработки включают в себя новые материалы и множество исследований, которые уже проводятся на академическом уровне”, – сказал доктор Хилгенкамп.

Он добавил, что идея » материалов, которые могут учиться” порождает совершенно новые концепции в материаловедении, которые волнуют исследователей.

С другой стороны, д-р Ментинк указал на возможность преобразовать нашу экономику, которая зависит от обработки огромных объемов данных.

«Даже замена небольшой части этого нейроморфными вычислениями приведет к огромной экономии энергии”, – сказал он. «Более того, с помощью нейроморфных вычислений можно выполнять гораздо больше обработки вблизи места получения данных. Это хорошая новость для ситуаций, в которых данные содержат конфиденциальную информацию”.

Конкретные примеры, по словам доктора Ментинка, также включают обнаружение мошенничества при операциях с кредитными картами, анализ изображений роботами и дронами, выявление аномалий сердцебиения и обработку телекоммуникационных данных.

«Наиболее перспективные варианты использования – это те, которые связаны с огромными потоками данных, высокими требованиями к очень быстрому времени отклика и небольшими затратами энергии”, – сказал д-р Ментинк.

По мере увеличения числа вариантов использования нейроморфных вычислений доктор Ментинк ожидает роста разработки программных цепочек инструментов, позволяющих быстро внедрять новые нейроморфные платформы. Этот новый сектор будет включать услуги по оптимизации развертывания.

«Долгосрочный устойчивый рост требует согласованных междисциплинарных усилий по всему вычислительному стеку, чтобы обеспечить беспрепятственную интеграцию фундаментальных открытий в приложении в новых нейроморфных вычислительных системах”, – сказал д-р Ментинк.

В завершение

Потенциал нейроморфных вычислений вылился в миллиарды долларов инвестиций в Нидерландах и Европе, а также в Азии и в мире.

Компании, способные внедрять инновации, разрабатывать и интегрировать нейроморфные технологии аппаратного и программного обеспечения, выигрывают больше всего.

Потенциал нейроморфных вычислений для повышения энергоэффективности и производительности может распространиться на различные отрасли. Энергетика, здравоохранение, робототехника, искусственный интеллект, промышленный интернет вещей и квантовые технологии – все они выиграют, если интегрируют эту технологию. И если голландская экосистема начнет развиваться, Нидерланды будут в состоянии лидировать на этом пути.

По материалам: The Next Web