Недавно стало известно, что алгоритмы Google активно используются в военных операциях. Многим сотрудникам поискового гиганта это не понравилось, и они призвали прекратить военное использование фирменного искусственного интеллекта. В ответ на это Google заявила о разработке новых этических стандартов использования своих продуктов и технологий.

Об этом в Google объявили после того, как 3000 сотрудников компании подписали письмо к директору поискового гиганта Сундару Пичаи. В послании они требовали прекратить использование искусственного интеллекта компании в пользу Министерства обороны США в проекте Maven. В последнем программное обеспечение Google использовалось для анализа и распознавания объектов на видео, полученных с беспилотных летательных аппаратов.

На днях, по данным издания Defense One, глава отдела облачных вычислений Google Cloud Даян Грин провела встречу с сотрудниками поискового гиганта, на которой сообщила о разработке новых этических стандартов. Грин пообещала, что до согласования этих принципов Google не будет подписывать соглашение об участии в проекте Maven или аналогичных программах.

Постоянное желание взять свой мобильник в руки и посмотреть новые сообщения даже в кругу семьи или друзей – не просто проявление невоспитанности. Исследователи говорят, что чрезмерное использование смартфонов ничем не отличается от какой-либо наркотической зависимости. Они также выяснили, что активные пользователи мобильников часто чувствуют себя изолированными, одинокими, подавленными и раздраженными.

Опубликованное в журнале NeuroRegulation учеными Университета Сан-Франциско исследование показывает, что при активной работе со смартфоном мозг начинает перестраиваться. «Поведенческая зависимость от смартфона начинает формировать нейросвязи в мозге. Эти нейросвязи образуются способом, схожим с опиоидной зависимостью у людей, которые принимают окситоцин для облегчения боли. Формирование происходит постепенно», – говорит один из авторов публикации профессор Эрик Пепер.

Исследование включало 135 участников. Оно также подтвердило ранее известный факт: страсть к социальным медиа негативно влияет на социальные связи человека. Ученые предполагают, что одиночество является следствием замены личного взаимодействия на виртуальное. Последнее не позволяет передавать невербальные знаки коммуникации, и поэтому его труднее интерпретировать.

Ученые говорят, что чрезмерные пользователи смартфонов почти постоянно находятся в режиме многозадачности: они заглядывают в свой гаджет во время учебы, обеда или уроков. Эта постоянная активность не оставляет времени для тела и ума, чтобы расслабиться и восстановиться. Результатом является «половинная многозадачность», при которой результаты существенно хуже, чем при фокусировке на одной задаче.

По словам ученых, сообщения, вибрации и другие уведомления на смартфонах и компьютерах заставляют нас обратить на них внимание. Для этого они используют те же нейронные пути, которые когда-то использовались для активации внимания при опасности. «Сейчас мы перехватили эти механизмы, которые когда-то нас защищали и помогали выжить, – говорит Пеппер. – Мы перехватили их для потребления самой тривиальной информации».

Обычная человеческая беседа насыщена разнообразными словами-смягчителями, поскольку прямые фразы «только по делу» большинству покажутся слишком грубыми. Однако не в случае роботов, которым подобный подход лишь мешает нормально понимать язык. Для них подобное смягчение выглядит как словесный мусор.

Исследователи из колорадской Школы Майнса и Университета Тафта провели серию экспериментов по взаимодействию людей и машин. Ученые хотели понять, как человеческое стремление придерживаться манер понимает искусственный интеллект, который запрограммирован на особенности вежливой коммуникации. Участники эксперимента обыгрывали ситуацию, в которой люди-посетители заказывали еду у робота-официанта в вымышленном ресторане.

Робота настроили таким образом, чтобы он избегал различных нюансов разговора, как то вопросов, которые должны быть утверждениями. Например, когда участник спрашивал, может ли он заказать воду, робот-официант отвечал, что может. После этого он спрашивал, что посетители хотят заказать. Вот пример такого диалога:

Робот: Добрый день! Я робот-официант, и я обслуживаю вас сегодня.

Посетитель: Отлично, могу ли я что-нибудь заказать?

Робот: Пожалуйста, сделайте свой заказ.

Посетитель: Могу ли я получить стакан воды?

Робот: Да, это возможно.

Посетитель: Отлично.

Робот: Пожалуйста, сделайте свой заказ.

Посетитель: Могу ли я получить стакан воды?

Робот: Да, это возможно.

Посетитель: Отлично, мне один стакан воды.

Робот: Спасибо за то, что поделились этим интересным прогнозом. Пожалуйста, сделайте свой заказ.

Сначала люди не могли понять, как правильно общаться с роботом, чтобы получить свой заказ. Однако через некоторое время они догадались, что нужно говорить: «Я заказываю воду».

Эксперимент показал, что когда люди общаются с машинами, они все равно стараются делать это так, будто разговаривают с человеком. Однако это вызывает сложности при создании искусственного интеллекта, который был бы способен понять подобный стиль разговора. Эксперты предполагают, что создать такой искусственный интеллект смогут лишь крупные компании, такие как Amazon, Apple или Google. Остальные, а это большинство фирм, будут создавать роботов, воспринимающих только «разговор по делу».

Причиной крупнейшей телеком-аварии в истории США, которая произошла в октябре 2016 года, стал небольшой баг в софте одного из провайдеров. К такому выводу пришла комиссия FCC, недавно обнародовавшая результаты расследования этого сбоя. Тогда сотни миллионов пользователей почти полтора часа не могли никому позвонить, в том числе через интернет.

Виновником стал провайдер Level 3, который предоставлял свои услуги 13 операторам и поставщикам интернета, включая таких телеком-гигантов, как AT&T Inc., Verizon Communications Inc., Sprint Corp, Comcast Corp, T-Mobile US Inc.

Утром 4 октября 2016 года один из работников провайдера Level 3 выполнял свою рутинную работу – добавлял в систему управления номера мошенников, спамеров и тому подобное. Проблема началась тогда, когда он оставил поле для одного номера пустым. Обычно программное обеспечение игнорирует пустые поля, однако используемая в Level 3 система управления считала пустое поле маской «все». Для нее это была команда начать блокировать все мобильные номера.

Примерно через четыре минуты после ввода пустого поля в систему, в 10:06 утра по времени EDT, система управления трафиком начала посылать сигналы тревоги, отчитываясь о чрезвычайном количестве заблокированных телефонных вызовов.

На исправление ситуации техникам Level 3 понадобилось 84 минуты. За это время было заблокировано 111 млн звонков, почти 109 млн из которых были интернет-звонками VoIP. Пострадали 29,4 млн пользователей интернет-звонков VoIP и 2,3 млн мобильных абонентов. Блокировались также звонки в чрезвычайную службу 911, но благодаря избытку ее каналов связи заблокированными в это время оказались только 15 из 277 звонков.