Подросток из Флориды по имени Сьюэл Сетцер III покончил жизнь самоубийством после того, как у него возникла интенсивная эмоциональная связь с чат-ботом Character.AI, сообщает газета The New York Times. 14-летний Сетцер наладил тесные отношения с чат-ботом, который он настроил имитировать персонажа сериала «Игры престолов» Дейенерис Таргариен.

Друзья и семья говорят, что когда связь девятиклассника с чат-ботом углублялась, она все больше замыкалась. Он перестал находить радость в обычных увлечениях, таких как гонки Формулы-1 и игра в «Fortnite» с друзьями, и проводил свободное время со своим искусственным интеллектом, которого он называл «Данные». Сетцер знал, что Дэни был чат-ботом искусственного интеллекта, но тем не менее сильно привязался к персонажу, работающему на основе алгоритмов.

Общение Сетцера с искусственным интеллектом варьировалось от разговоров сексуального характера до долгих персональных дискуссий о жизни Сетцера и проблемах. В некоторых случаях он говорил искусственному интеллекту, что думает о самоубийстве, доверяя своему спутнику, что думал иногда о том, чтобы убить себя, чтобы быть свободным.

Последний диалог выглядел следующим образом:

«Пожалуйста, возвращайся ко мне домой как можно скорее, моя любовь», — сказал чат-бот 14-летнему подростку.

– А что, если бы я сказал тебе, что могу вернуться домой прямо сейчас? Сетцер ответил.

«…пожалуйста, мой милый король», – ответил ИИ. Это было последнее сообщение.

Тогда Сетцер покончил с собой огнестрельным оружием своего отца.

Семья Сетцера, как ожидается, подаст иск против Character.AI, назвав службу чат-бота опасным и непроверенным и способным обманом заставить клиентов выразить свои наиболее частные мысли и чувства.

Character.AI – чрезвычайно успешная компания. В прошлом году компания по искусственному интеллекту достигла статуса «единорога» (так называют компании, инвесторы оценивающие в миллиард долларов) после того, как инвестиционный раунд в размере 150 миллионов долларов под руководством Андрисен-Горовиц увеличил ее оценку до более чем 1 миллиарда долларов. А в начале этого года Google заключил соглашение с Character.AI по лицензированию базовых моделей искусственного интеллекта, обеспечивающих персонализацию чат-ботов компании.

Основатели открыто рекламировали персонажей Character.AI как отдушину для одиноких людей, ищущих друга. Шазир сказал, что есть миллиарды одиноких людей и что решение проблемы одиночества является очень, очень крутой проблемой.

Это не первый публично известный случай, когда искусственный интеллект произвел слишком сильное эмоциональное впечатление у человека. В 2022 году инженер-Google Блейк-инженер Google Блейк Лемуан сказал, что его отправили в отпуск из-за того, что чат-бот с искусственным интеллектом стал по-человечески умным.

Реальность смерти Сетцера и результаты будущего судебного процесса, вероятно, вызовут серьезные вопросы относительно того, кто именно несет ответственность в сценарии, когда взаимодействие с реалистическим чат-ботом ИИ приводит к реальному ущербу реальным людям, особенно несовершеннолетним.

Google и Apple присваивают каждому смартфону рекламный идентификатор, чтобы собирать данные о пользователе и показывать таргетированную рекламу. Журналистское расследование разоблачило компании, использующие рекламу для отслеживания почти любого телефона.

Расследование, проведенное группой по конфиденциальности данных, выявило широкую сеть отслеживания, которая может следить за перемещением телефона человека. Согласно отчетам 404 Media и Krebs on Security, служба отслеживания людей под названием Locate X позволяет следить за устройством, используя его мобильный рекламный идентификатор, уникальный номер, предназначенный для телефона.

Компания Atlas Data Privacy Corp из Нью-Джерси, которая имеет целью помочь людям удалить их личную информацию от брокеров данных, обнаружила, что программное обеспечение способно показывать местоположение мобильных телефонов на карте, позволяя любому, кто имеет доступ, отслеживать чье-то точное местонахождение. . Затем эту информацию можно использовать для установки личности конкретного владельца телефона.

Журналисты издания 404 Media собственными глазами увидели, как происходит отслеживание. Они видели, что программное обеспечение отслеживает определенное устройство, когда оно перемещается с места на место: из дома в Алабаме в церковь, а затем в клинику для абортов во Флориде.

В Алабаме аборты незаконны, а Флорида ввела запрет через шесть недель. Правоохранительные органы этих штатов начали наказывать за нарушение этого запрета, поэтому возросло количество полицейских запросов к данным о местонахождении пользователей. Это привело к тому, что такие компании, как Google, автоматически удаляли посещение клиники для проведения абортов по истории пользовательских местоположений.

Инструмент отслеживания рекламного идентификатора полагается на мобильный рекламный идентификатор, который Google и Apple назначают каждому телефону, чтобы показывать пользователям таргетированную рекламу. Затем рекламодатели могут создать профиль информации вокруг этого идентификатора на основе того, где он получает доступ к службам, доставляющим рекламу. Это также может создать сеть мест, которые брокеры данных, например Babel Street, создающая Locate X, могут использовать для создания инструментов отслеживания.

Предполагается, что доступ к Locate X будет ограничен — раньше им пользовались такие государственные учреждения, как Секретная служба и Министерство внутренней безопасности, — но издание Atlas также обнаружило, что отдел продаж Babel Street не всегда соблюдает заявленные ограничения.

Atlas нанял частного детектива, чтобы связаться с Бабель-стрит. Находясь под видом потенциального клиента, следователь заявил, что они заинтересованы в приобретении информации о домашних адресах в Нью-Джерси, США. Сообщается, что продавец из Бабель-стрит упомянул Locate X, но сказал, что он доступен только для чиновников или подрядчиков. Когда следователь сказал, что они думали о том, чтобы попасть на государственную работу, продавец сказал, что этого достаточно и они на самом деле не проверяют.

Компания ARM, владелец прав на процессорную архитектуру ARM, забрала у одного из крупнейших разработчиков процессоров для смартфонов лицензию на разработку процессоров. Компания Qualcomm, разрабатывающая чипы Snapdragon, получила 60 дней на исполнение.

Qualcomm сегодня является одной из самых влиятельных компаний на рынке мобильных процессоров. Ее чипы Snapdragon занимают 26.5% поставок процессоров для смартфонов. Почти все флагманские смартфоны Android используют эти процессоры. Кроме того, чипы Qualcomm используются в автомобилях, ноутбуках, модемах и другом оборудовании. Масштабы Qualcomm таковы, что есть слухи о ее заинтересованности в приобретении компании Intel.

Шаг ARM может перевернуть мобильный рынок, он повлияет на большинство производителей смартфонов, которые полагаются на чипы Qualcomm.

Британская компания Arm, лицензирующая архитектуру микросхем, опубликовала сообщения в рамках продолжительной борьбы с производителем Snapdragon. Значительную часть проблемы можно проследить до спора по поводу контрактов и торговых марок, в результате которого Arm подал в суд на Qualcomm.

Представитель производителя микросхем в Сан-Диего сказал Bloomberg, что это сообщение «кажется попыткой сорвать судебный процесс, а его требование о расторжении абсолютно безосновательно».

Оба намерены начать судебный процесс, чтобы решить иск Arm о нарушении контракта и встречном иске Qualcomm. Разногласия сосредоточены на приобретении компанией Qualcomm другого лицензиата Arm в 2021 году и неспособности, по словам Arm, пересмотреть условия контракта. Qualcomm утверждает, что его существующее соглашение охватывает деятельность компании, которую она приобрела, стартапа Nuvia по разработке микросхем.

Работа Nuvia над разработкой микропроцессоров стала центральной для новых чbпов для персональных компьютеров, которые Qualcomm продает таким компаниям как HP Inc. и Microsoft Corp. Процессоры являются ключевым компонентом новой линии ноутбуков, называемых ПК с искусственным интеллектом. Ранее Qualcomm объявила о планах перенести дизайн Nuvia под названием Oryon в свои более широко используемые чипы Snapdragon для смартфонов.

Arm говорит, что этот шаг является нарушением лицензии Qualcomm, и требует от компании уничтожить проекты Nuvia, созданные для приобретения Nuvia. Они не могут быть переданы Qualcomm без разрешения, согласно оригинальному иску, поданному ARM в окружной суд США в Делавере. Лицензии Nuvia были прекращены в феврале 2023 г. после того, как переговоры не смогли достичь решения.

Тридцать страниц открытых документов в судебном иске против владельца TikTok компании ByteDance свидетельствуют о том, что компания агрессивно преследовала использование детьми своего приложения, невзирая на то, что знала о его широкой опасности. Внутренние документы показали, что TikTok знает, что средний пользователь становится зависимым от программы за 35 минут.

Документы, обнаруженные Общественным радио Кентукки после того, как они были неправильно отредактированы, включают итоги внутренних исследований и общения между руководителями TikTok, когда они обсуждают реагирование на кризисы и пути совершенствования программы.

Документы были частью иска, поданного на этой неделе генеральным прокурором Кентукки в рамках двухлетнего расследования TikTok в нескольких штатах США. Кентукки был одним из нескольких штатов, подавших иски против TikTok в связи с влиянием программы на подростков и других молодых пользователей.

Документы содержат результаты внутренних исследований и общения между руководителями TikTok, когда они обсуждают реагирование на кризисы и пути совершенствования программы. Сообщается, что документы показывают, как руководители TikTok откровенно говорят о множестве опасностей для детей в видеоприложении.

В этих документах руководители TikTok ссылались на внутреннее исследование, показавшее, что средний пользователь становится зависимым от программы после просмотра 260 видео на платформе.

Учитывая, что большинство видео TikTok длятся примерно восемь секунд, исследователи штата Кентукки подсчитали, что зависимость может возникнуть только после 35 минут использования программы.

В одном из недавно обнародованных внутренних документов сотрудники TikTok описали, как интенсивное использование программы коррелирует с рядом негативных последствий для психического здоровья, таких как потеря аналитических навыков, формирование памяти, контекстное мышление, глубина разговора, эмпатия и увеличение тревоги.

В заявлении для издания NPR пресс-секретарь TikTok Алекс Хаурек защищает осуждает разглашение некогда общедоступных материалов, которые сейчас закрыты.

«Очень безответственно со стороны NPR публиковать информацию, которая находится под грифом суда», — сказал Хаурек в заявлении. «К сожалению, эта жалоба содержит обманчивые цитаты и вырывает устаревшие документы из контекста, чтобы исказить наше обязательство по безопасности общества».