Главная техническая новость этого года – это повсеместное распространение «искусственного интеллекта, ИИ» (или, скорее, статистического моделирования на основе нейронных сетей со скрытыми слоями) во всем. Это последний хайповый пузырь после того, как криптовалюты перестали быть самой свежей приманкой для дураков, и медиа (которые сейчас преимущественно не разыскивают настоящие новости, а просто перерабатывают пресс-релизы). Отовсюду кричат ??каждому бизнесу в технологическом секторе добавить ИИ к своему продукту.
Иногда попытка впихнуть ИИ повсюду может привести к кошмару. Microsoft создала CoPilot плюс Recall, продукт, который никто не желал.
CoPilot+ – это приложение Microsoft на основе большой языковой модели (LLM) для Windows, что-то вроде скрепки Clippy, из Word 2000 года, только с дополнительными галлюцинациями. Clippy был основан на правилах: огромный набор команд IF…THEN, соединенных вместе, как экспертная система 1980-х годов, чтобы помочь пользователям выполнять то, что Microsoft считала общими задачами, но что оказалось раздражительно неподходящим потому, что на самом деле хотели делать пользователи.
Поскольку CoPilot+ вроде бы тренируется на том, что действительно делают пользователи, кому-то в маркетинге Microsoft показалось, что это может помочь пользователям выполнять задачи. К сожалению, люди считают, что LLM-алгоритмы имеют сознание и понимают поставленные вопросы, а не бездумные статистические модели, которые выдают объекты, имеющие форму ответов, в ответ на любую подсказку, независимо от того, есть ли это правдивым ответом или нет.
Кроме того, CoPilot+ также является попыткой Microsoft продавать Windows на процессорах архитектуры ARM, что может освежить стагнирующий рынок ПК. Microsoft не хочет быть полностью зависима от Intel, особенно учитывая, что доля Intel на мировом рынке микропроцессоров быстро сокращается, поэтому они пытаются поднять Windows на ARM до орбитальной скорости уже в течение десятилетия.
Новые ПК с брендом CoPilot+, которые будут продаваться позже этого месяца, рекламируются как подходящие для ИИ и имеют мощные новые процессоры ARM от Qualcomm, рекламируемые как «убийцы Macbook Air», преимущественно потому, что они догоняют процессоры серии M на базе ARM от Apple по показателю мощности обработки на ватт и имеют встроенный сопроцессор, оптимизированный для обучения нейронным сетям.
Главный вопрос: а зачем это?
Построив аппаратное обеспечение и операционную систему, Microsoft сталкивается с неизбежным вопросом: зачем клиенту все это нужно? И, будучи Microsoft, они взяли первый ответ, возникший в их внутрикорпоративном эхо, и предложили ее рынку в качестве принудительного обновления для Windows 11. И интернет немедленно взорвался.
Сначала несколько слов об Apple. Apple тихо добавляет функции ИИ в macOS и iOS за последние несколько лет. Фактически они серьезно взялись за ИИ в 2015 году, и каждый процессор Apple, выпущенный с 2016 года, имеет встроенный нейронный двигатель (сопроцессор для ИИ).
Теперь, когда старые телефоны и ноутбуки отправляются на свалку, последние версии операционной системы внедряют функции на основе ИИ. Например, распознавание текста (OCR) для текста, встроенного в любое изображение. Также есть служба перевода для результатов OCR. Пользователь может навести телефон на брошюру или меню на непонятном языке, активировать камеру и немедленно получить достаточно хороший перевод: это действительно полезная функция ИИ.
Способность тегировать все фотографии в библиотеке Photos именами присутствующих на них людей и искать людей также умеренно полезна: суд присяжных все еще решает вопрос распознавания домашних животных. Так что внедрение ИИ в Apple прошло незаметно и без возражений, сосредотачиваясь на выявлении вещей, которые люди хотят делать, и облегчении их выполнения.
Microsoft Recall – это не то
«Было бы здорово, если бы мы могли использовать ИИ в Windows, чтобы помочь нашим пользователям видеть все, что они когда-либо делали на своем компьютере?» – отличная идея, и Recall вроде бы достигает этого. Но реализация совсем другая.
Recall делает фото окон на экране компьютера Windows (за исключением медиа из DRM, потому что MPAA должна получить свою долю денег) и сохраняет их локально.
Локальная часть – это хорошо: термин для программного обеспечения, которое регулярно делает снимки экрана и сохраняет их в облаке, называется «часть троянского коня для удаленного доступа».
Затем программа распознает текст на изображениях с помощью OCR и, как считается, также транскрибирует любой язык и сохраняет полученные данные в незашифрованной базе данных SQLite, сохраненной по адресу C:\Users\$USER\AppData\Local\CoreAIPlatform.00\ UKP{GUID}
И уже есть такие инструменты, как TotalRecall, которые могут проверить базу данных и увидеть, что в ней есть.
Сюрприз! Оказывается, что незашифрованная база данных и сохраненные изображения могут содержать пользовательские учетные данные и пароли. И другие вещи. Есть привычка к порнографии? Поздравляем, каждый, кто имеет доступ к вашему аккаунту, может видеть, что вы видели. Используете менеджер паролей, например 1Password? Извините, ваши пароли 1Password теперь, вероятно, видны через Recall.
Теперь «незашифрованная» является относительным термином; база данных хранится в файловой системе, которая должна быть зашифрована с помощью BitLocker от Microsoft. Но любой из учетных данных вашей учетной записи Microsoft может расшифровать ее и посмотреть. Действительно, каждый, кто имеет доступ к вашему разблокированному ПК, имеет весь ваш мир под рукой.
Но это полное нарушение конфиденциальности. Жертвы домашнего насилия подвергаются риску того, что их обидчик пересмотрит их ПК на предмет любых признаков того, что они ищут помощь. Каждый, кто попался на мошенничество, предоставившее преступникам доступ к их ПК, также полностью подвержен риску.
Еще хуже: даже если вы не используете Recall, если вы отправляете электронное письмо или мгновенное сообщение кому-то, кто его использует, оно будет распознано и индексировано через Recall: и сохранено для потомков.
Теперь представьте, какое будет шоу, когда это станет корпоративным.
И оказывается, что Microsoft внедряет эту функцию в последнее обновление Windows 11 для всех совместимых устройств и делает ее невозможной для удаления или отключения, потому что эта тактика так хорошо работала для них в прошлом, чтобы стимулировать использование новых технологий, которые Microsoft хотела, чтобы ее клиенты-жертвы стали использовать. Как, например, Microsoft Internet Explorer в 2001 году и вспомните, как это хорошо для них сработало.
Вдруг каждый ПК становится мишенью в ходе юридических процедур. Адвокаты могут вызвать вашу базу данных Recall и искать в ней, больше не ограничиваясь электронной почтой, а ища термины, возникшие в сообщениях Teams, Slack или Signal, и потенциально вербально через Zoom или Skype, если преобразование языка в текст включено в данные Recall.
Это полное беспорядок для любой организации, обрабатывающей медицинские записи или имеющей обязанность юридической конфиденциальности. Действительно, для любого бизнеса, который должен соответствовать GDPR (как Recall обрабатывает право быть забытым? Одним словом: плохо) или HIPAA в США. Эта функция нарушает законы о конфиденциальности во всем ЕС и Великобритании, а также в медицинских организациях по всему миру, где есть медицинское право на конфиденциальность. Единственные люди, чью конфиденциальность она не нарушает – это голливудские студии и Netflix, говорящие о положении дел.
Recall уже привлекает внимание регуляторов защиты данных; в текущей форме она, вероятно, будет обречена на провал, и те ПК с CoPilot+, которые должны выйти в продажу 18 июня, подвергаются поспешному просмотру. Также будет интересно посмотреть, что Apple сделает, или, что важнее, не объявит на WWDC на следующей неделе, которая прогнозируется как год, когда Apple полностью перейдет на ИИ.
Microsoft хочет сделать 2025 год годом Linux на компьютерах?
Более важно, однако, Windows Recall подрывает доверие к Microsoft. Microsoft «всерьез взялась» за безопасность в начале этого десятилетия, примерно в то время, когда Стив Балмер ушел с поста генерального директора, и им удалось несколько восстановить свою репутацию после того, как они имели репутацию халатного отношения к данным своих пользователей.
Но они двигаются назад с 2020 года, с такими шагами, как отключение автосохранения локальных файлов в Microsoft Word (ваши данные автосохранения хранятся только в OneDrive), поглощение всей входящей электронной почты для учетных записей, доступ к которым осуществляется через Microsoft Outlook, в собственное облако Microsoft для обучения ИИ (спросите у Министерства юстиции, как они относятся к тому, что Microsoft потенциально имеет доступ к переписке для всех текущих расследований), и теперь это. Recall подрывает доверие, и когда учреждение теряет доверие, его очень трудно вернуть.
Некоторые комментаторы насмехаются, что Microsoft действительно очень хочет сделать 2025 год годом Linux на компьютерах, и сейчас это трудно опровергнуть.
по материалам: antipope
