Головна технічна новина цього року – це повсюдне поширення “штучного інтелекту, ШІ” (або скоріше, статистичного моделювання на основі нейронних мереж з прихованими шарами) у всьому. Це остання хайпова бульбашка після того, як криптовалюти перестали бути найсвіжішою приманкою для дурнів, і медіа (які зараз переважно не розшукують справжні новини, а просто переробляють прес-релізи). Звідусіль кричать кожному бізнесу в технологічному секторі додати ШІ до свого продукту.
Іноді намагання впихнути ШІ всюди може призвести до кошмару. Microsoft створила CoPilot плюс Recall, продукт, який ніхто не хотів.
CoPilot+ – це додаток Microsoft на основі великої мовної моделі (LLM) для Windows, щось на кшталт скріпки Clippy, із Word 2000 року, тільки з додатковими галюцинаціями. Clippy був заснований на правилах: величезний набір команд IF … THEN, з’єднаних разом, як експертна система 1980-х років, щоб допомогти користувачам виконувати те, що Microsoft вважала загальними завданнями, але що виявилося дратівливо невідповідним тому, що насправді хотіли робити користувачі.
Оскільки CoPilot+ начебто тренується на тому, що дійсно роблять користувачі, комусь у маркетингу Microsoft здалося, що це може допомогти користувачам виконувати завдання. На жаль, люди вважають, що LLM-алгоритми мають свідомість і розуміють поставлені запитання, а не є бездумними статистичними моделями, які видають об’єкти, що мають форму відповідей, у відповідь на будь-яку підказку, незалежно від того, чи є це правдивою відповіддю чи ні.
Крім того, CoPilot+ також є спробою Microsoft продавати Windows на процесорах архітектури ARM, що може суттево освіжити стагнуючий ринок ПК. Microsoft не хоче бути повністю залежною від Intel, особливо з огляду на те, що частка Intel на світовому ринку мікропроцесорів швидко скорочується, тому вони намагаються підняти Windows на ARM до орбітальної швидкості вже протягом десятиліття.
Нові ПК з брендом CoPilot+, які будуть продаватися пізніше цього місяця, рекламуються як підходящі для ШІ і мають потужні нові процесори ARM від Qualcomm, які рекламуються як “вбивці Macbook Air”, переважно тому, що вони наздоганяють процесори серії M на базі ARM від Apple за показником потужності обробки на ват і мають вбудований співпроцесор, оптимізований для навчання нейронних мереж.
Головне питання: а навіщо це?
Побудувавши апаратне забезпечення та операційну систему, Microsoft стикається з неминучим питанням: навіщо клієнту це все потрібно? І, будучи Microsoft, вони взяли першу відповідь, що виникла в їхньому внутрішньокорпоративному відлунні, і запропонували її ринку як примусове оновлення для Windows 11. І інтернет негайно вибухнув.
Спершу кілька слів про Apple. Apple тихо додає функції ШІ до macOS та iOS протягом останніх кількох років. Фактично, вони серйозно взялися за ШІ у 2015 році, і кожен процесор Apple, випущений з 2016 року, має вбудований нейронний двигун (співпроцесор для ШІ).
Тепер, коли старі телефони та ноутбуки відправляються на смітник, останні версії операційної системи впроваджують функції на основі ШІ. Наприклад, є розпізнавання тексту (OCR) для тексту, вбудованого в будь-яке зображення. Також є служба перекладу для OCR-результатів. Користувач може навести телефон на брошуру або меню на незрозумілій мові, активувати камеру і негайно отримати досить гарний переклад: це дійсно корисна функція ШІ.
Здатність тегувати всі фотографії в бібліотеці Photos іменами присутніх на них людей і шукати людей також є помірно корисною: суд присяжних все ще вирішує питання розпізнавання домашніх тварин. Тож впровадження ШІ в Apple пройшло непомітно і без заперечень, зосереджуючись на виявленні речей, які люди хочуть робити, і полегшенні їх виконання.
Microsoft Recall – це не те
“Було б чудово, якби ми могли використовувати ШІ в Windows, щоб допомогти нашим користувачам бачити все, що вони коли-небудь робили на своєму комп’ютері?” – чудова ідея, і Recall начебто досягає цього. Але реалізація зовсім інша.
Recall робить фотографії всіх вікон на екрані комп’ютера Windows (за винятком медіа з DRM, тому що MPAA повинна отримати свою частку грошей) і зберігає їх локально.
Локальна частина – це добре: термін для програмного забезпечення, яке регулярно робить знімки екрана і зберігає їх у хмарі, називається “частина троянського коня для віддаленого доступу”.
Потім програма розпізнає текст на зображеннях за допомогою OCR і, як вважається, також транскрибує будь-яку мову, і зберігає отримані дані в незашифрованій базі даних SQLite, збереженій за адресою C:\Users\$USER\AppData\Local\CoreAIPlatform.00\UKP{GUID}
І вже є інструменти, такі як TotalRecall, які можуть перевірити базу даних і побачити, що в ній є.
Сюрприз! Виявляється, що незашифрована база даних та збережені зображення можуть містити ваші користувацькі облікові дані та паролі. І інші речі. Маєте звичку до порнографії? Вітаємо, кожен, хто має доступ до вашого облікового запису, може бачити, що ви бачили. Використовуєте менеджер паролів, наприклад 1Password? Вибачте, ваші паролі 1Password тепер, ймовірно, видимі через Recall.
Тепер “незашифрована” є відносним терміном; база даних зберігається на файловій системі, яка повинна бути зашифрована за допомогою BitLocker від Microsoft. Але будь-хто з обліковими даними вашого облікового запису Microsoft може розшифрувати її і подивитися. Дійсно, кожен, хто має доступ до вашого розблокованого ПК, має весь ваш світ під рукою.
Але це повне порушення конфіденційності. Жертви домашнього насильства піддаються ризику того, що їхній кривдник перегляне їхній ПК на предмет будь-яких ознак того, що вони шукають допомогу. Кожен, хто попався на шахрайство, яке надало злочинцям доступ до їхнього ПК, також повністю піддається ризику.
Ще гірше: навіть якщо ви не використовуєте Recall, якщо ви відправляєте електронний лист або миттєве повідомлення комусь, хто його використовує, то воно буде розпізнане та індексоване через Recall: і збережене для нащадків.
Тепер уявіть собі, яке буде шоу, коли це стане корпоративним.
І виявляється, що Microsoft впроваджує цю функцію в останнє оновлення Windows 11 для всіх сумісних пристроїв і робить її неможливою для видалення або відключення, тому що ця тактика так добре працювала для них у минулому, щоб стимулювати використання нових технологій, які Microsoft хотіла, щоб її клієнти-жертви почали використовувати. Як, наприклад, Microsoft Internet Explorer у 2001 році, і згадайте, як це добре для них спрацювало.
Раптом кожен ПК стає мішенню під час юридичних процедур. Адвокати можуть викликати вашу базу даних Recall і шукати в ній, більше не обмежуючись електронною поштою, а шукаючи терміни, які виникли в повідомленнях Teams, Slack або Signal, і потенційно вербально через Zoom або Skype, якщо перетворення мови на текст включено в дані Recall.
Це повний безлад для будь-якої організації, яка обробляє медичні записи або має обов’язок юридичної конфіденційності. Дійсно, для будь-якого бізнесу, який повинен відповідати GDPR (як Recall обробляє право бути забутим? Одним словом: погано) або HIPAA в США. Ця функція порушує закони про конфіденційність у всьому ЄС і у Великобританії, а також у медичних організаціях у всьому світі, де є медичне право на конфіденційність. Єдині люди, чию конфіденційність вона не порушує – це голлівудські студії та Netflix, що говорить про стан справ.
Recall вже привертає увагу регуляторів захисту даних; у поточній формі вона, ймовірно, буде приречена на провал, і ті ПК з CoPilot+, які повинні вийти у продаж 18 червня, зазнають поспішного перегляду. Також буде цікаво подивитися, що Apple зробить, або, що важливіше, не оголосить на WWDC наступного тижня, який прогнозується як рік, коли Apple повністю перейде на ШІ.
Microsoft хоче зробити 2025 рік роком Linux на комп’ютерах?
Більш важливо, однак, Windows Recall підриває довіру до Microsoft. Microsoft “серйозно взялася” за безпеку на початку цього десятиліття, приблизно в той час, коли Стів Балмер пішов з поста генерального директора, і їм вдалося дещо відновити свою репутацію після того, як вони мали репутацію халатного відношення до даних своїх користувачів.
Але вони рухаються назад з 2020 року, з такими кроками, як відключення автозбереження локальних файлів у Microsoft Word (ваші дані автозбереження зберігаються лише в OneDrive), поглинання всієї вхідної електронної пошти для облікових записів, доступ до яких здійснюється через Microsoft Outlook, у власну хмару Microsoft для навчання ШІ (запитайте у Міністерства юстиції, як вони ставляться до того, що Microsoft потенційно має доступ до листування для всіх їхніх поточних розслідувань), і тепер це. Recall підриває довіру, і коли установа втрачає довіру, її дуже важко повернути.
Деякі коментатори кепкують, що Microsoft дійсно дуже хоче зробити 2025 рік роком Linux на комп’ютерах, і наразі це важко спростувати.
За матеріалами: antipope
