Microsoft только что представила свою новую языковую модель » Му » (Mu), и она уже поддерживает некоторые функции Windows 11. в частности, этот искусственный интеллект понимает вашу словесную просьбу и редактирует настройки ОС. Му-кающий искусственный интеллект уже тестируется в тестовой редакции Windows.
Microsoft уже использует в Windows 11 небольшую языковую модель под названием Phi Silica, которая позволяет функциям искусственного интеллекта Copilot быстро работать на таких процессорах, как Snapdragon X Plus. Однако для предоставления действительно полезных ответов большие языковые модели, такие как ChatGPT, Copilot и Gemini, используют огромные вычислительные мощности, которые Snapdragon X Plus не может обеспечить.
Mu-это языковая микроскопическая языковая модель, ориентированная на конкретную задачу — агента в настройках. Mu полностью загружается в блок нейронного процессора (NPU) и отвечает со скоростью более 100 токенов (половинок слов) в секунду, удовлетворяя жестким требованиям скорости пользовательского интерфейса.
Microsoft использовала набор различных методов оптимизации для достижения высокой производительности при ограниченном энергопотреблении, включая архитектуру преобразователя кодер–декодер, разделение веса определенных компонентов для уменьшения общего количества параметров и использование только операций с аппаратным ускорением.
Модель MU думает почти мгновенно-время отклика менее 500 миллисекунд. Microsoft заявляет, что Mu может работать со скоростью более 200 токенов в секунду на ноутбуке Surface Laptop 7, что является более быстрым ответом, чем вы обычно получаете от бесплатных версий ChatGPT или Gemini в веб-браузере.
