Компанія Qualcomm оголосила, що флагманські смартфони у 2024 році отримають штучний інтелект Llama 2. Його надає компанія Meta (раніше відома як Facebook) і для запуску Llama 2 на телефонах не знадобиться підключення до інтернету. Це відкриває двері для розширених віртуальних помічників, створення контенту, аналіз контенту тощо без підключення до інтернету.
«Планується, що Qualcomm Technologies надасть реалізацію штучного інтелекту на основі Llama 2 на пристроях, що працюють на Snapdragon, починаючи з 2024 року», — додала компанія у своєму прес-релізі.
Немає жодної інформації, чи сама Meta збирається запустити якісь програми на основі Llama 2 на телефонах з процесорами Snapdragon 2024 року. Але сторонні розробники додатків для Android, безумовно, матимуть інструменти для випуску таких додатків.
Meta вирішила відкрити код Llama 2, щоб надати підприємствам, стартапам, підприємцям і дослідникам доступ до більшої кількості інструментів. Ці інструменти відкриють «можливості для експериментів, захоплюючих інновацій і, зрештою, отримання економічної та соціальної вигоди».
Згідно з прес-релізом, схоже, що Meta вважає, що відкриття доступу до свого штучного інтелекту робить його безпечнішим. Зазначається, що розробники та дослідники зможуть провести стрес-тест алгоритму, що допоможе швидше виявляти та вирішувати проблеми.
Крім того, компанія пояснює, що Llama 2 була «об’єднана в команду» — протестована та налаштована на безпеку за допомогою внутрішніх і зовнішніх команд, які «генерують суперечливі підказки». Meta додає, що «продовжить інвестувати в безпеку шляхом тонкого налаштування та порівняльного аналізу» моделі.
Microsoft і Meta також оголосили про розширення партнерства, яке дозволить Microsoft стати кращим партнером для Llama 2. Компанія з Редмонда додала, що новий штучний інтелект підтримуватиметься в Azure та Windows. Llama 2 оптимізована для локальної роботи в Windows.
На початку 2023 року Qualcomm уже демонструвала можливості локального штучного інтелекту на смартфоні. Наприклад, компанія показала, як користувач зможе за 15 секунд згенерувати зображення за допомогою інтелекту Stable Diffusion, описавши кількома словами бажану картинку. Утім, така висока швидкість генерації може пояснюватися невеликою роздільною здатністю фінальної картинки у 512×512 пікселів.
Це не перший випадок, коли Stable Diffusion генерує зображення на телефоні Android. Розробник на ім’я Айвон Хуанг раніше використовував Stable Diffusion на Sony Xperia 5 II із процесором Qualcomm Snapdragon 865 і 8 ГБ оперативної пам’яті. Однак Хуангу знадобилася година, щоб створити зображення 512×512. Техніка Qualcomm, безумовно, набагато швидша за ту, яку використав програміст.