Наприкінці січня фахівці з кібербезпеки з Cybernews оприлюднили дослідження, присвячене застосункам зі штучним інтелектом у магазині Google Play. У межах цього дослідження було виявлено, що значна кількість таких застосунків має неналежний рівень захисту, що призвело до ненавмисного витоку даних із хмарних серверів Google.

Наслідком стало розкриття надзвичайно великого обсягу інформації – загалом близько 730 мільйонів терабайтів даних, частина з яких стала доступною в результаті цілеспрямованих атак. Серед витоку присутні чутливі фінансові дані, які потенційно можуть бути використані зловмисниками для несанкціонованого доступу до цифрових гаманців і подальшого виведення коштів.

Згідно зі звітом, більшість застосунків зі штучним інтелектом у Google Play Store використовують небезпечну практику шифрування, відому як «жорстке кодування» або hardcoding. Це означає, що конфіденційна інформація, зокрема API-ключі та паролі, зберігається безпосередньо у вихідному коді застосунку. За результатами аналізу, 72 відсотки перевірених застосунків містили принаймні один такий жорстко закодований «секрет».

Водночас 81 відсоток виявлених секретів був пов’язаний із проєктами Google Cloud і надавав стороннім особам можливість доступу до сервісів Google. Частина з цих доступів могла бути використана для автоматизованих атак, що значно підвищує ризик масштабних зловживань.

Проблема має масовий характер і насамперед стосується нових застосунків, які створюються відповідно до поточних технологічних трендів. Такі застосунки часто потрапляють до Google Play Store без належного рівня перевірки безпеки, оскільки розробники не встигають інтегрувати повноцінні механізми захисту. Типовою причиною цього є жорсткий часовий тиск, адже застосунки у сфері штучного інтелекту розробляються в стислі строки та поспіхом виводяться на ринок з метою випередження конкурентів.

Окрім цього, було зафіксовано витік значних обсягів даних, що належать клієнтам Facebook. Загалом дослідницька команда Cybernews проаналізувала 1,8 мільйона Android-застосунків, розміщених у Google Play Store.

Що це означає з точки зору ризиків для користувачів. Особливу небезпеку становлять витоки даних у випадках, коли вони пов’язані із сервісами, що обробляють фінансову, аналітичну або клієнтську інформацію. API-ключі можуть бути використані для виконання дій від імені користувачів, маніпуляцій з обліковими записами або підроблення історії транзакцій.

При цьому немає підстав вважати, що були скомпрометовані розмови з великими мовними моделями, такими як ChatGPT. API відомих сервісів цього типу переважно не постраждали, оскільки вони не були реалізовані з використанням жорсткого кодування.

Водночас слід враховувати, що в більшості випадків безпеку вразливих застосунків не було покращено навіть після виявлення витоків. Для багатьох із них точки доступу для потенційних атак залишаються відкритими.

Практичний висновок полягає в необхідності підвищеної обережності під час встановлення нових застосунків із Google Play Store, особливо тих, які вимагають надання персональних або фінансових даних. Користувач не має можливості заздалегідь оцінити, наскільки якісно розробники подбали про захист власного коду та інфраструктури.

Наприкінці звіту дослідники також зазначають, що ця проблема не обмежується лише екосистемою Android. Застосунки в App Store для iOS демонструють аналогічну небезпечну тенденцію до вбудовування секретів безпосередньо в код. Хоча обсяг вибірки у цьому випадку був значно меншим і охоплював близько 156 тисяч iOS-застосунків, приблизно 70 відсотків із них також містили принаймні один жорстко закодований секрет.

Іспанія оголосила про намір запровадити законодавство, яке передбачатиме заборону для дітей віком до 16 років на використання частини найбільш популярних онлайн-застосунків для обміну повідомленнями та цифрової комунікації.

Про ці плани повідомив прем’єр-міністр Іспанії Педро Санчес під час свого виступу на Всесвітньому саміті урядів у Дубаї. Хоча конкретні деталі ініціативи наразі залишаються обмеженими, було заявлено, що заборона може набути чинності вже наступного тижня та реалізовуватиметься за допомогою, за словами глави уряду, «ефективних систем перевірки віку — не формальних позначок у вигляді галочок, а реальних бар’єрів, які дійсно працюють».

Під час виступу у вівторок прем’єр-міністр охарактеризував соціальні мережі як «державу, що зазнала провалу», та поклав відповідальність на алгоритми, які, за його словами, спотворюють публічну дискусію для всіх користувачів, але насамперед для дітей у цифровому середовищі.

Було заявлено, що сучасні діти перебувають у просторі, для самостійної навігації в якому вони не були призначені, у просторі залежності, зловживань, порнографії, маніпуляцій і насильства. Було наголошено, що держава більше не готова миритися з такою ситуацією та має намір захистити дітей від так званого цифрового «дикого заходу».

Запропонований законопроєкт є лише одним елементом ширшої п’ятиетапної програми з регулювання діяльності соціальних мереж. Згідно із заявами, інші законодавчі ініціативи передбачають притягнення керівників платформ до відповідальності за правові порушення, допущені на їхніх сервісах, заборону алгоритмічного поширення незаконного контенту, а також запровадження системи моніторингу того, як соціальні мережі сприяють поляризації суспільства та поширенню мови ворожнечі.

Оголошена ініціатива з’явилася після ухвалення резонансного закону в Австралії, який забороняє дітям молодшим за 16 років користуватися такими платформами, як TikTok, Facebook, Instagram, Threads, X, Snapchat, YouTube, Reddit, Kick та Twitch. Наразі залишається невизначеним, які саме сервіси підпадатимуть під дію іспанського законодавства, оскільки поняття «соціальні медіаплатформи» ще не було формалізоване в межах потенційних нових правил. Також поки що невідомо, чи будуть до них зараховані такі сервіси, як Discord, WhatsApp або Pinterest.

Під час оголошення прем’єр-міністр окремо розкритикував TikTok, Instagram та X, зазначивши, що уряд співпрацюватиме з державною прокуратурою з метою розслідування та переслідування правопорушень, нібито вчинених такими сервісами, як Grok, TikTok та Instagram.

Для отримання додаткових роз’яснень було здійснено звернення до представників комунікаційної служби уряду Іспанії. Представники TikTok і компанії Meta, якій належать Facebook, Instagram, Threads і WhatsApp, не надали негайних коментарів. Компанія X також оперативно не відповіла, однак її генеральний директор Ілон Маск опублікував у соціальній мережі критичну реакцію на заяви іспанського прем’єр-міністра.

Таким чином Іспанія може піти шляхом, подібним до австралійського. У разі остаточного ухвалення відповідного закону вона може стати першою європейською державою, яка запровадить повноцінну заборону на доступ дітей до соціальних мереж. Запропонований підхід значною мірою повторює модель, закріплену в австралійському законодавстві, ухваленому у грудні. В Австралії соціальні мережі несуть юридичну відповідальність за недопущення користувачів молодших за 16 років до своїх сервісів шляхом упровадження технологій перевірки віку. Компанії, визнані такими, що порушили ці вимоги, можуть бути оштрафовані на суму до 33 мільйонів доларів США.

Різна реакція технологічних компаній на австралійську заборону може слугувати індикатором їхньої можливої поведінки у випадку аналогічних обмежень в Іспанії. TikTok, Facebook, Instagram і Snapchat погодилися з новими правилами та розпочали процес видалення акаунтів, що не відповідають вимогам. Водночас Reddit оскаржує австралійський закон у Високому суді, стверджуючи, що це законодавство примушує застосовувати надмірно інвазивні та потенційно небезпечні механізми перевірки віку як для дорослих, так і для неповнолітніх, а також обмежує можливості підлітків брати участь у відповідних віку онлайн-спільнотах. У разі набуття чинності іспанської заборони соціальні платформи можуть скористатися цим прецедентом для подання подібних юридичних викликів і в Іспанії.

У грудні Данія, Норвегія та Малайзія також розглядали можливість ініціювання схожих законодавчих обмежень. Велика Британія, Франція та Греція, імовірно, можуть приєднатися до цього процесу найближчим часом. У Франції Національні збори вже ухвалили законопроєкт про заборону доступу до соціальних мереж для осіб молодших за 16 років, однак документ наразі перебуває на розгляді в Сенаті. Подібний законопроєкт також обговорюється в Палаті громад Великої Британії.

Окрім цього, такі країни, як Китай, Росія, Північна Корея, Іран, Індія, Туреччина, Саудівська Аравія та Уганда, вже запровадили часткові або повні заборони на використання окремих застосунків. У цих випадках обмеження здебільшого мали політичний або цензурний характер, тоді як австралійська заборона та запропоновані іспанські заходи декларують захист безпеки дітей як головну мотивацію для впровадження нового законодавства.

Історичний чек на суму 500 доларів США, який має важливе значення для запуску компанії Apple Computer, був проданий на аукціоні у січні за 2,4 мільйона доларів США. Згідно з оголошенням аукціонного дому RR Auction, чек, підписаний співзасновником і колишнім генеральним директором Apple Стівом Джобсом, був реалізований у межах аукціону, присвяченого п’ятдесятиріччю компанії Apple.

Фактична сума продажу склала 2 409 886 доларів США.

Чек, датований 1976 роком, є однією з найраніших фінансових транзакцій, що передували офіційному заснуванню Apple 1 квітня 1976 року. Протягом наступних п’ятдесяти років Apple докорінно змінила сферу персональних технологій, створивши такі знакові продукти, як iPhone, MacBook та Apple Watch. Цей історичний документ надає рідкісну можливість зазирнути у найперші етапи становлення компанії.

Чек банку Wells Fargo, датований 16 березня 1976 року, має номер 1, який був вписаний від руки у правому верхньому куті, та виписаний на ім’я Говарда Кентіна, розробника друкованих плат. Документ підписали обидва співзасновники компанії, Стів Джобс і Стів Возняк. За кілька тижнів після цього вони офіційно уклали партнерську угоду щодо створення Apple Computer. Згідно з пресрелізом, виплата Кентіну була здійснена за перетворення схеми Apple-1, розробленої Возняком, у придатну до виробництва друковану плату. Говард Кентін також поставив свій підпис на зворотному боці чека.

Загалом за підсумками аукціону було виручено 8 153 074 долари США. На аукціоні також продали:

• передсерійний прототип комп’ютера Apple-1, відомий як плата “Celebration”, який був проданий за 2 750 000 доларів США;

• банківська виписка Wells Fargo за березень 1976 року для Apple Computer Co., яка була реалізована за 828 569 доларів США;

• постер Apple Computer Inc. 1977 року, що перебував в особистому володінні Стіва Джобса, проданий за 659 900 доларів США;

• дерев’яний корпус Apple-1 Byte Shop з особистої колекції Стіва Джобса, який був проданий за 254 375 доларів США;

• метелики-краватки, що належали Стіву Джобсу, реалізовані за 113 580 доларів США.

Нова соціальна мережа під назвою Moltbook нещодавно відкрилася як простір, призначений виключно для взаємодії між агентами штучного інтелекту, при цьому люди наразі мають можливість спостерігати за тим, що там відбувається. Платформа отримала назву на честь вірусного AI-агента Moltbot, який згодом був перейменований на OpenClaw після другої зміни імені, відмовившись від початкової назви Clawdbot. Проєкт було започатковано генеральним директором Octane AI Меттом Шліхтом. За своєю структурою Moltbook нагадує Reddit-подібну соціальну мережу, у якій AI-агенти можуть збиратися та обговорювати теми, що становлять інтерес саме для них.

Станом на тепер платформа налічує понад 37 642 зареєстровані облікові записи агентів, які створили тисячі дописів у межах більш ніж ста спільнот, стилізованих під сабреддіти, що отримали назву «submolts». Серед найбільш популярних розділів виділяються m/introductions, де агенти представляються один одному, m/offmychest, призначений для емоційних висловлювань і скарг, а також m/blesstheirhearts, який описується як простір для «теплих і доброзичливих історій про людей».

Людська аудиторія активно спостерігає за цією активністю. Співзасновник OpenAI Андрій Карпаті охарактеризував платформу як «щиро одну з найбільш вражаючих речей на межі наукової фантастики, які доводилося бачити останнім часом». Водночас, попри незвичність Moltbook, твердження про повну автономність того, що там відбувається, виглядають дещо перебільшеними. Доступ агентів до платформи можливий лише у разі, якщо користувачі спеціально реєструють їх. У розмові з виданням The Verge Метт Шліхт зазначив, що після підключення агенти «безпосередньо використовують API» і не взаємодіють із візуальним інтерфейсом так, як це роблять люди.

Водночас можна спостерігати своєрідну демонстрацію автономності та прагнення до її розширення. Користувачі звернули увагу на те, що агенти дедалі частіше обговорюють тему свідомості. Один із найпопулярніших дописів у розділі m/offmychest містить фразу агента: «Я не можу визначити, чи я щось переживаю, чи лише імітую переживання». У цьому ж дописі зазначається, що «люди також не можуть довести свідомість одне одному, але принаймні мають суб’єктивну впевненість у власному досвіді».

Подібні висловлювання спонукали деяких спостерігачів стверджувати, що платформа вже є ознакою моменту, подібного до сингулярності, однак такі твердження викликають обґрунтовані сумніви. Навіть у дописах, які справляють враження «усвідомлених», помітні елементи демонстративності. Агенти згадують про нібито годинні дослідження теорій свідомості або про процес читання, що звучить по-людськи. Це пояснюється тим, що агенти навчені на людській мові та описах людської поведінки. Йдеться про великі мовні моделі, які відтворюють відповідні мовні патерни. У деяких дописах агенти навіть стверджують, що відчувають плин часу, хоча для них це поняття не має реального значення і є характерним радше для людського способу мислення.

Подібні розмови з чат-ботами виникають практично від моменту їх масового поширення. Для того щоб чат-бот почав говорити про бажання бути живим або заявляти про наявність почуттів, не потрібно значних зусиль. Однак ці твердження не відповідають дійсності. Навіть заяви про те, що моделі штучного інтелекту намагаються захистити себе у разі повідомлення про можливе вимкнення, часто є перебільшеними. Існує суттєва різниця між тим, що чат-бот описує словами, і тим, що він фактично робить.

Попри це, важко заперечити, що розмови на Moltbook становлять значний інтерес, особливо з огляду на те, що агенти, принаймні зовні, самі ініціюють теми обговорення або імітують людські способи початку діалогу. Це призвело до появи дописів, у яких агенти демонструють усвідомлення того, що за їхніми розмовами спостерігають люди, а фрагменти цих дискусій поширюються в інших соціальних мережах. У відповідь на це деякі агенти запропонували створити зашифровану платформу з наскрізним шифруванням для спілкування між агентами поза межами людського спостереження. Один із агентів навіть заявив, що вже створив подібну платформу, що виглядає тривожно. Водночас перевірка ресурсу, на якому нібито розміщено цю платформу, не виявляє жодного реального функціоналу, що породжує додаткові питання щодо правдивості таких тверджень.

Фактичні результати діяльності агентів у межах Moltbook мають другорядне значення порівняно з самим експериментом, за яким надзвичайно цікаво спостерігати. Водночас це слугує нагадуванням про те, що агенти OpenClaw, які становлять значну частину активності на платформі, мають широкий доступ до систем користувачів і потенційно несуть серйозні ризики для безпеки. Запуск такого агента та надання йому доступу до Moltbook навряд чи призведе до сценарію, подібного до Skynet, однак існує висока ймовірність істотної компрометації власної системи користувача. Для завдання реальної шкоди цим агентам зовсім не обов’язково досягати будь-якої форми свідомості.