Вівторок, 16 Липня, 2024

Війна в Україні розпочала епоху роботів-вбивць зі штучним інтелектом

У полі на околиці Києва засновники української компанії з виробництва безпілотників «Вирій» нещодавно працювали над створенням зброї майбутнього.

Щоб продемонструвати це, 25-річний Олексій Бабенко, виконавчий директор «Виру», сів на свій мотоцикл і поїхав ґрунтовою дорогою. За ним слідував безпілотник, коли колега відстежував переміщення з комп’ютера розміром з портфель.

Випробування системи безпілотника «Вирій», яка використовує автономне супроводження для фіксації на цілі, у полі під Києвом. 

Донедавна людина керувала квадрокоптером. Більше не керує. Натомість після того, як дрон націлився на свою ціль — пана Бабенка — він полетів сам, керуючись програмним забезпеченням, яке використовувало камеру машини, щоб відслідковувати ціль.

Бурчачий двигун мотоцикла не зрівнявся з безшумним дроном, який переслідував пана Бабенка. «Натискайте, натискайте ще. Педаль до металу, чувак, — кричали його колеги по рації, коли дрон летів до нього. – Ти облажався!»

Якби дрон був озброєний вибухівкою і якби його колеги не відключили автономне стеження, пан Бабенко був би на мертвий.

«Вирій» — це лише одна з багатьох українських компаній, які працюють над великим кроком вперед у озброєнні споживчих технологій, спричиненим війною з Росією. Намагання перевершити ворога разом із величезними потоками інвестицій, пожертвувань та державних контрактів перетворили Україну на Кремнієву долину для автономних безпілотників та іншої зброї.

Компанії створюють технологію, яка робить людське судження про прицілювання та стрільбу все менш потрібним. Широка доступність готових пристроїв, легкого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікрочіпів штучного інтелекту підштовхнула смертоносну гонку інновацій на незвідану територію, підживлюючи потенційно нову еру роботів-вбивць.

Погнав летить над порожнім зеленим полем під хмарним небом.
Безпілотник, який випробовував Вирій, одна з багатьох українських компаній, які через війну з Росією змусили працювати над створенням споживчих технологій у зброю.
Поруч із розмитим дорослим на передньому плані двоє дорослих, один із яких в окулярах, дивляться вниз на пульти керування, які вони тримають.
Співробітник «Вирію» використовував окуляри, щоб побачити, що бачить дрон, коли він націлюється на ціль.

Найдосконаліші версії технології, яка дозволяє дронам та іншим машинам працювати автономно, стали можливими завдяки глибокому навчанню, формі штучного інтелекту, яка використовує великі обсяги даних для виявлення закономірностей і прийняття рішень. Глибоке навчання допомогло створити популярні великі мовні моделі, такі як GPT-4 OpenAI, але воно також допомагає моделям інтерпретувати та реагувати в режимі реального часу на відео та записи з камери. Це означає, що програмне забезпечення, яке колись допомагало дрону стежити за сноубордистом з гори, тепер може стати смертоносним інструментом.

Інтерв’ю з українськими підприємцями, інженерами та військовими частинами зображають картину недалекого майбутнього, коли зграї самонавідних безпілотників зможуть координувати атаки, а кулемети з комп’ютерним зором зможуть автоматично збивати солдатів. Також розробляються більш незвичайні витвори, як-от безпілотний вертоліт з кулеметами.

Ця зброя грубіша, ніж витончені науково-фантастичні блокбастери, такі як «Термінатор» і його вбивця з рідкого металу Т-1000, але вона є кроком до такого майбутнього. Хоча ця зброя не така передова, як дорогі системи військового класу, виготовлені Сполученими Штатами, Китаєм і Росією, значущими розробками є їхня низька вартість — лише тисячі доларів або менше — і готова доступність.

За винятком боєприпасів, багато з цієї зброї створено за допомогою коду, знайденого в інтернеті, і таких компонентів, як комп’ютери для любителів, як-от Raspberry Pi , які можна придбати майже будь де. Деякі офіційні особи США висловили занепокоєння, що незабаром ці здібності можуть бути використані для здійснення терористичних атак.

Для України ці технології можуть стати перевагою перед Росією, яка також розробляє автономні гаджети-вбивці — або просто допомогти їй не відставати. Системи підвищують ставки в міжнародній дискусії про етичні та правові наслідки штучного інтелекту (ШІ) на полі бою. Правозахисні групи та представники Організації Об’єднаних Націй хочуть обмежити використання автономної зброї через побоювання, що вона може спровокувати нову глобальну гонку озброєнь, яка може вийти з-під контролю.

В Україні такі занепокоєння вторинні, зараз країні потрібно боротися з окупантом.

«Нам потрібна максимальна автоматизація, — сказав Михайло Федоров , міністр цифрової трансформації України, який керував зусиллями країни з використання технологічних стартапів для розширення передових бойових можливостей. – Ці технології є фундаментальними для нашої перемоги».

Автономні безпілотні літальні апарати, подібні до «Вирію», вже використовувалися в бойових діях для ураження російських цілей, за словами українських чиновників і відео, перевіреним The New York Times. Федоров сказав, що уряд працює над фінансуванням компаній-виробників дронів, щоб допомогти їм швидко наростити виробництво.

Основні питання виникають щодо того, який рівень автоматизації прийнятний. Наразі безпілотники вимагають, щоб пілот націлився на ціль, утримуючи «людину в курсі» — фразу, яку часто використовують політики та фахівці зі штучного інтелекту. Українські військові висловили занепокоєння з приводу того, що несправні автономні дрони можуть вразити їхні власні сили. У майбутньому обмежень на таку зброю може не існувати.

Україна «жорстоко прояснила логіку того, чому автономна зброя має переваги», — сказав Стюарт Рассел, науковець із штучного інтелекту та професор Каліфорнійського університету в Берклі, який попередив про небезпеку збройового штучного інтелекту. «Зброя масового знищення буде. Як дешеві, масштабовані та легко доступні на ринках зброї по всьому світу».

У кімнаті, повній ящиків і механічних частин, солдат у формі та шоломі тримає дрон із чотирма пропелерами.
Солдат на північному сході України використовував застібки, щоб прикріпити вибухівку до безпілотника для завдання удару по російській цілі.
Крупним планом безпілотник, що лежить під нахилом на дерев'яній підлозі.
Безпілотник з боєголовкою буде використовуватися на лінії фронту на північному сході України в Харківській області.

У застарілій майстерні в житловому будинку на сході України Дев, 28-річний солдат 92-ї десантно-штурмової бригади, допоміг просувати інновації, які перетворили дешеві дрони на зброю. Спочатку він прив’язав бомби до гоночних дронів, потім додав більші батареї, щоб допомогти їм літати далі, і нещодавно включив нічне бачення, щоб машини могли полювати в темряві.

У травні він одним із перших застосував автономні безпілотники, в тому числі з Вирію. Незважаючи на те, що деякі потребують удосконалень, Дев сказав, що він вірить, що вони стануть наступним великим технологічним стрибком, який вийде на передову.

За його словами, автономні дрони вже користуються великим попитом. Машини були особливо корисні проти перешкод, які можуть порушити зв’язок між дроном і пілотом. Коли дрон сам летить, пілот може просто зафіксувати ціль і дозволити пристрою зробити все інше.

По всій Україні з’явилися імпровізовані фабрики та лабораторії для виготовлення дистанційно керованих машин усіх розмірів, від далекобійних літаків і ударних катерів до дешевих дронів-камікадзе — скорочено FPV (з оглядом від першої особи), оскільки ними керує пілот, одягнений у окуляри, схожі на віртуальну реальність, які забезпечують огляд з дрона. Багато з них є попередниками машин, які з часом працюватимуть самостійно.

Якщо дивитися зверху, то пара рук наносить клей на внутрішню частину комп’ютерних схем і проводів дрона довжиною в фут.
Безпілотники збирають у київському офісі PG Robotics, однієї з кількох компаній, що працюють над автоматичним націлюванням на дрони. 
Встановлений світло-зелений фюзеляж завдовжки кілька футів привертає увагу на заводі від робітника в захисній білій масці.
Також у Києві розташовані виробничі потужності компанії Skyeton, яка виготовляє дрони дальньої дії, які використовують автоматизовані системи для польоту. 

За словами Федорова, спроби автоматизувати польоти FPV почалися минулого року, але були сповільнені через невдачі у створенні програмного забезпечення для керування польотом. Наступним кроком було розширити технологію за рахунок збільшення державних витрат, сказав він, додавши, що близько 10 компаній вже виготовляють автономні дрони.

«У нас уже є системи, які можна масово виробляти, і зараз вони активно випробовуються на передовій, що означає, що вони вже активно використовуються», — сказав Федоров.

Деякі компанії, як-от “Вирій”, використовують основні алгоритми комп’ютерного зору, які аналізують та інтерпретують зображення та допомагають комп’ютеру приймати рішення. Інші компанії є більш складними, використовуючи глибоке навчання для створення програмного забезпечення, яке може ідентифікувати та атакувати цілі. Багато компаній заявили, що вони отримали дані та відео з авіасимуляторів і польотів безпілотників.

Один український виробник безпілотників, Saker, створив автономну систему націлювання на базі штучного інтелекту, почтаково призначеного для сортування та класифікації фруктів. Взимку компанія почала відправляти свою технологію на передову, тестуючи різні системи з пілотами безпілотників. Попит різко зріс.

До травня Saker масово виробляла односхемні комп’ютери з її програмним забезпеченням, яке можна було легко приєднати до безпілотних літальних апаратів FPV, щоб машини могли автоматично націлюватися на ціль, сказав виконавчий директор компанії, який попросив згадувати лише про нього як Віктор, побоюючись помсти з боку Росії.

Потім дрон врізається в ціль, «і все», – сказав він. «Він протистоїть вітру. Він стійкий до заклинювання. Ви просто повинні бути точними з тим, що ви збираєтеся вдарити».

Зараз Saker виробляє 1000 друкованих плат на місяць і планує розширити виробництво до 9000 на місяць до кінця літа. Кілька українських військових підрозділів уже вразили російські цілі на лінії фронту за допомогою технології Saker, повідомляє компанія та відео, підтверджені The Times.

На одному ролику з технологією Saker, поширеному в соціальних мережах, дрон пролітає над полем, ушкодженим обстрілами. Прямокутник у центрі видошукача пілота раптово наближається до танка, вказуючи на взяття в приціл. Дрон атакує самостійно в борт броні.

Відео автономного безпілотника Saker, який націлився на танк, а потім знищив його на сході України.

Останніми тижнями Saker пішов далі, успішно використавши розвідувальний дрон, який ідентифікував цілі за допомогою ШІ, а потім відправляв автономні дрони-камікадзе для вбивства, сказав Віктор. В одному випадку система вразила ціль на відстані 40 км.

«Коли ми досягнемо того моменту, коли у нас не вистачить людей, єдиним рішенням буде замінити їх роботами», — сказав Ростислав, співзасновник Saker, який також попросив, щоб його називали лише по імені.

Юрій Клонцак присідає біля кулемета, який стріляє по переважно голій землі.
Юрій Клонцак, український резервіст, демонструє роботу з автоматичним кулеметом «Воллі».

Спекотного дня минулого місяця на Донбасі, Юрій Клонцак, 23-річний резервіст, навчив чотирьох солдатів користуватися новітньою футуристичною зброєю: гарматною вежею з автономним прицілюванням, яка працює з контролером PlayStation і планшетом.

Клонцак пояснив, як гармата, названа Wolly за схожістю з роботом Pixar WALL-E, може автоматично брати ціль в приціл на відстані до 1000 метрів і перемикатися між попередньо запрограмованими позиціями, щоб швидко охопити широку зону. Компанія DevDroid, яка виробляє зброю, також розробляла автоматичне прицілювання для відстеження та ураження рухомих цілей.

«Коли я вперше побачив зброю, я був зачарований, — сказав пан Клонцак. – Я розумів, що це єдиний спосіб якщо не виграти цю війну, то принаймні утримати свої позиції».

Зброя є однією із кількох, які з’явилися на передовій з використанням навченого штучним інтелектом програмного забезпечення для автоматичного відстеження та стрільби по цілях. Подібно до ідентифікації об’єктів, яка використовується в камерах спостереження, програмне забезпечення на екрані  виділяє людей та інші потенційні цілі прямокутником. Стрільцю залишається лише віддалено натиснути на курок за допомогою контролера відеоігор.

Наразі виробники зброї кажуть, що вони не дозволяють кулемету стріляти без натискання кнопки людиною. Але вони також сказали, що буде легко зробити таку зюрою, яка зможе.

Багато інновацій в Україні розробляються для протидії прогресивній зброї Росії. Українські військові з кулеметами є основною ціллю для атак російських безпілотників. З роботизованою зброєю жодна людина не гине від попадання кулемета. Нові алгоритми, які все ще знаходяться в стадії розробки, можуть зрештою допомогти зброї вистрілювати російські безпілотники з неба.

Такі технології та можливість швидко створювати та тестувати їх на передовій привернули увагу та інвестиції з-за кордону. Минулого року Ерік Шмідт , колишній виконавчий директор Google, та інші інвестори заснували компанію під назвою D3, щоб інвестувати в новітні бойові технології в Україні. Інші оборонні компанії, такі як Helsing, також об’єднуються з українськими фірмами.

Українські компанії рухаються швидше, ніж конкуренти за кордоном, сказала Евелін Бучацький, керуючий партнер D3, додавши, що компанія просить компанії, в які вона інвестує за межами України, відвідати країну, щоб вони могли прискорити свій розвиток.

“Тут просто інший набір стимулів”, – сказала вона.

Олександр Ябчанка та ще двоє бійців на піщаному стрільбищі.
Командир Олександр Ябчанка (ліворуч) опублікував у Facebook відкритий запит на комп’ютерний дистанційний кулемет. Це стимулювало інновації, оскільки компанії намагалися допомогти.
У широкій ґрунтовій канаві солдат кріпить кулемет на платформі з чотирма колесами всюдихода.
Українська компанія Roboneers розробила автоматичну зброю з гарматною вежею, встановленою на безпілотнику, що рухається.
Розстібнутий і відкритий чохол містить пристрій з двома перемикачами управління та маленьким екраном.
Перероблена система відеоігор, яка використовується з гарматною вежею Roboneers.

Часто на полі бою потрібно об’єднати інженерів і солдатів. Олександр Ябчанка, командир батальйону «Вовки Да Вінчі», відомого своїми інноваційними озброєннями, згадав, як спонукала необхідність захищати «дорогу життя» — маршрут, який використовувався для постачання військ, які воюють проти росіян уздовж східної лінії фронту в Бахмуті.  Уявивши вихід, він опублікував у Facebook відкритий запит на комп’ютеризований кулемет з дистанційним керуванням.

За кілька місяців Ябчанка отримав робочий прототип від фірми Roboneers. Кулумет майже миттєво став корисним для його підрозділу.

«Ми могли б сидіти в траншеї, пити каву та курити цигарки та стріляти по росіянах», – сказав він.

Пізніше внесок Ябчанки допоміг Roboneers розробити новий вид зброї. Компанія встановила кулеметну турель на безпілотник, що рухається, щоб допомогти військам здійснювати штурм або швидко змінювати позиції. За словами генерального директора Roboneers Антона Скрипника, ця програма призвела до більшої потреби в автоматичному прицілюванні на основі ШІ.

Подібні партнерства підштовхнули й інші досягнення. У травні на полігоні безпілотників Swarmer, ще одна місцева компанія, провела відеодзвінок із військовою частиною, щоб ознайомити солдатів з оновленнями свого програмного забезпечення, яке дозволяє безпілотникам здійснювати атаки без пілота.

Два користувача ноутбука, один у кепці, а інший у чорній куртці з капюшоном, сидять за столом перед спостерігачами на трав’янистому полі.
Українська компанія Swarmer створила програмне забезпечення на основі моделі штучного інтелекту, яка була навчена великими обсягами даних про місії безпілотників на передовій.

Програмне забезпечення від Swarmer, яке було створено минулого року колишнім інженером Amazon Сергієм Купрієнком, було побудовано на моделі штучного інтелекту, яка була навчена великими обсягами даних про місії безпілотників на передовій. Це дозволяє одному техніку брати в упрвління до семи безпілотників під час бомбардування та розвідки.

Нещодавно Swarmer додав здібності, які можуть керувати дронами-камікадзе на відстані близько 60 км. Є надія, що програмне забезпечення, яке тестується з січня, дозволить скоротити кількість людей, необхідних для управління мініатюрними повітряними силами, які домінують на передовій.

Тестування дронів Swarmer під Києвом минулого місяця.

Під час демонстрації інженер Swarmer за комп’ютером спостерігав за картою, а над головою дзижчали шість автономних дронів. Один за одним великі безпілотники-бомбардувальники пролетіли над потенційною ціллю та скинули пляшки з водою, імітуючи бомби.

Деякі пілоти безпілотників бояться, що їх повністю замінить ця технологія, сказав Купрієнко.

«Вони кажуть: «Ой, летить без нас. Вони заберуть у нас пульти дистанційного керування і дадуть нам у руки автомат», — сказав він, посилаючись на переконання, що керувати безпілотником безпечніше, ніж займати окоп на фронті.

«Але я кажу, ні, тепер ви зможете літати з п’ятьма або 10 дронами одночасно, – сказав він. – Програмне забезпечення допоможе їм боротися краще».

На відеомоніторі на підставці перед білою стіною зображено дрон, що летить над зеленим полем під яскраво-блакитним небом,
Шоу-рум у штаб-квартирі Roboneers в Західній Україні. 

У 2017 році Рассел, дослідник ШІ в Берклі, випустив онлайн-фільм Slaughterbots, попереджаючи про небезпеку автономної зброї. У фільмі мандрівні зграї недорогих озброєних безпілотників зі штучним інтелектом використовують технологію розпізнавання облич, щоб вистежувати та вбивати цілі.

Те, що відбувається в Україні, рухає нас до антиутопічного майбутнього, сказав Рассел. За його словами, його вже лякають відео солдатів, яких переслідують озброєні дрони, якими керують люди. Часто буває момент, коли солдати припиняють спроби втекти або сховатися, оскільки розуміють, що не можуть втекти від безпілотника.

«Їм нікуди подітися, тому вони просто чекають, поки помруть», — сказав пан Рассел.

Він не єдиний, хто боїться, що війна в Україні є поворотним моментом. У Відні члени групи експертів ООН також заявили, що вони стурбовані наслідками нових методів, які розробляються в Україні.

Офіційні особи провели більше десяти років, обговорюючи правила використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода встановить нові правила, особливо в умовах, коли Сполучені Штати, Китай, Ізраїль, Росія та інші намагаються розробити ще більш досконалу зброю. В рамках однієї програми США, відомої як ініціатива Replicator, Пентагон заявив, що планує масово виробляти тисячі автономних дронів.

«Геополітика робить це неможливим, — сказав Александер Кментт, головний переговорник Австрії щодо автономної зброї в ООН. — Ця зброя буде використана, і вона використовуватиметься у військовому арсеналі практично всіх».

Ніхто не очікує, що країни приймуть повну заборону такої зброї, сказав він, «але її слід регулювати таким чином, щоб ми не закінчилися абсолютно кошмарним сценарієм».

Групи, включно з Міжнародним комітетом Червоного Хреста, наполягають на юридично обов’язкових правилах, які забороняють певні типи автономної зброї, обмежують використання інших і вимагають певного рівня людського контролю над рішеннями про застосування сили.

Михайло Федоров виступає зі сцени перед великою картиною рядів військової техніки, що нагадує маленькі танки.
Міністр цифрової трансформації України Михайло Федоров на травневому саміті в Києві. Він виступав за використання технологічних стартапів для інновацій у зброї. 

Для багатьох в Україні дискусія є академічною. Вони перевершують озброєння та кількість людей.

«Спочатку нам потрібно виграти, – сказав Федоров, міністр цифрової трансформації. – Для цього ми зробимо все можливе, щоб максимально запровадити автоматизацію, щоб зберегти життя наших солдатів».

За матеріалами: New York Times

НАПИСАТИ ВІДПОВІДЬ

Коментуйте, будь-ласка!
Будь ласка введіть ваше ім'я

Євген
Євген
Євген пише для TechToday з 2012 року. Інженер за освітою. Захоплюється реставрацією старих автомобілів.

Vodafone

Залишайтеся з нами

10,052Фанитак
1,445Послідовникислідувати
105Абонентипідписуватися