Військові російської армії випробували експериментальний автономний дрон зі штучним інтелектом, який керувався ШІ без участі оператора, під час удару по автозаправній станції в Запоріжжі. Внаслідок вибуху загинули троє цивільних мешканців міста, серед яких 19-річна студентка Запорізького національного університету.
Про це повідомляє видання The New York Times із посиланням на українських військових командирів, експертів із БпЛА та результати експертизи уламків.
Дослідження показало, що безпілотник був заздалегідь запрограмований на політ у район заправної станції, проте точну ціль для удару — ймовірно, балони з пропаном — він вибрав самостійно. Для автономного наведення ворог використав обчислювальний модуль Nvidia Jetson Orin. Це один із перших підтверджених випадків загибелі цивільних через застосування повністю автономної зброї з ШІ.
За словами українських фахівців, модуль Nvidia не був зашифрований, що дозволило проаналізувати його вміст. У пам’яті пристрою виявили завантажені зображення місцевості для візуальної навігації, а також код із шаблонами цілей, на розпізнавання яких навчали алгоритми (зокрема пропанових балонів).
«Це ризик для всього світу. Через кілька років ми будемо жити, як у фільмі „Термінатор“. Це не жарт. Машини приймають рішення про нанесення ударів», — зазначив командир протиповітряної оборони Запоріжжя полковник Сергій Мінаєв.
Аналітики зазначають, що чіпи серії Nvidia Jetson Orin є продуктами цивільного призначення вартістю від кількох сотень доларів. Попри заборону прямих постачань до РФ, окупанти закуповують їх через мережі посередників.
Дрони, задіяні під час цієї серії атак, летіли групою, не випромінювали радіосигналів та не мали антен зв’язку, що унеможливлювало перехоплення керування або придушення каналу зв’язку засобами РЕБ.
Раніше як Росія, так і Україна застосовували елементи штучного інтелекту переважно на так званій «останній милі» — коли пілот-людина вибирає ціль, а алгоритм донаводить дрон у разі втрати сигналу. Проте випробування повністю автономних систем, таких як російські БПЛА «Молнія» та «В2У», виключають людину з ланцюжка прийняття рішень.
Джерело: www.ukrinform.ua