Армійські технології на основі ШІ все частіше зіставляють з початком атомної доби. Аналітики попереджають, що автономна зброя породжує ймовірність некерованого загострення.
Військовий ШІ став новою «ядерною зброєю» людства / © ТСН
Світ наближається до епохи, де штучний інтелект перетворюється на еквівалент ядерної зброї, а безпілотники воюють без людського втручання. США, Китай і Росія вже розпочали гонку, яка здатна докорінно змінити уявлення про глобальну безпеку.
Про це повідомляється в матеріалі il Giornale.
Армійські технології, що спираються на штучний інтелект, дедалі більше непокоять експертів. Спеціалісти застерігають: «Є загроза, що така технологія вийде з-під людського нагляду».
Традиційні види зброї масового знищення поступаються системам на базі ШІ
Сучасний розвиток військових технологій і конфлікти останніх років — від України до Близького Сходу — показують, що традиційні види зброї масового ураження поступово втрачають свою провідну роль, звільняючи місце системам, які використовують ШІ, що все менше контролюються людиною.
Подібно до періоду після Другої світової війни, сьогодні США, Росія та Китай активно розробляють зброю на основі ШІ як інструмент стримування та створення системи «гарантованого взаємного знищення», відомої ще з часів холодної війни. Про це зазначив Палмер Лакі — засновник каліфорнійського оборонного стартапу Anduril, який спеціалізується на розробці автономних дронів зі штучним інтелектом. Його думку наводить The New York Times, яка нещодавно опублікувала великий матеріал про війни майбутнього.
За інформацією джерел у сфері оборони та розвідки, кожна держава намагається створити максимально потужний технологічний арсенал на випадок конфліктів нового типу — коли протистояння відбуватиметься не тільки між людьми, але й між дронами та алгоритмами, причому за сценаріями, які поки що залишаються незрозумілими для людства.
Автономну зброю з ШІ порівнюють з початком атомної ери
У США рівень занепокоєння збільшився після військового параду в Пекіні минулої осені. Під час заходу, на якому були присутні голова КНР Сі Цзіньпін, а також лідери Росії та Північної Кореї, Китай продемонстрував найновіші безпілотники, здатні діяти автономно разом із бойовою авіацією. Після цього в Пентагоні дійшли висновку про необхідність прискорити розробку бойових дронів і посилити співпрацю з оборонними компаніями для реагування на нові виклики.
Ключовою особливістю сучасних озброєнь і систем оборони є їхня здатність функціонувати автономно завдяки використанню штучного інтелекту. Це значно зменшує необхідність участі людини в прийнятті рішень, особливо під час ураження рухомих цілей або відбиття атак. Подібні технологічні зміни, які вже поширюються не тільки серед провідних держав, все частіше зіставляють із початком атомної ери, що у 1940-х роках сформувала нестабільний баланс страху між наддержавами.
Водночас, як зазначає NYT, якщо наслідки застосування ядерної зброї добре вивчені, то потенціал військового використання штучного інтелекту поки що залишається до кінця не розкритим.
Показовим прикладом, хоч і поза межами суто військової сфери, стало рішення компанії Anthropic відмовитися від запуску нової моделі ШІ Mythos. Причиною стало те, що вона потенційно здатна виводити з ладу комп’ютерні системи, які забезпечують роботу критичної інфраструктури — зокрема банків, енергомереж і систем управління повітряним рухом.
Ще одна важлива відмінність від ядерної доби полягає в ролі приватного сектору: сьогодні стартапи та інвестори активно впливають на розвиток військових технологій поряд із державами та науковими установами. Водночас визначити беззаперечного лідера в гонці військового ШІ складно — велика частина інформації є засекреченою, хоча масштаб протистояння очевидний. Ще 2017 року президент Росії Володимир Путін заявив, що той, хто стане лідером у сфері штучного інтелекту, «стане господарем світу».
Два роки тому Сі Цзіньпін назвав цю сферу «головним полем бою» геополітичної конкуренції. Саме такі оцінки, зокрема, підштовхнули міністра оборони США Піта Гегсета у січні видати наказ усім підрозділам збройних сил активно впроваджувати ШІ, прискорюючи цей процес «шаленими темпами».
Спроби врегулювати сферу військового ШІ обмежені
Незважаючи на швидкий розвиток, спроби врегулювати цю сферу залишаються обмеженими. Єдиною помітною домовленістю стала угода між США та Китаєм 2024 року щодо озброєнь на базі ШІ, яка, однак, має рекомендаційний характер і передбачає збереження людського контролю над рішенням про використання ядерної зброї. Інших подібних міжнародних ініціатив наразі немає.
Тим часом розвиток штучного інтелекту лише набирає обертів. За оцінками експертів, чотири роки війни в Україні «стали лабораторією для світу». Останнім часом, за їхніми словами, Київ почав передавати дані з поля бою компанії Palantir — аналітичній структурі, співзасновником якої є Пітер Тіль, — а також іншим технологічним компаніям, щоб удосконалити можливості ШІ у веденні бойових дій.
Переваги і загрози від озброєнь на базі ШІ
На переконання Лакі, нарощування арсеналу озброєнь на основі штучного інтелекту за логікою, подібною до холодної війни, може стати стримуючим чинником для великих конфліктів.
«Навіть війни між наддержавами можуть зникнути, якщо вдасться створити інфраструктуру, здатну ефективно їх стримувати», — підкреслив засновник компанії.
Водночас частина експертів звертає увагу на ризики: якщо концепція стримування базується на раціональності, то системи зі штучним інтелектом створюються для дій швидше, ніж здатна реагувати людина, що може призвести до небезпечних наслідків.
Дослідження та навчання, проведені 2020 року, показали, що автономні системи здатні прискорювати ескалацію під час міжнародних криз і зменшувати рівень людського контролю. Це викликає занепокоєння серед аналітиків і свідчить про те, що технології, негативні наслідки яких вже стають помітними, можуть у майбутньому вийти з-під контролю.
До слова, раніше повідомлялося, що Пентагон надав ШІ-системі Maven від Palantir статус стандартного озброєння, забезпечивши компанії довгострокове фінансування. Система, яку називають «Google Earth для війни», у 50 разів прискорює виявлення цілей і вже використовується в Україні та в операціях проти Ірану. Незважаючи на високу ефективність, технологія викликає гостру критику через ризик помилок: алгоритми не завжди здатні розрізнити зброю від цивільних об’єктів, що призводить до трагедій, як-от удар по школі в Ірані.