К’яра Айснер
Три проєкти Пентагону, які перевірялися Рахунковою палатою уряду США (GAO), включали зброю для протидії маскуванню (верхнє зображення) та розпізнавання цілей (нижні зображення). Government Accountability Office/GAO
Пентагон розробляє зброю та проєкти з можливостями штучного інтелекту, які, за словами чиновників, не завжди суворо відповідають власним вказівкам відомства щодо ШІ, згідно зі звітом, опублікованим у жовтні.
Дослідники ШІ та міжнародні організації давно виступають за суворе регулювання ШІ при використанні його у зброї, яка може стати непередбачуваною або функціонувати з мінімальним людським контролем. Вони стверджують, що такі інструменти можуть становити небезпеку для життя солдатів і цивільних, а також ризик швидкої ескалації воєн. Однак міністр оборони Піт Хегсет неодноразово відкидав попередню обережність щодо інструментів ШІ та заохочував швидкі автономні інновації в Пентагоні.
У січні Пентагон видав меморандум, в якому заявив, що відомство стане “військовою силою, яка перш за все використовує ШІ, у всіх компонентах, від переду до заду”. Минулого місяця Хегсет оголосив про створення нового командування, зосередженого на розробці автономної зброї, зокрема дронів.
Міністр оборони Піт Хегсет виступає на обговоренні під час щорічної зустрічі армії 14 жовтня 2026 року у Вашингтоні. Kevin Dietsch/Getty Images North America
Звіт наглядового органу, опублікований Рахунковою палатою США 14 жовтня, надає рідкісний погляд на те, як розробляються такі проєкти.
GAO опитала 10 посадовців, залучених до створення 10 одиниць зброї та інструментів для Пентагону, які використовують ШІ для автоматичного виявлення цілей на полі бою, обробки даних розвідки, покращення тактичних рішень та інших завдань. Ці проєкти є одними з понад 300, що розробляються з використанням ШІ в Пентагоні.
Відповідаючи на опитування GAO, шість з десяти посадовців заявили, що їхні команди “виявили ризик(и)” щодо використання проєктів “в оперативному середовищі”.
Для усунення деяких із цих ризиків у 2021 році Пентагон надіслав меморандум, що окреслює шість основних принципів для забезпечення відповідальної розробки зброї зі ШІ. Ці шість керівних принципів наголошують на важливості загальновійськового нагляду, перевірки та “моніторингу технологій у реальному часі”, а також співпраці з союзниками “для просування глобальних норм, ґрунтованих на спільних цінностях”.
Алісса Чиз, яка керувала оглядом GAO, зазначила, що принципи еволюціонували з попередніх етичних настанов, і хоча вони не були правилами, їх вважали важливими особи, залучені до створення інструментів ШІ в Пентагоні.
“Зрештою, це меморандум, а не інструкція відомства”, — сказала Чиз. “Це те, що відомство сигналізувало, що має бути впроваджено”.
Більшість осіб, залучених до створення 10 одиниць зброї та проєктів, перевірених GAO, зробили “принаймні початкові кроки” для дотримання шести принципів, викладених у меморандумі, і деякі проєкти були на ранніх стадіях, уточнила Чиз.
Однак деякі відповіді вказували на те, що посадовці не завжди уважно дотримувалися вказівок.
Чотири посадовці повідомили GAO, що вимоги до зброї та проєктів, над якими вони працювали, не “відповідали принципам відповідального ШІ”. А троє з десяти посадовців сказали GAO, що “не знають”, чи будуть проєкти постійно моніторитися після розгортання, хоча шість принципів заохочують моніторинг.
Національна безпека
Промова Хегсета спирається на точки розпалу культурологічної війни
Посадовці повідомили GAO, що більший доступ до експертизи щодо вказівок відомства або персоналу, який знає про них, збільшить їхню здатність відповідально впроваджувати ШІ. Але група, яка допомагає керувати освітою щодо вказівок Пентагону, — Відділ відповідального ШІ — недоукомплектована. Хоча група мала право найняти 10 осіб у 2023 році, станом на лютий були заповнені лише три з цих посад, і Пентагон “ймовірно, не заповнить вакантні посади або не збільшить штат”, — йдеться у звіті.
“Це дуже невелика кількість людей, які мають велику відповідальність за відповідальний ШІ у всьому відомстві”, — сказала Чиз.
GAO висунула дві рекомендації: Пентагон має чіткіше окреслити обов’язки та графіки зустрічей відділу, відповідального за нагляд за регулюванням ШІ, та усунути проблему недоукомплектації персоналу. Хоча Пентагон погодився з цими рекомендаціями, станом на 22 жовтня відомство не впровадило цих змін, підтвердив представник GAO для NPR.
NPR звернувся до Пентагону з запитанням, коли вони планують внести ці зміни, але не отримав відповіді.
Виступаючи на SpaceX у січні, Хегсет зазначив, що, на його думку, розробка ШІ в Пентагоні не повинна сповільнюватися подібними кроками.
“Наше підприємство зараз працює з кадровим та комітетським циклом, що вимірюється місяцями та роками, і це неприйнятно”, — сказав Хегсет. “Військовий ШІ буде гонкою в осяжному майбутньому, де ризики для національної безпеки США від надто повільних дій переважать наслідки недосконалої відповідності”.
NPR хотіло б почути більше від людей, які працюють з федеральними відомствами або компаніями ШІ та мають інформацію для обміну щодо того, як відомства використовують ШІ. Ви можете написати репортеру цієї статті, К’ярі Айснер, на електронну адресу [email protected] або зв’язатися з нею в Signal за іменем користувача ceis.78.
NPR не пропонує та не приймає гроші за висвітлення або інтерв’ю.
Будь-хто, хто робить таку пропозицію або запит, не є співробітником NPR і не представляє NPR.
- Адміністрація Трампа
- Міністерство оборони
- Штучний інтелект
Подробиці можна знайти на сайті: www.npr.org