Американські військові підготували операцію з перехоплення китайського цивільного судна на Близькому Сході після розвідувального повідомлення про нібито наявність на борту компонентів для ядерної зброї. Операцію скасували після повторної перевірки: з’ясувалося, що відомості про небезпечний вантаж вигадав штучний інтелект.
Підставою для підготовки перехоплення стала секретна аналітична довідка американської військової розвідки. У ній стверджувалося, що китайське судно перевозить деталі, які можуть бути використані для створення ядерної зброї. Цю інформацію сприйняли як достатньо серйозну, щоб розпочати підготовку операції із затримання корабля.
За наведеними даними, американська сторона підняла в повітря бойову авіацію, а групи перехоплення готувалися до висадки на судно. Втім, перед проведенням операції посадовці вирішили ще раз перевірити джерела, на яких ґрунтувалися висновки розвідки.
Повторна перевірка не підтвердила інформації про ядерні компоненти. Як з’ясувалося, твердження про такий вантаж було згенероване ШІ та потрапило до аналітичної довідки як нібито достовірний факт. Після виявлення помилки заплановане перехоплення скасували.
За словами джерел у військово-морських силах США, примусове затримання китайського цивільного судна могло спричинити небезпечне загострення відносин між Вашингтоном і Пекіном. Водночас до самого перехоплення справа не дійшла, а можливі наслідки такої операції залишаються оцінкою співрозмовників.
Причиною помилки, за наведеними відомостями, стало використання чатбота під час підготовки розвідувальної аналітики. Один зі співробітників застосував ШІ для об’єднання інформації з відкритих джерел і засекречених даних радіоелектронного перехоплення. Під час обробки цих відомостей система сформувала висновок про ядерний вантаж, якого джерела не підтверджували.
Випадок привернув увагу до того, як американські військові використовують інструменти штучного інтелекту в аналітичній роботі. Різні підрозділи можуть застосовувати відмінні програми, зокрема адаптовані комерційні чатботи, а порядок перевірки сформованих ними висновків не завжди однаковий.
Проблема полягає в тому, що ШІ здатний подавати вигадані подробиці у формі переконливого аналітичного висновку. Якщо такий висновок потрапляє до розвідувальної довідки без перевірки первинних даних, його можуть помилково використати під час підготовки військової операції.
Фахівці також звертають увагу на зростання обсягів інформації, яку військовим доводиться аналізувати для визначення потенційних цілей. Через це вони дедалі частіше застосовують алгоритми ШІ, хоча випадок із китайським судном показав, що сформовані системою твердження можуть не відповідати даним, на яких нібито ґрунтуються.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
