Сбой в работе алгоритмов искусственного интеллекта этой весной поставил мир на грань масштабного столкновения. По сообщениям CNN, опирающимся на данные из собственных источников, американское военное командование почти инициило операцию по захвату китайского судна. Причиной послужил неверный отчет, в котором утверждалось, что корабль перевозит детали, предназначенные для иранской ядерной программы.
Развитие событий приняло критический оборот, когда военные, поверив сведениям, начали активную фазу подготовки к штурму. Командование приступило к разработке плана перехвата и планировало высадку спецназа на борт, а в небо уже были подняты военные самолеты. Ситуацию удалось предотвратить лишь в последний момент, когда чиновники решили провести повторную проверку данных. В ходе тщательного изучения документа выяснилось, что аналитик командования спецопераций подготовил отчет с помощью чат-бота, который допустил фатальную ошибку в идентификации груза.
Один из осведомленных источников CNN подчеркнул, что сгенерированные ИИ сведения были абсолютно ложными и едва не спровоцировали полномасштабную войну. Телеканал акцентирует внимание на том, что любое силовое воздействие США на китайское судно могло мгновенно перерасти в вооруженное противостояние двух сверхдержав.
Механизм ошибки кроется в способе обработки информации. Военный специалист использовал нейросеть для анализа разведданных, касающихся грузового манифеста судна. Чат-бот объединил фрагменты из открытых источников с закрытой разведывательной информацией, что привело к ложному выводу. Аналитик, не заметив подвоха, использовал эти результаты для составления итогового доклада руководству.
На фоне подобных инцидентов в американских ведомствах продолжается масштабная интеграция ИИ. В настоящее время власти США стремятся внедрить технологии во все ключевые сферы армии и разведки, включая обработку первичных данных и выбор целей для нанесения ударов. В прошлом году Пентагон инвестировал 200 миллионов долларов в контракт с компанией xAI, принадлежащей Илону Маску, чтобы ускорить цифровизацию ведомства. Одновременно с этим министерство обороны США заключило соглашения с разработчиками моделей OpenAI и Anthropic.
История использования ИИ в военных целях уже знала драматические моменты. Согласно материалам The Wall Street Journal, в марте президент США Дональд Трамп использовал разработки Anthropic для координации массированного авиаудара по Ирану. Однако сотрудничество с этой компанией столкнулось с серьезными препятствиями. Глава Anthropic Дарио Амодеи настаивал на получении гарантий, что его технологии не будут применяться для ведения автономного боевого оружия или ведения слежки без участия человека. Этот спор привел к тому, что Пентагон официально классифицировал Anthropic как «риск для цепочки поставок».
На текущий момент курс на дистанцирование от подобных технологий очевиден. Как заявил заместитель министра обороны США по исследованиям и разработкам, главный технический директор Пентагона Эмиль Майкл:
ведомство планирует полностью прекратить эксплуатацию систем от Anthropic в своих структурах к завершению сентября.
