미 특수전사령부(USSOCOM)의 프랭크 브래들리 사령관이 인공지능(AI)의 전장 도입 흐름에 강력한 경종을 울렸다.
AI가 작전 효율을 높일 수는 있지만, 무력 사용은 무력충돌법상 구별·비례성·책임 원칙을 충족해야 하며 최종 판단은 인간 지휘관에게 남아야 한다는 취지다.
특수전 부대는 드론 스웜(무인기 군집 비행)이나 AI 표적 인식 등 최첨단 국방 기술을 가장 먼저 시험하는 공간이다. 온갖 데이터가 실시간으로 결합되면서 현장 지휘관들은 초단위 결정을 압박받는다.
하지만 전장에서의 빠른 결정이 늘 올바른 결정을 의미하지는 않는다. 민간인과 전투원을 구별하고 비례성까지 판단해야 하는 법적 책임은 알고리즘의 단순한 연산 속도만으로 해결할 수 없기 때문이다.
데이터가 읽지 못하는 전장의 맥락
AI는 방대한 영상 정보와 신호를 분류하고 의심 표적을 빠르게 추려내는 일에 탁월하다.
적은 인력으로 넓은 작전 구역을 감시해야 하는 비대칭 특수전 환경에서 매우 매력적인 무기임은 틀림없다.
문제는 AI가 전장의 복잡한 맥락을 완전히 이해하지 못한다는 점이다. 표적 근처의 민간인 차량이나 적의 기만 전술, 항복 신호 같은 돌발 변수 앞에서 데이터 모델의 오작동은 치명적인 결과로 이어진다.
결국 핵심은 AI 도입의 찬반이 아니라 권한의 범위이다. 정찰과 탐지 단계까지는 자동화를 넓히더라도, 타격 승인과 법적 책임을 지는 지휘 계통은 인간의 영역으로 엄격히 남겨두어야 한다는 주장이 힘을 얻는다.
한반도 안보 환경이 요구하는 정밀성
한국군 역시 AI 기반의 유무인 복합체계(MUM-T)와 지휘통제 자동화 구축을 가속화하고 있다.
북한의 기습적인 장사정포와 드론 위협에 실시간으로 대응하려면 인간의 시각만으로는 분명한 한계가 존재한다.
하지만 인구 밀집도가 높고 군사분계선(MDL)을 맞댄 한반도의 안보 환경은 단 한 걸음의 오차도 허용하지 않는다. 알고리즘의 오인 타격 하나가 단순한 작전 실패를 넘어 전면전이라는 국가적 위기로 번질 수 있어서다.
따라서 전장 AI의 성패는 기술의 화려함이 아니라 오작동을 제어할 신뢰성 설계에 달렸다. 오류가 발생했을 때 책임질 주체가 모호한 시스템은 현장 지휘관에게 오히려 거대한 심리적 부담으로 작용할 뿐이다.
인간 개입이 곧 미래 국방의 경쟁력
AI가 표적 후보를 추천할 수는 있어도 그 작전이 가져올 정치적 파장까지 책임질 수는 없다.
기술을 실전에 배치하기 전에 검증 프로토콜과 인간의 승인을 거치는 ‘인간 개입(Human-in-the-loop)’ 원칙이 필수적이다.
글로벌 국방 조달 시장 역시 단순한 스펙 경쟁을 넘어 ‘설명 가능한 AI(XAI)’와 책임 소재의 명확성을 더욱 엄격하게 평가하는 추세다. 한국군 역시 무기 자동화 속도만큼이나 법적 통제 장치를 촘촘히 마련해야 한다.
전장 AI의 진짜 경쟁력은 얼마나 많은 과정을 자동화하느냐가 아니라, 어느 지점에서 인간이 시스템을 안전하게 멈춰 세울 수 있는가에 있다. 결국 신뢰성이 무기 성능의 핵심 지표가 되는 시대이다.
