무분별한 대량 살상이 가능한 무기체계는 역사적으로 항상 비판의 대상이었고, 인류 전체가 공멸의 두려움에 떨기도 하였다. 자율능력은 특정 무기로서 뿐만이 아니라 상위 개념의 능력으로서 지휘통제통신, 감시정찰 및 정밀타격 체계(C4ISR-PGM) 전반에 걸쳐 영향을 줄 것으로 판단되며, 인간의 통제를 벗어날 수 있다는(Human-out-of-the-loop) 점에서 기존의 무기체계 전체가 통제력을 잃어버릴 수 있다는 위험성도 내포한다. 그럼에도 불구하고 자율능력을 효과적으로 개발하고 관리해야 하는 이유는 이미 우리 사회가 인공지능 기술들을 수용하기 시작하여 이를 막는다는 것은 불가능에 가까우며(즉, 이미 4차 산업혁명의 시작을 맞이함), 오히려 선제적으로 연구해서 의도치 않은 군사적 결과가 발생하는 것을 효과적으로 막는 것이 중요하기 때문이다. 앞으로도 선진국을 중심으로 자율능력에 대한 규제와 합의가 도출될 것이 분명하며, 우리도 이러한 트랜드에 발맞추어 연구와 표준화를 병행해야 한다.
자율능력을 발전시키고 관리해야 하는 건 무슨 기술을 사회가 받아들이기 시작해서야
인공지능 기술