29일 개최된 ‘AI Pilot 무인전투기 개발 어디까지 왔나’ 정책토론회에서 발표 중인 김용덕 국방과학연구소 국방 AI센터 6실장

[위즈경제] 이정원 기자 =“무인 전투기가 필요한 건 개발자나 사용자 모두가 공감하고 있지만, 지금까지 사용해 본 적 없는 신무기라 어떻게 운영해야 되는지 아무도 확신하지 못하고 있는 상황이다”

김용덕 국방과학연구소 국방 AI센터 6실장은 29일 국회 의원회관에서 개최된 ‘AI Pilot 무인전투기 개발 어디까지 왔나’ 정책토론회에서 이같이 설명했다.

김 실장은 “무인 전투기는 인구가 줄고 있는 상황에서 고급 자원인 조종사를 양성하기 위해서는 많은 금액이 필요하고 소실될 경우 적지 않은 피해가 발생한다”라며 “이 같은 위험을 줄이고 조종사의 업무를 커버하는데 무인 전투기가 도움이 될 것이다”라고 무인 전투기 연구 배경을 설명했다.

그는 이어 “국방과학연구소는 전통적인 AI, 클래식 AI로 많은 전문가 시스템을 활용한 규칙 기반 AI와 이를 바탕으로 학습을 진행한 AI 조종사를 개발하고 있다”라고 덧붙였다.

 
주제 발표 중인 김용덕 국방과학연구소 국방 AI센터 6실장 (사진=위즈경제)

현재 무인 전투기가 인간보다 뛰어난 역량을 보이고 있는 사례가 존재한다고 밝히는 한편, AI 기반의 무인 전투기 도입에 있어 신중한 태도가 필요하다고 조언했다.

김 실장은 “국방과학연구소에서 개발한 AI 교전 모델과 실제 전투기 조종사 간 교전 평가를 실시한 결과, 모의 환경 내에서 AI 교전 모델이 조종사와의 교전에서 전승을 거뒀다”라며 “다만, 지금 당장 내일 어떤 기술이 나올지 모르는 빠른 기술 속도를 보이고 있는 상황에서 급격하게 많은 것을 얻으려는 것보다 단계적으로 문제를 풀어나가야 할 필요가 있다”고 말했다.

그는 이어 “학습만 한 AI의 특징은 설명이 불가능하다는 점에 있다면서 앞서 미국에서 실시된 가상훈련에서는 AI가 임무에 방해된다는 이유로 조종사를 제거하는 보도가 나왔다”라며 “따라서 학습만 한 AI의 경우, 정책적으로나 윤리적으로 위험한 행동을 할 수 있기 때문에 이를 제어하기 위한 규칙 기반의 룰이 필요하다”고 설명했다.

김 실장은 “과거 오펜하이머는 나치가 먼저 핵폭탄을 만들지 모른다는 우려로 인해 뒷일을 생각하지 않고 핵폭탄을 만들었다. 우리 역시 이와 같은 전철을 밟고 있는지도 모른다”라며 “무인 전투기가 기존 개발 취지와 다르게 사용되지 않도록 군과 다양한 분야의 전문가들이 서로 머리를 맞대고 어떻게 사용될지에 대해서 논의할 필요가 있다”고 했다.