이란전을 계기로 인공지능(AI) 기반 전장 변화가 현실화되는 가운데 국내 군의 AI 도입은 여전히 초기 단계에 머물러 있다는 지적이 나왔다. 데이터 개방 한계와 인력 부족, 신뢰성 검증 체계 미비 등 구조적 문제가 남아 있어 민군 협력과 제도 정비 없이는 실제 전력화로 이어지기 어렵다는 분석이다.

1일 오후 국회의원회관 제7간담회의실에서 ‘이란전으로 본 AI 전쟁 : 국방 혁신과 생명 윤리’를 주제로 토론회가 개최됐다. 이번 토론회는 부승찬 의원, 유용원 의원이 주최했으며 국방부, 국방과학연구소, AI안전연구소, 한화시스템 등의 관계자들이 참석했다.

◆ "GPU·데이터·인력 부족"…국방 AI 4대 난제

이날 토론에 참석한 하윤철 한화시스템 연구기획팀 상무는 국방 AI 도입 과정에서 공통적으로 겪는 어려움으로 ▲GPU 등 인프라 부족 ▲데이터 활용 제한 ▲전문 인력 수급 문제 ▲모델 신뢰성 문제를 꼽았다.

먼저 GPU 자원이 국방 분야에 충분히 배분되지 않는 현실을 지적했다. 하 상무는 "GPU 자원이 국방 쪽에 많이 돌아오지 않는다"며 "재정 지원이 최근 풀렸지만 인프라 지원이 여전히 부족하다"고 말했다.

데이터의 구조적인 한계도 지적했다. 하 상무는 "현재 공개되는 데이터가 공개 가능한 범위 수준에 한정돼 있고, 이를 독자 파운데이션 모델에 반영하더라도 해당 모델은 국방 행정이나 인사 등 범용 업무 수준에 머물 수밖에 있다는 한계가 있다"고 말했다.

이어 전략 수준 AI 개발과 관련해 "전략급·중수급 LLM이 언제 나올지, 이에 대한 국가 로드맵과 예산 투입 계획이 무엇인지도 여전히 불확실한 상태"라고 지적했다.

AI 인력 확보 역시 쉽지 않은 상황이다. 기업들이 인재 확보 경쟁을 벌이고 있지만, 단순 AI 기술 인력이 아닌 ‘군 도메인 이해’를 갖춘 인력은 극히 부족하다는 것이다. 군의 용어와 작전 개념을 이해하지 못하면 실제 전력화로 이어지기 어렵다는 설명이다.

하 상무는 "군인들이 말하는 언어, 군인들의 사고 방식들, 표적 개발 같은 개념을 이해하는 엔지니어가 많지 않다"며 "군이 교육하거나 연계 양성 과정을 통해 배출된 AI 인력이 민간으로 이탈하는 경우가 있어 국방 분야에 인력과 기술이 축적되는 선순환이 형성되지 않는다"고 지적했다. 

◆ "AI 무기 신뢰성 검증 과제"…요구 단계부터 기준 미정립

국방 AI의 신뢰성과 검증 체계 부재도 핵심 과제로 제기됐다. 하 상무는 "현재 국방 AI는 아직 혁신 기술 단계를 벗어나지 못한 상태"라며 "체계 개발과 양산 단계까지 가야 실제 무기 운용 과정에서 AI가 어떻게 동작하는지 검증이 가능해진다"고 말했다.

이어 "미국의 경우 데이터 편향성 제거, 설명 가능성 확보, 오작동 대응 등 책임 있는 AI 운용을 위한 기준을 제시하고 있다"며 "개발 단계에서부터 AI 모델과 연계된 소프트웨어의 내부 구조를 확인하고 통제할 수 있어야 한다"고 강조했다.

반면 국내는 요구 사항 단계부터 신뢰성과 검증 기준이 명확히 반영되지 않고 있다는 점을 문제로 지적했다.

하 상무는 "AI 기능 도입이 필요하다는 수준에서 두리뭉실하게 설정돼 있을 뿐, 검증 방법이나 기준이 요구 단계에서부터 성립돼 있지 않다"고 말했다. 현재 일부 과제에서 설명 가능한 AI 기능이 반영되고 공인기관 인증 등을 통한 관리가 이뤄지고 있지만, 이는 기존 소프트웨어 중심의 검증 체계를 확장한 수준에 그친다는 평가다.

이어 "기존 무기체계는 코드 단위까지 관리되고 단계별 시험을 거치지만, AI는 내부를 완전히 들여다보기 어려운 영역이 남아 있다"며 "본격적인 체계 개발 단계에 들어갈 경우 이에 맞는 검증 로직을 별도로 구축해야 한다"고 강조했다.

아울러 "군 내부에서도 시험평가 조직이 AI 검증 방안을 고민하고 있지만, 이를 제도화하고 민간의 AI 안전 기준과 결합하는 논의가 필요하다"고 덧붙였다.