9일 서울 중구 롯데호텔에서 '2024 인공지능(AI)의 책임있는 군사적 이용에 관한 고위급회의(REAIM 고위급회의)' 본회의가 열리고 있다. [연합]

[헤럴드경제=최은지 기자] 세계 90여개국이 군사분야 AI 적용에 대한 인간의 책임과 책무를 강조하는 청사진을 제시했다.

10일 열린 2024 인공지능의 책임있는 군사적 이용에 관한(REAIM) 고위급 회의에서 군사 분야 AI 규범 마련을 위한 청사진을 제시하는 선언적 문서인 ‘REAIM 행동을 위한 청사진’을 채택했다.

문서는 “수반되는 위험과 도전을 적절히 다루는 가운데, AI의 혜택과 기회를 활용하기 위해서 AI 기반 시스템을 포함한 군사분야 AI 역량은 전 수명주기에 걸쳐 책임성 있는 방식으로 적용돼야 하며, 적용가능한 국제법, 특히 국제인도법을 준수해야 한다”고 제시했다.

문서는 군사분야 AI 적용이 국제 평화, 안보 및 안정을 유지하며 저해하지 않는 방식으로 개발, 배치, 이용돼야 하고, AI 적용이 군사 분야의 다양한 방면에 예측 가능한 위험과 예측 불가능한 위험을 야기할 수 있다는 점을 인정했다.

잠재적으로 큰 영향을 초래할 수 있는 AI 적용으로 ▷AI 기반 무기체계 전투 작전 관련 ▷AI 기반 의사결정 지원 체계 ▷AI를 이용한 사이버 작전 ▷AI를 이용한 전자전 ▷AI를 이용한 정보전 등이 포함될 수 있다고 밝혔다.

또한 문서는 “국가 테러집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성이 있다”며 “AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않고 지원하야 하며, 특히 핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하다”고 강조했다.

이어 “잠재적으로 위험한 AI 기반 시스템을 포함한 군사분야 AI 역량을 무책임한 행위자들이 획득 및 오용하는 것을 방지하기 위한 강력한 통제 및 보안 조치 마련이 중요하다”며 “이러한 수단이 여타 비군사적 분야에서 AI 역량이 제공하는 혜택에 대한 평등한 접근을 저해해서는 안 된다”고 했다.

문서는 AI 적용에서의 국제법 준수와 인간의 책무를 강조했다.

AI의 책임있는 군사적 이용을 위한 조치로 “AI 적용은 UN 헌장, 국제인도법, 국제인권법을 포함해 적용 가능한 국제법, 지역 기구를 포함한 적절한 여타 법적 체제에 합치되는 방식으로 개발, 배치, 이용돼야만 한다”며 “책임있는 군사분야 AI 적용을 보장하기 위한 국가 전략, 원칙, 표준 및 규범, 정책 및 체계, 법률 마련이 중요하다”고 말했다.

문서는 “AI의 적용이 윤리적이고 인간 중심적이어야 한다”며 “인간은 군사분야 AI 적용의 활용과 효과에 대한 책임과 책무를 지며, 이러한 책임과 책무는 어떠한 경우에도 기계에게 전가될 수 없다”고 명시했다.

이어 “무력 사용에 대한 인간의 판단과 통제와 연관된 적절한 조치를 포함해, 군사분야 AI의 개발.배치.이용시 인간의 적절한 개입이 유지돼야 한다”며 “관련 인원은 AI 기반 시스템을 포함한 군사분야 AI 역량에 의해 생성되는 결과물을 적절히 이해, 설명, 추적, 신뢰할 수 있어야 한다”고 했다.

문서는 군사분야 AI의 거버넌스가 개방적이고 포용적인 방식으로 이뤄져야 하고, 유연하고 균형적이며 현실적인 접근이 필요하다고 강조했다.

REAIM 고위급 회의는 AI의 군사적 이용이 국제 평화와 안보에 미치는 영향에 대한 국제사회의 이해를 높이고, 관련 국제규범 형성에 기여하고자 출범한 1.5트랙(반관반민) 형식 국제 다자회의체다.

지난해 네덜란드에 이어 올해 우리나라에서 두번째로 개최됐으며, 네덜란드와 싱가포르, 케냐, 영국이 공동주최국으로 참여했다.