REAIM 행동을 위한 청사진(비공식 번역본)

인공지능(AI)은 군사작전, 지휘통제, 정보‧감시‧정찰(ISR), 훈련, 정보관리 및 군수 지원 등을 포함한 군사분야의 모든 측면을 변혁시킬 상당한 잠재력을 지닌 기반 기술이다.

AI의 급속한 진전과 발전에 따라, 군사분야에서 AI 기술을 활용하기 위한 국가들의 관심이 증대하고 있다. 동시에, 군사분야 AI 적용은 인도 주의적, 법적, 안보적, 기술적, 사회적, 또는 윤리적 관점에서 다양한 도전과 위험과 연관될 수 있으며, 이러한 도전과 위험은 식별되고, 평가되며, 다루어져야 한다.

수반되는 위험과 도전을 적절히 다루는 가운데, AI의 혜택과 기회를 활용하기 위해서, AI 기반 시스템을 포함한 군사분야 AI 역량은 전 수명 주기에 걸쳐 책임성 있는 방식으로 적용되어야 하며, 적용 가능한 국제법, 특히 국제인도법을 준수해야 한다.

2023년 인공지능의 책임있는 군사적 이용 관련 고위급회의에서 제시된 ‘행동촉구(Call to Action)’에 기반하여, 우리는 국가, 산업계, 학계, 시민사회, 지역 및 국제기구를 포함한 모든 이행관계자는:

(AI가 국제 평화와 안보에 미치는 영향)

1. 군사분야 AI 적용이 국제 평화, 안보 및 안정을 유지하며 저해하지 않는 방식으로 개발, 배치, 이용되어야 함을 확인하고;

2. 군사분야 AI 적용이 상황인식 및 이해, 정밀성, 정확성, 효율성 증진을 비롯한 다양한 혜택을 가져올 수 있으며, 그러한 혜택이 국제인도법의 이행을 증진하고 무력충돌시 민간인 및 민간물자 보호 노력에 도움을 줄 수 있음을 인정하고; 또한 군사분야 AI 적용이 평화구축 및 평화유지 활동을 보다 효율화하고 지원할 수 있으며, 군비통제 및 기타 준수체제의 검증 및 감시 역량을 강화할 수 있음을 인정하고;

3. AI 적용이 군사 분야의 다양한 방면에 예측 가능한 위험과 예측 불가능한 위험을 야기할 수 있음을 인정하며, 그러한 위험이 그 중에서도

설계상 오류, •데이터·알고리즘·여타 편향에 인한 비의도적 결과, •기술의 잠재적 오용 또는 악용, •AI 적용과 군비경쟁, 오판, 긴장 고조, 분쟁 발생의 역치 하향화 위험 등을 포함한 국제적·지역적 분쟁 및 안정의 복합적인 역학 간 상호작용 등에서유래할수있음을 또한 인정하고;

4. 군사 분야에서 잠재적으로 큰 영향을 초래할 수 있어 특별한 정책적 관심을 요하는 AI 적용으로 •AI 기반 무기체계, •전투 작전 관련 AI 기반 의사결정 지원 체계, •AI를 이용한 사이버 작전, •AI를 이용한 전자전, •AI를 이용한 정보전 등이 포함될 수 있음을 아울러 인정하고;

5. 국가 및 테러집단을 포함한 비국가 행위자들에 의해 대량살상무기의 확산에 기여하는 방식으로 AI 기술이 활용되는 것을 방지할 필요성을 강조 하며, AI 기술이 군축, 군비통제 및 비확산 노력을 저해하지 않고 지원해야 함을 강조하고, 특히, 핵무기 없는 세계라는 궁극적 목표를 저해하지 않는 가운데, 핵무기 사용에 관한 주권적 결정 관련 정보 제공 및 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 것이 중요하고;

6. 잠재적으로 위험한 AI 기반 시스템을 포함한 군사분야 AI 역량을 무책임한 행위자들이 획득 및 오용하는 것을 방지하기 위한 강력한 통제 및 보안 조치 마련의 중요성을 강조하고, 이러한 수단이 여타 비군사적 분야에서 AI 역량이 제공하는 혜택에 대한 평등한 접근을 저해해서는 안된다는 점을 유념하고;

 

(AI의 책임있는 군사적 이용을 위한 조치)

7. AI 적용은 UN 헌장, 국제인도법, 국제인권법을 포함하여 적용 가능한 국제법, 그리고 지역 기구를 포함한 적절한 여타 법적 체제에 합치하는 방식으로 개발, 배치, 이용되어야만 한다는 점을 확인하고;

8. 책임있는 군사분야 AI 적용을 보장하기 위한 국가 전략, 원칙, 표준 및 규범, 정책 및 체계, 법률 마련의 중요성을 강조하고;

9. 책임있는군사분야AI를보장하기위해다음과 여타 다음에 국한되지않는 사항들을 인정하고;

(a) AI의 적용은 윤리적이고 인간 중심적이어야 한다.

(b) 군사분야 AI 역량은 반드시 적용 가능한 국내법 및 국제법에 합치하도록 적용되어야 한다.

(c) 인간은 군사분야 AI 적용의 활용과 효과에 대한 책임과 책무를 지며, 이러한 책임과 책무는 어떠한 경우에도 기계에게 전가 될 수 없다.

(d) 오작동 또는 데이터·알고리즘·여타 편향 등의 원인으로 발생하는 비의도적 결과의 위험을 줄이기 위한 적절한 보호장치 마련을 통해 AI 적용의 신뢰성을 보장해야 한다.

(e) 무력 사용에 대한 인간의 판단과 통제와 연관된 적절한 조치를 포함하여, 군사분야 AI의 개발·배치·이용시 인간의 적절한 개개입이 유지되어야 한다.

(f) 관련 인원은 AI 기반 시스템을 포함한 군사분야 AI 역량에 의해 생성되는 결과물을 적절히 이해, 설명, 추적, 신뢰할 수 있어야 함. 군사분야 AI의 설명 가능성 및 추적 가능성을 향상하기 위한 노력이 지속되어야 함.

10. 국제 규범 프레임워크, 엄격한 시험 및 평가(T&E) 절차, 포괄적 검사·검증·인증(VV&A) 절차, 견고한 국내적 감독 메커니즘, 지속적 모니터링, 포괄적 훈련(training) 프로그램, 훈련(exercise), 강화된 사이버 보안 및 명확한 책임 프레임워크 등을 포함하여 책임있는 군사분야 AI를 국가적, 지역적, 국제적 차원에서 보장하기 위한 수단을 개발하는 데 관한 향후 논의에 참여 하고 대화를 촉진할 것을 공약하고;

11. 효과적인 법적 검토 절차, 신뢰 구축 조치, 적절한 위험 감소 조치의 개발과, 국가 간 모범사례 및 교훈에 관한 정보 공유 및 협의를 장려하고; 산업계, 학계, 시민사회, 지역 및 국제기구를 포함한 다른 이해관계자들이 정기적인 다중 이해관계자 간 교류, 사례 연구 및 여타 유관 기록물의 전파, 협력적 이니셔티브에 적극적인 참여 등 적절한 방식을 통해 그러한 노력에 적극 참여할 것을 독려하고;

12. 책임있는 군사분야 AI를 위한 노력이 AI 기술 관련 연구, 개발, 실험, 혁신에 대한 노력과 병행될 수 있으며, 방해하지 않는다는 점을 강조하고;

   

(군사분야 AI의 미래 거버넌스 구상)

13. 군사분야 AI의 거버넌스에 대한 논의가 •AI 기술 및 그 역량과 한계에 대한 공동의 인식과 •군사분야 AI의 가능한 적용 및 그 혜택과 위험을 포함한 잠재적 영향에 대한 공유된 이해에 관한 촉진을 포함하여야 함을 인정하고;

14. 각 국가 및 지역이 군사분야 AI 기술 접목 관련 서로 다른 다양한 단계에 놓여 있으며 상이한 안보 환경에 처해 있고 다양한 안보 우려를 지니고 있음을 유념하면서, 그러한 논의는 폭넓은 견해를 충분히 반영할 수 있도록 개방적이고 포용적인 방식으 로 이루어져야 함을 강조하고;

15. 군사분야 AI 거버넌스 관련 논의에 개발도상국들의 완전한 참여를 촉진하고, 군사적 AI 역량의 개발, 배치 및 이용에 대한 책임있는 접근을 촉진하기 위해 특히 개도국에게 있어 역량 강화가 중요함을 강조하고;

16. 군사분야 AI의 책임 있는 개발, 배치 및 이용에 대한 지식 격차를 줄이기 위한 역량 강화 관련 국제협력을 강화하기로 공약하고;

17. 데이터가 군사분야 AI 적용에 매우 중요하다는 점에 주목하면서, 국가 및 여타 이해관계자들이 데이터 수집, 저장, 처리, 교환, 삭제 및 데이터 보호를 위한 투명한 정책 및 절차 등을 포함하는 적절한 데이터 거버넌스 매커니즘 관련 추가적 논의에 참여할 필요가 있음에 주목하고;

18. 기술의 급속한 개발과 발전에 발맞추기 위해 군사분야 AI의 거버넌스에 대한 유연하고 균형적이며 현실적인 접근이 필요 하다는 점을 인정하고;

19. REAIM 고위급회의 및 관련 지역 행사와 REAIM 국제위원회의 설립, 인공지능 및 자율성의 책임있는 군사적 활용에 대한 정치적 선언, 특정재래식무기금지협약에 따라 설립된 자율살상무기체계에 관한 정부전문가그룹, 유엔군축위원회 및 제네 바군축회의 등 군사분야 AI 적용 관련 다수의 이니셔티브에 걸친 발전을 인정하고; 자율살상무기체계에 관한 UN 총회 결의 78/241 및 관련 지역 및 국제 회의에 주목하고; 여타 포럼에서 관련 주제에 대해 진행 중인 논의를 저해함 없이, 이러한 이니 셔티브들이 시너지 효과를 내고 상호보완적이어야 함을 강조하고;

20. 책임있는 군사분야 AI를 위한 노력이 청년층의 유의미한 관여를 필요로 하는 다양한 세대 간의 공동 과제임을 인정하면서, 적절한 경우 이해관계자들이 활발히 참여 및 교류하는 가운데 책임 있는 군사분야 AI에 대한 세계적, 지역적 대화를 개방적 이고 포용적인 방식으로 지속해 나갈 것을 공약한다.

우리는 인류의 미래를 위해 책임있는 AI를 정립하는 노력을 이어가는 과정에서 국가들이 동 행동을 위한 청사진에 동참할 것을 초청하며, 산업계, 학계, 시민사회, 지역 및 국제기구 등 여타 유관 이해관계자들이 동 행동을 위한 청사진을 지지하고 관여하는 것을 환영한다. 끝.

Countries Supporting REAIM Blueprint for Action

Albania
Argentina
Armenia
Australia
Austria
Belgium
Brunei
Bulgaria
Canada
Chile
Croatia
Cyprus
Czech Republic
Democratic Republic of
Congo
Denmark
Estonia
Finland
France
Ghana
Georgia
Germany
Greece
Hungary

Ireland
Italy
Japan
Kenya
Latvia
Lithuania
Luxembourg
Malta
Mongolia
Morocco
Netherlands
Norway
Oman
Pakistan
Panama
Papua New Guinea
Peru
Philippines
Poland
Portugal
Republic of Korea
Romania
Rwanda
Senegal

Singapore
Slovakia
Sloveni
Spain
Sweden
Switzerland
Tanzania
Türkiye
Ukraine
Uruguay
United Kingdom
United States
Yemen
Zimbabwe

[ 자료 제공 - 외교부]