자율무기체계의 국제법적 허용성과 규제방안

Abstract

Mankind has made efforts to minimize damage not only to combatants but also to civilians protected under international humanitarian law through the development of science and technology. Recently, the development of robotics and artificial intelligence technology has been applied to the military field. There has been growing debates on the autonomous weapon system that can attack humans based on information they have collected and their own judgment without a human control or intervention.

This dissertation aims to verify whether autonomous weapon system can be permitted in international law. The key issues of this paper are to examine the extent to which it is allowed to use and what measures should be taken in autonomous, if the autonomous weapon system cannot comply international humanitarian law.

Above all, it is important to identify the concept of the autonomous weapon system to ensure whether it is a permissible weapon system under international law. I presented the basic concepts of the autonomous weapon system by analyzing the similarities and differences of the concepts claimed by the individual countries, including the United States, Britain, France, China, Russia, international organizations, and the civilian organizations in each country.

Based on the conceptual elements of autonomous weapon system, I examined two issues: (ⅰ) the existence of autonomous weapons system currently, and (ⅱ) its military operational features. Then, I identified the allegations that are being discussed in the international community: (ⅰ) the problem of humanitarian principle and ethics, (ⅱ) the illegality of autonomous weapon systems itself as the weapon systems prohibited by international law, (ⅲ) the human control of the autonomous weapons system, and (ⅳ) the legal liability of the autonomous weapon systems users.

Autonomous weapon system is not an illegal weapon by itself. However, it is a critical issue whether autonomous weapon system is able to comply with international humanitarian law, when it is used in complex battlefield situations. Therefore, I examined whether meaningful human control as principle of precaution is possible in the program design stage, test evaluation and user education stage, and specific attack stage. In addition, I proposed ways to improve the transparency of autonomous weapon system in order to prevent accidents and adverse effects caused by the use of it.

Furthermore, I reviewed areas that autonomous weapon system cannot be complied with international humanitarian law. In the principle of distinction, the autonomous weapon system equipped with state-of-the-art devices may be outperform humans in the distinguishing simple combatants and civilians. However, it is not easy for autonomous weapons system to clearly distinguish between civilians who are directly participating in hostilities and civilians protected by international law. There are several cases in such situations: (ⅰ) civilians participating intermittently in hostilities, (ⅱ) civilians participating military defense voluntarily as human shields, and (ⅲ) civilians using weapon for self-defense. Additionally, legal and conceptual judgments should be made on dual-purpose objects that can be military targets, even if they are private facilities. I also examined whether autonomous weapon system has this capability to distinguish dual-purpose facilities.

Especially in relation to the principle of proportionality, more abstract and legal evaluation is often required than the principle of distinction. The questions are: (ⅰ) how to determine the conceptual and abstract military benefits and incidental damages in autonomous weapon system, and (ⅱ) how to build a system that compares both objectively, if military benefits and incidental damages can be calculated. I reviewed what extent the use of autonomous weapon system should be allowed and restricted in the specific circumstances.

Finally, some assert that autonomous weapons system should not be permitted because human intervention is not possible and no one is legally responsible. The criminal responsibility of the user and the legitimacy of the weapon itself are separate issues. However, it is necessary to consider the problem of legal liability of the person concerned, when it is difficult to punish autonomous weapon system itself.

Accordingly, I have reviewed the provisions of the Criminal Law which can punish those who are involved in autonomous weapon system in USA, United Kingdom, and Korea. I also examined civil liability, administrative responsibility, and the state responsibility in international law. However, international law has limited regulations on the punishment of those involved in autonomous weapon system. I examined whether it is possible to punish the commander who approved the deployment or use of autonomous weapons system through the Rome Statute.

Following requirements should be satisfied in order to apply commander responsibility: (ⅰ) the command relation between commander and subordinate, (ⅱ) the underlying crime of the subordinate, and (ⅲ) the effective control of commander. I reviewed whether these requirements could be met, if commander approve the use of autonomous weapon system in armed conflict. Then, I examined whether the commander's personal responsibility under Article 25 of the Rome Statute could be applied, if the commander's responsibility under Article 28 of the Rome Statute is denied. Lastly, I suggested ways to strengthen the criminal responsibility of the commander or user when these two articles are not applicable and to support to the victims.

인류는 계속되는 전쟁의 역사 속에서도 과학기술의 발전을 통해 전투원뿐만 아니라 국제인도법상 보호를 받는 민간인의 피해를 최소화하고자 노력을 하였다. 최근 로봇과 인공지능 기술의 발달이 군사적 분야에 적용되면서 인간의 개입이나 통제가 없이도 무기체계 자체가 자신이 수집한 정보와 스스로의 판단에 따라 인간을 공격할 수 있는 자율무기체계에 대한 논의가 국제적으로 확대되고 있다. 이 논문에서 최종적으로 확인하고자 하는 것은 과연 자율무기체계가 국제법적으로 허용될 수 있는 무기체계인지의 문제이다. 만약 자율무기체계가 국제인도법상의 원칙을 모두 준수할 수 없다면, 인간은 어느 범위까지 자율무기체계의 사용을 허용하고, 사고예방을 위해 어떠한 조치를 취해야 하는지 검토하는 것 또한 이 논문의 핵심문제라고 할 것이다.

자율무기체계가 국제법적으로 허용되는 무기체계인지 확인하기 위해서 무엇보다도 자율무기체계의 개념을 확인하는 것이 중요하다. 미국, 영국, 프랑스, 중국, 러시아를 포함한 개별국가, 국제기구나 국제적십자위원회 및 각국의 민간단체에서 주장하는 개념들의 공통점과 차이점을 통해 자율무기체계에 대한 기본적 개념을 제시하였다. 이러한 자율무기체계의 개념요소를 바탕으로 현재에도 이러한 무기체계가 존재하는지, 작전적으로 어떠한 특성을 갖는지 검토하였다. 그러고 나서 국제사회에서 자율무기체계와 관련하여 논의되고 있는 인도주의 원칙과 윤리성의 문제, 국제인도법상 사용이 금지되는 무기와 같이 자율무기체계 자체의 위법성 여부, 자율무기체계에 대한 인간통제 및 자율무기체계 사용자의 법적 책임에 관한 주장들을 확인하였다.

자율무기체계가 그 자체로 위법한 무기는 아니라면 복잡한 전장 상황에서 사용될 경우 국제인도법을 준수할 수 있는지가 핵심문제이다. 따라서 전쟁으로 인한 불필요한 피해를 최소화하기 위해 프로그램 설계단계, 시험평가와 사용자 교육단계, 구체적 공격단계에서 의미 있는 인간통제가 가능한지 검토하였다. 또한 자율무기체계의 사용으로 인한 사고예방과 부작용 억제를 위해 자율무기체계의 투명성을 증진할 수 있는 방안을 제시하였다. 이와 더불어 과학기술의 한계로 인해 자율무기체계가 국제인도법을 준수할 수 없는 부분은 무엇인지도 검토하였다.

구별성의 원칙에 있어 단순한 전투원과 민간인의 구별은 첨단의 장비를 장착한 자율무기체계가 인간보다 우월할 수 있다. 하지만 단속적으로 적대행위에 가담하거나, 자발적으로 인간방패로 참여하는 민간인, 정당방위를 하고 있는 민간인과 같이 적극적으로 적대행위에 가담하는 민간인인지 아닌지 여부가 문제되는 경우, 자율무기체계가 이를 명확하게 구분하는 것은 쉽지 않다. 또한 민간인 시설이면서 군사적 목표물이 될 수 있는 이중 용도의 물건에 대해서도 법적이고 개념적인 판단이 수반되어야 하므로, 자율무기체계가 이러한 것들을 구별할 수 있는 능력을 갖추고 있는지 검토하였다. 특히 비례의 원칙과 관련해서는 구별의 원칙보다 더 추상적이고 법적인 평가를 요구하는 영역이 많다. 개념적이고 추상적인 군사적 이익과 부수적 피해를 자율무기체계가 어떻게 산정하도록 할 것인지, 설사 양자의 피해가 산정 가능하더라도 객관적으로 비교형량하는 시스템을 어떻게 구축할 것인지는 현실적인 문제로 남는다고 할 것이다. 자율무기체계가 국제인도법을 준수하기 위해 어느 범위까지 사용이 인정되고, 어떠한 경우 사용이 제한되어야 하는지 구체적 상황에 따라 검토를 하였다.

마지막으로 자율무기체계의 사용을 금지하는 주장 중에는 인간의 개입이 인정되지 않아 그 누구도 법적 책임을 지지 않기 때문에 자율무기체계의 사용이 허용되어서는 안 된다는 의견이 있다. 물론 무기의 사용으로 인한 사용자의 형사책임과 무기 자체의 적법성은 별개의 문제일 것이다. 하지만 자율무기체계 자체에 대한 형사처벌이 어려운 상황에서, 발생한 피해에 대해서는 자율무기체계의 자율성에 따른 관련자의 법적 책임 흠결의 문제를 고려할 필요는 있다. 따라서 국내법적으로 자율무기체계 관련자들을 처벌할 수 있는 형법 규정을 확인하고 민사상 무과실 책임의 성립여부 및 행정상의 책임과 국제법상 국가책임에 대해서도 검토하였다. 국제법적으로 자율무기체계 관련자들을 처벌할 수 있는 규정은 제한적일 수밖에 없다. 국제형사재판소의 로마규정을 통해 자율무기체계의 배치나 사용을 승인한 지휘관의 책임을 중심으로 처벌여부를 검토하였다. 지휘관의 책임이 성립하기 위해서는 지휘관과 부하의 지휘관계, 부하의 기본범죄 성립, 지휘관의 부하에 대한 실효적 통제 요건이 충족되어야 한다. 자율무기체계의 사용과 관련하여 이러한 요건이 성립할 수 있는지 검토하였다. 만약 로마규정 제28조에 의한 지휘관 책임이 부정되는 경우, 로마규정 제25조에 의한 지휘관의 개인책임이 인정될지 있는지 확인하였다. 이것마저도 제한된다고 할 경우 지휘관 또는 사용자의 형사책임을 강화하고 추가적으로 피해자에 대한 지원을 확대할 수 있는 방안을 제시하였다.