Fully autonomous weapon systems: on the rocky way towards new types of military servants

Abstract

Autonomous technology rapidly becomes a major fighting force in the militaries worldwide. At the same time, scientists and armed forces around the globe have set their sights on manufacturing new types of robots - fully autonomous - that are intended to be classified as a whole new type of soldier. The development and deployment of such technology seems inevitable. This prospect, however, makes lawmakers and academics fear that reality may outdistance the existing laws and the current law-making procedures, exposing thus humanity to great dangers and threats. Matters of law compliance, accountability and the use of lethal force on humans by machines become the focal point of interest with the deployment of fully autonomous weapon systems in battlefields. This thesis acknowledges that the era of AI in warfare has come and ventures into the quest of the legal framework that could possibly apply to fully autonomous weapon systems, so as they can be incorporated safely into our societies and militaries, without their existence and actions creating legal gaps. Accordingly, the possibility of granting fully autonomous weapon systems the legal status of an artificial soldier is explored, along with the possibility of regulating them on the basis of the laws on military weapons. The findings indicate that it is too early for the international community to consider attributing the status of an artificial soldier to fully autonomous weapon systems. But there seems to be room for another development in the future. At the same time, the attempt to incorporate fully autonomous weapon systems into the legal framework which regulates military weapons is also unfruitful. Their technical characteristics along with their unique feature of autonomy blocks this route. As a way out of the impasse, this thesis proposes that fully autonomous weapons systems should serve humanity as “military servants”. For the time being, it is safe to suggest that highly sophisticated military robots can serve the armies as defensive agents or contribute to military campaigns under the capacity of strategic advisors, operators, doctors etc. Currently, it is considered prohibitive to have these systems in military vanguard.

Η αυτόνομη τεχνολογία εξελίσσεται ραγδαία σε σημαντική μαχητική δύναμη των στρατών παγκοσμίως. Ταυτόχρονα, επιστήμονες και ένοπλες δυνάμεις σε όλο τον κόσμο έχουν βάλει στόχο την κατασκευή νέων τύπων ρομπότ - πλήρως αυτόνομων - που προορίζονται να καταταχθούν ως εντελώς νέο είδος στρατιώτη. Η ανάπτυξη και η χρήση μιας τέτοιας τεχνολογίας φαίνεται αναπόφευκτη. Αυτή η προοπτική, ωστόσο, κάνει νομοθέτες και ακαδημαϊκούς να φοβούνται ότι η πραγματικότητα μπορεί να υπερκεράσει τους υπάρχοντες νόμους και τις τρέχουσες νομοθετικές διαδικασίες, εκθέτοντας έτσι την ανθρωπότητα σε μεγάλους κινδύνους και απειλές. Θέματα συμμόρφωσης με τη νομοθεσία, λογοδοσίας και χρήσης θανατηφόρου βίας σε ανθρώπους από μηχανές γίνονται το επίκεντρο του παγκόσμιου ενδιαφέροντος με αφορμή την ανάπτυξη πλήρως αυτόνομων οπλικών συστημάτων στα πεδία των μαχών. Η παρούσα διατριβή αναγνωρίζει ότι η εποχή της τεχνητής νοημοσύνης στον πόλεμο έχει έρθει και αναζητά το νομικό πλαίσιο που θα μπορούσε ενδεχομένως να ρυθμίσει τα πλήρως αυτόνομα οπλικά συστήματα, ώστε να μπορούν να ενσωματωθούν με ασφάλεια στις κοινωνίες και τους στρατούς μας, χωρίς η ύπαρξη και οι ενέργειές τους να δημιουργούν νομικά κενά. Σε αυτό το πλαίσιο, διερευνάται η δυνατότητα απονομής του νομικού καθεστώτος του τεχνητού στρατιώτη στα πλήρως αυτόνομα οπλικά συστήματα, καθώς και η δυνατότητα ρύθμισής τους με βάση τους νόμους για τα στρατιωτικά όπλα. Τα ευρήματα της έρευνας δείχνουν ότι είναι πολύ νωρίς για τη διεθνή κοινότητα να εξετάσει το ενδεχόμενο αναγνώρισης του καθεστώτος του τεχνητού στρατιώτη σε πλήρως αυτόνομα οπλικά συστήματα. Φαίνεται όμως ότι υπάρχει περιθώριο για διαφορετική εξέλιξη στο μέλλον. Ταυτόχρονα, η προσπάθεια ενσωμάτωσης των πλήρως αυτόνομων οπλικών συστημάτων στο νομικό πλαίσιο που ρυθμίζει τα στρατιωτικά όπλα καταλήγει επίσης άκαρπη. Τα τεχνικά χαρακτηριστικά των πλήρως αυτόνομων οπλικών συστημάτων μαζί με το ιδιαίτερο χαρακτηριστικό της αυτονομίας τους εμποδίζουν αυτή τη προοπτική. Η διατριβή αυτή προτείνει ως λύση στο αδιεξοδο τα πλήρως αυτόνομα οπλικά συστήματα να υπηρετούν την ανθρωπότητα ως «στρατιωτικοί υπηρέτες». Επί του παρόντος, είναι ασφαλές να υποστηριχθεί ότι τα εξαιρετικά εξελιγμένα στρατιωτικά ρομπότ μπορούν να υπηρετούν τους στρατούς ως αμυντικοί μηχανισμοί ή να συμβάλλουν σε στρατιωτικές επιχειρήσεις υπό την ιδιότητα στρατηγικών συμβούλων, χειριστών, γιατρών κ.λπ. Θεωρείται αυτή τη στιγμή απαγορευτικό το να χρησιμοποιούνται αυτά τα συστήματα για εμπροσθοφυλακή.