Sisteme de arme autonome în dreptul internațional umanitar

Numărul de sisteme fără pilot din dotarea armatelor(inventarele militare) a crescut

rapid și este în continuă creștere în toate domeniile. În același timp, nivelul de automatizare
încorporat în aceste sisteme fără pilot nu numai că a crescut în mod semnificativ, ci și a atins
un nivel de sofisticare la care aceastea sunt aparent capabile să îndeplinească multe sarcini
"în mod autonom" și fără necesitatea unei supravegheri directe a omului. Sistemele de apărare
aeriană foarte automatizate sunt capabile să tragă automat în obiectivele primite, în câteva
secunde de la detectarea unei ținte(within seconds of detection of a target), presupunând că
acest mod de operare a fost activat. Practic, tot ceea ce este necesar pentru a construi un
sistem de arme complet automatizat este deja dezvoltat. Tehnologiile respective trebuie doar
să fie combinate.
De exemplu, o aeronavă de luptă fără pilot din generația următoare va puatea combina
tehnologia curentă de pilot automat, navigație și senzori cu module software pentru lupta
aeriană și identificare a țintei și va putea purta muniții ghidate pentru lovirea țintelor.
Pilotul automat ar permite aeronavei nu numai să navigheze(să se deplaseze) la zona
de misiune pre-planificată, ci și să calculeze ruta independent, luând în considerare toate
datele disponibile (de exemplu, informații meteorologice sau informații despre amenințările
inamice). Aceste date ar putea fi actualizate în timp real în timpul zborului sau colectate de
senzorii de la bord, permițând pilotului automat să se adapteze imediat la noile condiții. În
luptă, aeronava se va apăra singură sau va ataca obiectivele inamice în mod independent.
Modulul său software(programul) de luptă aeriană ar putea anticipa aproape instantaneu
posibilele acțiuni inamice și ar putea iniția manevre specifice (în consecință), oferindu-i
superioritate față de orice aeronavă cu echipaj uman la bord și făcând-o capabilă să reziste
chiar și celor mai ostile medii. Senzorii ar furniza pilotului automat și modulului software
pentru luptă o conștientizare(recunoaștere) situațională completă, permițând sistemului de
arme să identifice vehiculele inamice și traiectoriile acestora și să calculeze manevrele de
luptă corespunzătoare. În cele din urmă, un set de sarcini utile letale, adaptat fiecărei misiuni,
ar permite aeronavelor fără pilot să desfășoare operațiuni de luptă și să atace ținte în mod
autonom.
Toate tehnologiile menționate mai sus necesare pentru a construi un sistem de arme
complet automatizate sunt deja dezvoltate și disponibile pe piață. Deci, întrebarea nu mai este
dacă astfel de sisteme pot sau ar trebui să fie construite. Întrebarea reală este, atunci când
aceste sisteme vor intra în funcțiune, ce misiuni le vor fi atribuite și ce implicații vor apărea
din această dezvoltare?

Problema autonomiei în sistemele de armament

În comunitatea(zona) civilă, utilizarea sistemelor robotizate foarte automatizate este
deja destul de comună, așa cum se poate vedea în sectorul industrial. Dar ceea ce este de
regulă acceptat în comunitatea civilă poate fi o provocare semnificativă atunci când este
aplicat sistemelor de armament militar. Un robot industrial (de fabricație) complet automatizat
sau "autonom", care nu ia decizii cu privire la viața sau moartea ființelor umane, cel mai
probabil nu va ridica aceleași întrebări juridice, dacă acestea există, așa cum ar face-o un
sistem de armament militar.
Orice aplicare a forțelor militare în conflicte armate este de obicei reglementată de
Dreptul Internațional Umanitar (IHL - International Humanitarian Law), care derivă din ea
însăși și reflectă mijloacele și obiceiurile, acceptabile din punct de vedere etic, ale războiului.
Cu toate acestea, Dreptul Internațional Umanitar (IHL - International Humanitarian Law) a
fost modificat și îmbunătățit de-a lungul timpului, luând în considerare atât dezvoltarea eticii
umane cât și a armamentului. De exemplu, Dreptul Internațional Umanitar (IHL -
International Humanitarian Law) a fost modificat pentru a condamna folosirea anumitor tipuri
de arme și a metodelor de război.
Proliferarea sistemelor fără pilot și, în special, creșterea automatizării în acest
domeniu, deja au generat o mulțime de discuții în ceea ce privește utilizarea lor.
Implementarea sistemelor autonome poate implica o schimbare a paradigmei (modelului,
tiparului) și o schimbare calitativă majoră în desfășurarea ostilităților. De asemenea, ar putea
ridica o serie de probleme juridice și etice fundamentale care să fie luate în considerare înainte
de dezvoltarea sau desfășurarea unor astfel de sisteme.

Sisteme autonome de arme în dreptul umanitar internațional

Dreptul Internațional Umanitar încă nu oferă principii dedicate în ceea ce privește
armele autonome. Din acest motiv, unii susțin că armele autonome trebuie considerate ilegale
și ar trebui să fie interzise pentru aplicații militare. Cu toate acestea, este un principiu general
al legii ca interdicțiile să fie clar stabilite(formulate) sau să nu se aplice. În concluzie,
raționamentul menționat mai sus referitor la interzicerea acestor arme particulare este
inadecvat.Cu toate acestea, Dreptul Internațional Umanitar afirmă că, dacă o problemă
specifică nu este acoperită de un anumit acord, atunci se aplică principiile generale ale legilor
stabilite, cum ar fi principiul umanității și conștiinței publice.
În consecință, în dreptul internațional nu există nicio lacună în ceea ce privește
utilizarea armelor autonome. Noile tehnologii trebuie să fie apreciate ținînd cont de principiile
stabilite înainte de a le eticheta ca fiind în principiu ilegale. Prin urmare, un sistem autonom
de arme care îndeplinește cerințele principiilor Dreptului Internațional Umanitar, poate fi
perfect legal.

Principiile Dreptului Internațional Umanitar

În timpul conflictelor armate, se aplică principiile de distincție, proporționalitate și
precauție ale Dreptului Internațional Umanitar. Acest lucru implică și obligația statelor de a-și
analiza armele pentru a confirma că acestea sunt în conformitate cu aceste principii. În
general, acest lucru nu impune o interdicție asupra vreunei arme specifice. De fapt, este
acceptată orice armă, mijloc sau metodă de război, cu excepția cazului în care încalcă legea
internațională și pune responsabilitate asupra statelor (it puts responsibility on the states)
pentru a determina dacă utilizarea sa este interzisă. Prin urmare, sistemele autonome nu pot fi
clasificate ca fiind ilegale ca atare. Ca orice altă armă, mijloace sau metodă de război, aceasta
trebuie analizată în raport cu regulile și principiile codificate în dreptul internațional.
Arme interzise.
În primul rând, orice armă trebuie să îndeplinească cerințele Convențiilor de la Geneva
care prevăd: "Este interzisă folosirea de arme, proiectile și materiale și metode de război de
natură să provoace vătămări inutile sau suferință inutilă ... [și] ...sunt destinate, sau poate fi de
așteptat, să provoace daune grave pe o suprafața mare (widespread) și pe termen lung
mediului natural ". Câteva exemple de interdicții convenite la nivel internațional cu privire la
arme includ utilizarea proiectilelor cu fragmentare (fragmentation projectiles), ale căror
fragmente nu pot fi urmărite de raze X și a armelor incendiare în zonele locuite. Armele
autonome care respectă aceste interdicții vor fi în conformitate cu acel articol.

Principiul Distincției.
Protejarea civililor de efectele războiului este unul dintre principiile fundamentale ale
Dreptului Internațional Umanitar și a fost convenită ca practică de stat cu secole în urmă (and
has been agreed state practice dating back centuries). În 1977, acest principiu a fost structurat
în mod formal după cum urmează: "[...] Părțile la conflict vor distinge în orice moment între
populația civilă și combatanți și între obiectele civile și obiectivele militare și, prin urmare,
vor trebui să-și orienteze operațiunile numai împotriva obiectivelor militare". Cu toate
acestea, aplicarea acestui principiu s-a dovedit a fi din ce în ce mai complexă pe măsură ce
metodele de război au evoluat. Conflictele de astăzi nu mai au loc între două armate care se
confruntă una pe cealaltă pe un câmp de luptă. Participanții la un conflict armat contemporan
s-ar putea să nu poarte uniforme sau orice semn distinctiv, ceea ce le face aproape imposibil
de distins de populația civilă. Deci, distincția dintre civili și combatanți nu mai poate fi
exercitată doar prin mijloace vizuale. Comportamentul și acțiunile persoanei pe câmpul de
luptă au devenit un factor distinctiv deosebit de important. Prin urmare, o armă autonomă
trebuie să fie capabilă să recunoască și să analizeze comportamentul unei persoane și să
determine dacă participă la ostilități. Cu toate acestea, dacă o persoană participă direct la
ostilități sau nu, nu este întotdeauna atât de clar. O armă autonomă va trebui să fie supusă
unor teste ample și va trebui să demonstreze că poate distinge în mod fiabil(sigur) combatanți
de civili.

Principiul proporționalității.
Folosirea forței militare trebuie să fie întotdeauna proporțională cu avantajul militar
anticipat. Acest principiu a evoluat alături de capacitățile tehnologice ale timpului. De
exemplu, carpet bombing(bombardament devastator care încearcă să distrugă orice parte
dintr-o zonă largă, bombardamentul intens, masiv)al orașelor locuite de civili a fost o practică
militară comună în al doilea război mondial, dar în zilele noastre ar fi considerată complet
disproporționată. Muniția ghidată modernă este capabilă să atingă ținte cu precizie așa-numită
"chirurgicală", iar software-ul avansat folosit în pregătirea atacului poate calcula raza de
explozie(weapons blast) și de fragmentare a armei și daunele colaterale anticipate. Mai ales
pentru aceastea din urmă (Especially for the latter) ( se referă la daunele colaterale), se poate
argumenta că armele autonome ar putea aplica o forță militară mai proporțional decât ar face-
o oamenii. Acest lucru se datorează faptului că acestea sunt capabile să calculeze într-o clipă
efecte foarte complexe ale armelor și, prin urmare, să reducă probabilitatea, tipul și severitatea
daunelor colaterale. Cu toate acestea, respectarea principiului proporționalității depinde
complet de identificarea și distingerea corectă a fiecărei persoane și obiect în zona țintei
respective. Și acest lucru se referă la aplicarea principiului de distincție.

Principiul precauției
Obligația statelor de a lua în considerare toate precauțiile posibile pentru a evita și, în
orice eventualitate, pentru a minimiza pierderea accidentală a vieții civililor, rănirea civililor
și deteriorarea obiectelor civile necesită, în mod inerent, respectarea principiilor de distincție
și proporționalitate menționate mai sus. În plus, principiul precauției trebuie respectat în
timpul dezvoltării inițiale a armei în sine. Orice tip de armă trebuie să demonstreze
fiabilitatea(capacitatea) de a rămâne în limitele unei rate acceptabile de eroare, deoarece nici o
tehnologie actuală nu este complet lipsită de erori. De exemplu, Congresul Statelor Unite a
definit rata acceptabilă de eroare pentru munițiile cu dispersie ca fiind mai mică de un
procent. Ratele recente ale accidentelor de aviație generală din Statele Unite sunt doar o
fracțiune comparativ cu aceasta și chiar centralele nucleare nu pot garanta 100%. Este
îndoielnic faptul că orice tip de tehnologie viitoare ar atinge vreodată un nivel de eroare de
zero, ceea ce de asemenea este valabil și pentru orice armă autonomă. Acest lucru ridică din
nou întrebarea "ce probabilitate a erorii ar fi acceptabilă?" și "cât de bun este suficient de
bun?" Dezvoltarea și experimentarea armei trebuie, prin urmare, să furnizeze suficiente
dovezi pentru a prezice în mod rezonabil comportamentul și efectele armei autonome pe
câmpul de luptă.

Responsabilități
Cu cât este mai mare gradul de automatizare și cu cât nivelul interacțiunii umane este
mai scăzut, cu atât apar mai multe întrebări cu privire la cine este responsabil de acțiunile
desfășurate de o armă autonomă. Această întrebare este cea mai relevantă dacă capabilitățile
letale provoacă rănirea civililor, fie accidental, fie în mod intenționat. Cine va fi tras la
răspundere pentru un act criminal dacă Dreptul Internațional Umanitar a fost încălcat? Este
comandantul militar, operatorul de sistem sau chiar programatorul software-ului?

Comandantul militar
Comandanții militari au responsabilitatea de a preveni și, dacă este necesar, de a lua
măsuri disciplinare sau judiciare, dacă sunt conștienți de faptul că subordonații sau alte
persoane aflate sub controlul lor vor comite sau ar fi comis o încălcare a Dreptului
Internațional Umanitar. Comandanții militari sunt, desigur, responsabili de ordinele ilegale
date subordonaților lor. Această responsabilitate nu se modifică atunci când se autorizează
utilizarea unei arme autonome. Dacă un comandant era conștient dinainte de potențialul unei
acțiuni ilegale a unei arme autonome și totuși a utilizat-o cu intenție, ar fi considerat, probabil,
răspunzător. De asemenea, dacă experimentarea și testarea armei au furnizat suficiente dovezi
că se poate conta ca arma autonomă să respecte drepturile omului, un comandant nu va fi
considerat răspunzător.

Operatorul sistemului
În funcție de nivelul interacțiunii umane, dacă este necesar, responsabilitatea
individuală a operatorului de sistem poate varia. Cu toate acestea, unele sisteme autonome
deja existente, cum ar fi Phalanx sau Sea Horse, pot funcționa într-un mod în care operatorul
uman are doar un interval de timp limitat pentru a opri sistemul să lanseze automat armele în
cazul în care a fost detectată o potențială amenințare. Atribuirea răspunderii operatorului este
îndoielnică dacă intervalul de timp dintre alertare și eliberarea armelor nu este suficient pentru
a verifica manual dacă amenințarea detectată este reală și dacă implicarea țintei calculate ar fi
legală în conformitate cu Dreptul Internațional Umanitar.

Programatorul
Software-ul are un rol cheie în multe dintre sistemele automate de astăzi. Prin urmare,
programatorului i se poate atribui în mod predominant responsabilitatea pentru
comportamentul și acțiunile armei autonome. Cu toate acestea, aplicațiile software moderne
arată în mod clar că cu cât programul este mai complex, cu atât mai mare este potențialul de
"bug-uri".Întreprinderile mari de software sunt de obicei dezvoltate și modificate de o mare
echipă de programatori și fiecare individ are o înțelegere limitată a software-ului în întregime.
Mai mult decât atât, este îndoielnic dacă programatorul individual ar putea prezice, în detaliu,
orice interacțiune potențială între porțiunea sa de cod sursă și restul software-ului. Așadar,
considerarea unei persoane ca fiind responsabilă de slăbiciunile software-ului este probabil
imposibilă, cu excepția cazului în care se evidențiază o programare eronată intenționat.

Concluzii.
Dreptul internațional nu abordează(adress) în mod explicit armele operate manual,
automatizate sau chiar autonome. În consecință, nu există nicio diferență legală între aceste
arme. Indiferent de prezența sau absența controlului uman direct, orice armă și utilizarea
acesteia într-un conflict armat trebuie să respecte principiile și regulile dreptului internațional
umanitar. Prin urmare, armele autonome nu pot fi pur și simplu etichetate ilicite sau ilegale.
De fapt, ele pot fi perfect legale dacă sunt capabile să adere la principiile și regulile dreptului
internațional umanitar.
Principiile dreptului internațional umanitar sunt predominant cele ale distincției,
proporționalității și precauției. Nici unul dintre ele nu poate fi privit în mod izolat, deoarece
acestea sunt interconectate(interwoven) și depind una de cealaltă(require each other) pentru a
proteja civilii și obiectele civile în timpul desfășurării ostilităților. Cerințele tehnice pentru ca
un sistem de arme autonom să adere la aceste principii sunt extrem de ridicate, mai ales dacă
este destinat să funcționeze într-un mediu complex. Cu toate acestea, având în vedere viteza
actuală a progreselor tehnologice în domeniul tehnologiei informatice și a senzorilor, este
probabil ca aceste cerințe să fie îndeplinite în viitorul nu atât de îndepărtat. Cu toate acestea,
nici măcar cel mai sofisticat sistem informatic nu poate fi de așteptat să fie perfect. În
consecință, comportamentul potențial eronat al sistemului trebuie să fie o parte integrantă a
procesului de revizuire și, cel mai important, probabilitatea de eroare acceptată trebuie
definită.