De ce se vrea interzicerea roboților de luptă (nu, nu de teama că vor extermina omenirea)

Mă gândesc că ar fi bine să înțelegem de ce Elon Musk și alți oameni implicați în companii cu afaceri de miliarde de dolari din 26 de țări diferite cer ONU să interzică roboții de luptă și alte forme de armament letal autonom, inclusiv cele controlate de inteligență artificială.

Nu-i vorba că se tem că respectivele echipamente militare, mai ales cele controlate de AI-uri, se vor întoarce cumva împotriva noastră și vor extermina omenirea ca-n Terminator. Nu, nici vorbă.

În acest context, termenul AI semnifică doar un computer performant și deștept care poate lua decizii rapide în situații de luptă. Vorbim de mașinării echipate cu camere video ce identifică rapid dușmanii înarmați și civilii nevinovați, pregătite să-i elimine pe primii într-un câmp de luptă în care sunt interconectate în rețea, acționând într-o strategie comună, monitorizate poate chiar de pe alt continent fără nici un risc pentru viața operatorilor umani.

Acesta este riscul pe care-l aduc roboții de luptă: un război impersonal, în care cel puțin una din părți nu este implicată direct și atunci devine detașată de distrugerile provocate, de numărul de victime și consecințele acțiunilor militare.

Poate că v-ați întrebat de ce Convenția CCW de la Geneva a interzis doar anumite metode de a ucide oameni. Armele chimice sunt interzise, în schimb soldații se pot ataca între ei cu bombe convenționale, împușca și tăia. Sunt interzise laserele ce pot provoca orbire. Gloanțele explozive sunt interzise; cele normale sunt permise, inclusiv proiectile ce pot omorî sute de soldați dintr-un foc.

Motivul este că și semnatarii convenției au realizat că războaie vor tot avea loc, așa că au încercat să le facă neplăcute pentru cei implicați. Au vrut să păstreze luptele “parte în parte”, momentele groaznice din tranșee, faptul că uneori îți vezi dușmanul în fața ochilor și-i vezi pieptul explodând și mațele scoase pe afară. La fel și momentele când îți vezi camarazii cu mațele pe afară. Cum ar fi, genul de război pe care nimeni nu vrea să-l întindă prea mult pentru că inclusiv învingătorilor le va produce pierderi de vieți, moral și bani. Cel din Vietnam este un exemplu bun, opinia publică americană modificându-se în timp și cerând retragerea dintr-un război unde numărul victimelor creștea tot mai mult.

Acum închipuiți-vă alternativa cu roboți ca-n Robocop. Mașinării foarte rezistente se vor lupta între ele cu costuri imense pentru orașele în care fac asta și pentru civilii din acele zone, care nu întotdeauna au unde să fugă.

Drone zburătoare vor încerca să bombardeze ceva și alte drone zburătoare vor încerca să le oprească. În timp ce Bătălia Angliei din WW2 a fost limitată de numărul de piloți pe care fiecare țară îi putea sacrifica, pierderile fiind mari de ambele părți. În cele din urmă, luptele aeriene s-au oprit pentru că erau prea costisitoare în termeni de personal uman.

Închipuiți-vă aceeași bătălie purtată cu roboți zburători. Numărul lor ar fi limitat doar de capacitatea de producție, care poate fi de ordinul sutelor pe zi. Costul unei drone este mult mai mic decât al unui avion de luptă sau bombardier, iar costul pregătirii pilotului scade vertiginos. În plus, pilotul nu este expus nici unui risc. Dronele americane ce bombardează prin Afganistan și Irak sunt controlate uneori din SUA, de exemplu de la centrul din New Mexico. Sună ca un joc video.

Experimentul Milgram a arătat că oamenii sunt dispuși să le facă rău altor oameni câtă vreme primesc ordine în acest sens (adică nu e vina sau responsabilitatea lor) și nici nu stau față în față cu victimele lor. Aceeași lipsă de legătură apare și în cazul luptelor cu roboți.

Mai mult, închipuiți-vă scenarii asimetrice precum cazul unui război civil. Ai o populație formată din civili ce se răscoală împotriva conducerii. Armata, controlată de conducerea țării, ar putea avea remușcări în a lupta pe termen lung împotriva civililor din propria lor țară. “Armata e cu noi”, s-a zis în 1989. Dar dacă în loc de o armată numeroasă, cu probleme de moral și remușcări sufletești, trimiți împotriva civililor mii de roboți de luptă autonomi, monitorizați doar de un grup restrâns de oameni încă loiali?

Acesta este un alt aspect de luat în calcul. Distrugerile ar fi mari, provocate fără remușcări.

Un ultim bun aspect semnalizat de semnatarii scrisorii este vulnerabilitatea la hacking a roboților computerizați. La cât se vorbește în ultima vreme despre războaie electronice, e ușor de gândit că acest risc există în domeniul roboților.

Lethal autonomous weapons threaten to become the third revolution in warfare. Once developed, they will permit armed conflict to be fought at a scale greater than ever, and at timescales faster than humans can comprehend. These can be weapons of terror, weapons that despots and terrorists use against innocent populations, and weapons hacked to behave in undesirable ways. We do not have long to act. Once this Pandora’s box is opened, it will be hard to close.

Despre asta e vorba, nu despre roboți care s-ar putea răscula împotriva controlorilor umani.

foto via Shutterstock.