Am ajuns la momentul când se cere o interzicere a roboților de luptă

Dacă n-ar fi în The Guardian, aș zice că e glumă, dar bănuiesc că nu este. Mai mulți oameni de știință, ingineri și antreprenori, peste 1000 la număr, au semnat o scrisoare deschisă prin care cer interzicerea cercetării și dezvoltării de sisteme autonome de luptă, altfel spus roboți înarmați, și au avertizat privind riscurile dezvoltării de inteligențe artificiale.

Partea cu roboții de luptă, mașinării autonome de război, o înțeleg pe deplin. Atenție, aici nu se referă la inteligență artificială, ci doar la tehnică de luptă complet robotizată, iar termenul autonom presupune o programare elaborată, un software capabil să ia decizii în funcție de situația de la fața locului, așa cum și un computer ce joacă șah se poate adapta la modificările de pe tabla de joc fără a fi, în practică, un AI.

Și eu sunt convins că eliminarea soldaților umani de pe câmpul de luptă va duce la scăderea victimelor, dar la distrugeri mult mai mari și la războaie de lungă durată. E un paradox aici, dar pierderea de vieți omenești în luptă duce, de fapt, la căutarea unor soluții de pace care să termine conflictul.

Gândiți-vă la războiul din Vietnam sau la cele recente din Afganistan și Irak. Americanii s-au retras din ele după ce numărul tot mai mare de victime și atrocitățile de ambele părți am schimbat complet percepția publicului. Fotografii precum aceasta au făcut oamenii să iasă în stradă și să ceară stoparea luptelor.

Acum imaginați-vă că războaiele ar fi fost duse de roboți cu mitraliere pe braț, de drone, de tancuri fără echipaj uman. Luptele ar fi durat la nesfârșit; roboții nu obosesc, nu au moral, nu cer mâncare, nu pot fi răniți fără a fi înlocuiți sau reparați a doua zi. Civilii vor fugi din zonă, iar în lipsa lor armatele robotice ar utiliza arme grele, distrugând orice le stă în cale pentru că factorul uman, cel care înseamnă milă, compasiune, grija de a nu înregistra victime în rândul soldaților tăi sau al civililor din teren, ar fi eliminat.

Ar fi ani în șir în care armate robotice s-ar înfrunta, iar tot ce-am aflat noi ar fi știri reci despre cine ce-a mai cucerit și distrus. Nu ne-ar păsa prea mult, nu mor oameni reali, ci roboți. Lupta de cine ar fi câștigată, de cei care pot produce mai mulți roboți, de cei care-i pot înlocui mai rapid pe cei distruși cu o zi înainte? Astfel de conflicte de durată ar fi o posibilitate continuă de a testa noi tehnologii și o bucurie pentru producătorii de armament și roboți. Oamenii nu pot fi înlocuiți ușor, dar roboții da.

Asta în luptă deschisă, unde ar deveni acceptabil să distrugi orice, pierzând doar tablă și procesoare, și mai ales în luptă de la egal la egal, între țări mari, cu tehnologie și fabrici de amploare.

Când e vorba de conflicte disproporționate și intrând în orașe sau zone cu civili, lucrurile devin și mai dezavantajoase. N-ai mai avea soldați care să cerceteze cu atenție, cu precauție, fiecare metru de teren, ci roboți care ar intra în forță, fără teamă, iar civilii de la fața locului, mai ales în tot felul de țări de lumea a treia, nu sunt așa importanți. E o realitate crudă, dar o realitate, dovadă zecile de mii de morți din conflictele recente. Pune un robot într-un oraș și inamicul va descoperi că nu-l poate elimina cu un glonț, ci trebuie o rachetă, iar cât distruge aceasta în jur devine o pierdere colaterală și gata.

Sigur, ideea este pe total proastă oricum, în lipsa unor roboți cu adevărat inteligenți. Poți face mașini de luptă, le poți face autonome, dar la final tot cu soldați umani trebuie să ocupi o țară. Numai aceștia pot ține populația sub control, îi pot câștiga încrederea, pot impune o schimbare de conducere sau de mentalitate. Un robot nu va sugera niciodată încredere, ci doar teama să nu interpreteze greșit gesturi sau informații de la senzorii săi. Or, după cum au demonstrat tot americanii, ei sunt capabili de a cuceri o țară aproape fără victime și în timp scurt, dar să menții acolo o forță de ocupație înseamnă mii de morți în lupte de gherilă și atentate.

Iată un tabel cu număru de victime din rândul coaliției în Afganistan. În 2001 și 2002 numerele sunt mici, țara a fost cucerită rapid. Haosul a început ulterior.

Irak-ul a căzut la fel de rapid, dar uitați câte victime au fost în anii următori.

Și vorbim doar de soldați din rândul coaliției. Când e vorba de civili, asta nu pare să fie de interes pentru nimeni, deși până în prezent, doar în Irak, vorbim de între 140.000 și 160.000 de civili morți din 2003 încoace, în funcție de cum îi numeri. Închipuiți-vă ce-ar fi cu roboți aproape invulnerabili pe acolo și ce arme ar fi necesare pentru a-i distruge.

Deci avem două dezavantaje mari pentru armate robotizate: conflicte de durată și distrugeri foarte mari, ambele posibile pentru că nu mai sunt implicați așa mulți oameni, ba chiar totul devine o afacere cu consumabile în cantități mari. Semnatarii scrisorii consideră că suntem la doar câțiva ani distanță de posibila implementare a unor astfel de mașini de luptă, că doar tehnologia există.

Cât despre inteligență artificială în adevăratul sens al cuvântului, eu cred că mai avem mult până acolo. AI înseamnă mai mult decât o programare bună, exhaustivă, ce acoperă toate situațiile posibile, înseamnă tocmai capacitatea de a învăța și a se adapta la noi situații, de a înțelege nuanțe fine ale exprimării și comportamentului șamd.

Asta mi se pare greu de făcut. Când se va face, dacă se va face, vedem atunci cum o fi. Da, există o posibilitate ca un computer să se considere amenințat de faptul că un om l-ar putea scoate din priză și deci ar putea să-și asigure propria securitate eliminând oamenii, ca Skynet. Da, poate că vom avea cele trei legi ale roboticii și totul va fi roz și bine, deși roboți care să ne facă treaba ar însemna o distrugerea a economiei și nu știu din ce-am mai trăi fiecare și ce motivație am avea să progresăm mai departe, mai mult, dacă toți am avea casă, piscină, viață bună și tot ce ne dorim. Cei din Star Trek n-au reușit niciodată să explice asta.

AI-ul va fi precum un copil. Depinde cum îl crești și cum îl faci să înțeleagă lumea din jurul său. Poate ajunge bun sau rău, în funcție de asta.