Este OK sa torturezi sau sa ucizi un robot?

Lui Kate Darling ii place sa va ceara sa faceti lucruri cumplite robotilor draguti. La un atelier pe care l-a organizat anul acesta, Darling le-a cerut oamenilor sa se joace cu un robot Pleo, un dinozaur de jucarie al unui copil. Pleo-ul verde moale are ochi de incredere si miscari afectuoase. Cand scoti unul din cutie, acesta se comporta ca un catelus nou-nascut neajutorat – nu poate merge si trebuie sa-l inveti despre lume.

Cu toate acestea, dupa o ora care le-a permis oamenilor sa gadile si sa alinteze pe acesti adorabili dinozauri, Darling a devenit calau. Ea le-a dat participantilor cutite, hase si alte arme si le-a ordonat sa le tortureze si sa le dezmembreze jucariile. Ceea ce s-a intamplat in continuare „a fost mult mai dramatic decat am anticipat vreodata”, spune ea.

Pentru Darling, cercetator la Massachusetts Institute of Technology, reactia noastra la cruzimea robotilor este importanta, deoarece un nou val de masini ne obliga sa reconsideram relatia noastra cu ei. Cand Darling a descris experimentul ei Pleo intr-o discutie din Boston, luna aceasta, a sustinut ca maltratarea anumitor tipuri de roboti ar putea deveni in curand inacceptabila in ochii societatii. Ea crede chiar ca este posibil sa avem nevoie de un set de „drepturi de robot”. Daca da, in ce circumstanta ar fi in regula sa torturezi sau sa ucizi un robot? Si ce ar trebui sa te faca sa te gandesti de doua ori inainte sa fii crud cu o masina?

Pana de curand, ideea drepturilor robotului fusese lasata in sfera stiintei-fictiune. Poate asta pentru ca adevaratele masini care ne inconjoara au fost relativ nesofisticate.

Array

Nimeni nu se simte rau cand arunca un prajitor de paine sau o masina de jucarie cu telecomanda. Cu toate acestea, sosirea robotilor sociali schimba acest lucru. Afiseaza un comportament autonom, arata intentie si intruchipeaza forme familiare precum animale de companie sau umanoizi, spune Darling. Cu alte cuvinte, se comporta de parca ar fi in viata. Ne declanseaza emotiile si adesea nu ne putem abtine.

De exemplu, intr-un mic experiment realizat pentru emisiunea radio Radiolab in 2011, Freedom Baird de la MIT le-a cerut copiilor sa tina cu capul in jos o papusa Barbie, un hamster si un robot Furby atat timp cat s-au simtit confortabil. In timp ce copiii tineau papusa cu susul in jos pana cand s-au saturat bratele, ei au incetat sa tortureze hamsterul zvacnit si, dupa putin timp, si Furby. Aveau varsta suficienta pentru a sti ca Furby era o jucarie, dar nu suporta modul in care era programat sa planga si sa spuna „M-am speriat”.

Nu doar copiii formeaza legaturi surprinzatoare cu aceste pachete de fire si circuite. Unii oameni dau nume aspiratoarelor Roomba, spune Darling. Iar soldatii isi onoreaza robotii cu „medalii” sau organizeaza inmormantari pentru ei. Ea citeaza un exemplu deosebit de izbitor de robot militar care a fost conceput pentru a dezamorsa minele terestre calcandu-le.

Intr-un test, exploziile au smuls majoritatea picioarelor robotului si, totusi, masina stricata a continuat sa schiopateze. Privind lupta robotului, colonelul responsabil a anulat testul pentru ca era „inuman”, potrivit Washington Post.

Instinct de ucigas

Unii cercetatori converg la ideea ca, daca un robot arata ca este viu, cu propria sa minte, cele mai mici indicii simulate ne obliga sa simtim empatie cu masinile, chiar daca stim ca sunt artificiale.

La inceputul acestui an, cercetatorii de la Universitatea Duisburg-Essen din Germania au folosit un scaner fMRI si dispozitive care masoara conductanta pielii pentru a urmari reactiile oamenilor la un videoclip cu cineva care tortura un dinozaur Pleo – sufocandu-l, punandu-l intr-o punga de plastic sau lovind-o . Raspunsurile fiziologice si emotionale pe care le-au masurat au fost mult mai puternice decat se asteptau, in ciuda faptului ca erau constienti ca urmareau un robot.

Darling a descoperit acelasi lucru cand a cerut oamenilor sa tortureze dinozaurul Pleo la conferinta Lift de la Geneva din februarie. Atelierul a luat o intorsatura mai incomoda decat se astepta.

Dupa o ora de joc, oamenii au refuzat sa-si raneasca Pleo-ul cu armele care li s-au dat. Asadar, Darling a inceput sa joace jocuri mintale, spunandu-le ca isi pot salva propriul dinozaur prin uciderea altcuiva. Nici atunci nu ar face asta.

In cele din urma, ea i-a spus grupului ca, daca o singura persoana nu a facut un pas inainte si a ucis doar un Pleo, toti robotii vor fi sacrificati. Dupa multe strangeri de mana, un barbat reticent a pasit inainte cu hasura si a dat o lovitura unei jucarii.

Dupa acest act brutal, camera a tacut cateva secunde, isi aminteste Darling. Puterea reactiei emotionale a oamenilor parea sa-i fi surprins.

Avand in vedere posibilitatea unor reactii emotionale atat de puternice, in urma cu cativa ani, robotii din Europa au sustinut ca avem nevoie de un nou set de reguli etice pentru construirea robotilor. Ideea a fost de a adapta faimoasele „legi ale roboticii” autorului Isaac Asimov pentru epoca moderna. Una dintre cele cinci reguli a fost ca robotii „nu ar trebui sa fie proiectati intr-un mod inselator … natura masinii lor trebuie sa fie transparenta”. Cu alte cuvinte, trebuie sa existe o modalitate de a sparge iluzia emotiei si intentiei si de a vedea un robot pentru ceea ce este: fire, actuatori si software.

Darling, insa, crede ca am putea merge mai departe decat cateva linii directoare etice. Poate ca va trebui sa protejam „drepturile robotilor” in sistemele noastre legale, spune ea.

Daca acest lucru suna absurd, Darling subliniaza ca exista precedente din legile cruzimii fata de animale. De ce avem exact protectie legala pentru animale? Este pur si simplu pentru ca pot suferi? Daca este adevarat, atunci Darling se intreaba de ce avem legi puternice pentru a proteja unele animale, dar nu si altele. Multi oameni sunt fericiti sa manance animale tinute in conditii ingrozitoare in fermele industriale sau sa zdrobeasca o insecta sub piciorul lor, totusi ar fi ingrozit de maltratarea pisicii vecinului lor de langa usa sau de a vedea o balena recoltata pentru carne.

Motivul, spune Darling, ar putea fi acela ca cream legi atunci cand recunoastem suferinta lor ca fiind asemanatoare cu a noastra. Poate ca principalul motiv pentru care am creat multe dintre aceste legi este ca nu ne place sa vedem actul cruzimii. Este mai putin despre experienta animalului si mai mult despre propria noastra durere emotionala. Deci, chiar daca robotii sunt masini, Darling sustine ca poate exista un punct dincolo de care performanta cruzimii – mai degraba decat consecintele sale – este prea incomoda pentru a fi tolerata.

Simtiti-va durerea

Intr-adevar, raul unei victime nu este intotdeauna singurul motiv pentru care decidem sa reglementam o tehnologie. Luati in considerare un alt tip de gadget: in urma cu cateva saptamani, Asociatia Medicala Britanica a sustinut ca fumatul de tigari electronice ar trebui interzis in spatiile publice interioare din Marea Britanie. Nu conteaza ca fumatorul sau cei din apropiere nu se confrunta cu riscuri pentru sanatate, a argumentat BMA. Normalizeaza fumatul real in locurile publice din nou.

Sa luam un alt exemplu: daca un tata tortureaza un robot in fata fiului sau de 4 ani, ar fi acceptabil? Nu se poate astepta ca copilul sa aiba intelegerea sofisticata a adultilor. Torturarea unui robot ii invata ca actiunile care provoaca suferinta – simulate sau nu – sunt OK in anumite circumstante.

Sau sa o duca la extrem: imaginati-va daca cineva ar lua unul dintre robotii copilasi deja construiti in laboratoare si sa-l vanda unui pedofil care intentiona sa-si traiasca cele mai intunecate dorinte. O societate ar trebui sa permita acest lucru?

Astfel de intrebari despre raul aparent fara victime se joaca deja in lumea virtuala. La inceputul acestui an, New York-ul a descris problemele morale ridicate atunci cand un forum online care discuta despre Grand Theft Auto a intrebat jucatorii daca violul este acceptabil in interiorul jocului. Unul a raspuns: „Vreau sa am ocazia sa rapesc o femeie, sa o tin ostatica, sa o pun in pivnita mea si sa o violez in fiecare zi, sa o ascult plangand, urmarindu-i lacrimile”. Daca astfel de dorinte neplacute ar putea fi traite de fapt cu o fiinta robotica fizica care simuleaza o victima, ar putea fi mai greu de tolerat.

Undeva pe linie exista, de asemenea, posibilitatea unei rasuciri urate: ca masinile ar putea suferi cu adevarat suferinta – nu ca a noastra. Deja unii cercetatori au inceput sa faca robotii sa „simta” durere pentru a naviga in lume. Unii sunt ingrijorati de faptul ca atunci cand masinile dobandesc in cele din urma un sentiment de baza al propriei existente, consecintele nu vor fi placute. Din acest motiv, filosoful Thomas Metzinger sustine ca ar trebui sa nu mai incercam deloc sa cream roboti inteligenti. Primele masini constiente, spune Metzinger, vor fi ca niste sugari confuzati, cu dizabilitati – cu siguranta nu AI sofisticat si malign al stiintei-fictiune – si astfel tratarea lor ca masini tipice ar fi cruda. Daca robotii au o constiinta de baza, atunci nu conteaza daca este simulat, spune el. Crede ca este in viata, poate experimenta suferinta.

Ceea ce este clar este ca exista un spectru de „viata” la roboti, de la simulari de baza ale comportamentului dragut al animalelor, la viitori roboti care dobandesc un sentiment de suferinta. Dar, asa cum a sugerat experimentul dinozaurului Pleo al lui Darling, nu este nevoie de mult pentru a declansa un raspuns emotional in noi. Intrebarea este daca putem – sau ar trebui – sa definim linia dincolo de care cruzimea fata de aceste masini este inacceptabila. Unde sta linia pentru tine? Daca un robot striga de durere sau cere implorare? Daca crede ca doare? Daca sangereaza?

Daca doriti sa comentati acest articol sau orice altceva pe care l-ati vazut pe viitor, accesati pagina noastra de Facebook sau trimiteti-ne un mesaj pe Twitter .