De ce cea mai mare provocare cu care se confrunta AI este una etica

Marile provocari | Provocari mari

De ce cea mai mare provocare cu care se confrunta AI este una etica

(Credit de imagine:

Alamy

)

De Bryan Lufkin, 7 martie 2017

Inteligenta artificiala ne atinge viata in moduri din ce in ce mai importante – este timpul ca eticii sa intervina, spun grupul nostru de experti.

Inteligenta artificiala este peste tot si este aici pentru a ramane. Cele mai multe aspecte ale vietii noastre sunt acum atinse de inteligenta artificiala intr-un fel sau altul, de la a decide ce carti sau zboruri sa cumparam online pana la solicitarile noastre de locuri de munca, daca primim un imprumut bancar si chiar ce tratament primim pentru cancer.

Toate aceste lucruri – si multe altele – pot fi acum determinate in mare masura automat de sisteme software complexe. Pasii enormi pe care AI i-a facut in ultimii ani sunt izbitoare – si AI are potentialul de a ne face viata mai buna in multe privinte.

In ultimii cativa ani, ascensiunea inteligentei artificiale a fost inevitabila. Vaste sume de bani au fost aruncate catre start-up-urile AI. Multe companii tehnologice existente – inclusiv giganti precum Amazon, Facebook si Microsoft – au deschis noi laboratoare de cercetare. Nu este o exagerare sa spunem ca software-ul inseamna acum AI.

Array

Inteligenta artificiala s-a dovedit in multe sarcini practice – de la etichetarea fotografiilor pana la diagnosticarea bolii (Credit: Getty Images)

Unii prezic o revolta la fel de mare – sau mai mare – decat cea adusa de internet. Am intrebat un grup de tehnologi ce are in rezerva aceasta lume in plina schimbare, plina de masini stralucitoare. In mod remarcabil, aproape toate raspunsurile lor se concentreaza pe problema eticii.

Provocarea este acum sa ne asiguram ca toata lumea beneficiaza de aceasta tehnologie – Peter Norvig, director de cercetare la Google

Pentru Peter Norvig, director de cercetare la Google si un pionier al invatarii automate, tehnica AI bazata pe date din spatele multor succese recente ale sale, problema cheie este sa gasim cum sa ne asiguram ca aceste noi sisteme imbunatatesc societatea in ansamblu – si nu doar cei care o controleaza. „Inteligenta artificiala s-a dovedit a fi destul de eficienta la sarcinile practice – de la etichetarea fotografiilor, la intelegerea vorbirii si a limbajului natural scris, la identificarea bolilor”, spune el. „Provocarea acum este sa ne asiguram ca toata lumea beneficiaza de aceasta tehnologie.”

Marea problema este ca complexitatea software-ului inseamna adesea ca este imposibil sa se stabileasca exact de ce un sistem AI face ceea ce face. Cu modul in care functioneaza AI de astazi – bazat pe o tehnica de succes masiv cunoscuta sub numele de invatare automata – nu puteti ridica capacul si aruncati o privire asupra functionarii. Asa ca o luam pe incredere.

Provocarea este apoi de a veni cu noi modalitati de monitorizare sau auditare a numeroaselor domenii in care IA joaca acum un rol atat de mare.

Pentru Jonathan Zittrain, profesor de drept pe internet la Harvard Law School, exista pericolul ca complexitatea crescanda a sistemelor informatice sa ii impiedice sa primeasca controlul de care au nevoie. „Sunt ingrijorat de reducerea autonomiei umane pe masura ce sistemele noastre – ajutate de tehnologie – devin mai complexe si mai strans legate”, spune el. „Daca„ il setam si il uitam ”, putem sa stim cum evolueaza un sistem – si ca nu exista un loc clar pentru care sa fie luata in considerare o dimensiune etica.”

Inteligenta artificiala va permite robotilor sa faca lucrari mai complicate, cum ar fi acest asistent de magazin care deserveste clientii din Japonia (Credit: Getty Images)

Este o preocupare luata de altii in panoul nostru. „Cum vom putea sa certificam aceste sisteme ca fiind sigure?” intreaba Missy Cummings, directorul Laboratorului pentru om si autonomie de la Universitatea Duke din Carolina de Nord, care a fost unul dintre primii piloti de lupta ai US Navy si este acum specialist in drone.

AI va avea nevoie de supraveghere, dar nu este inca clar cum ar trebui facut acest lucru. „In prezent, nu avem abordari acceptate in mod obisnuit”, spune Cummings. „Si fara un standard industrial pentru testarea unor astfel de sisteme, este dificil ca aceste tehnologii sa fie implementate pe scara larga.”

Fara un standard industrial pentru testarea IA, este dificil ca aceste tehnologii sa fie implementate pe scara larga – Missy Cummings, directorul Laboratorului pentru om si autonomie, Universitatea Duke

Cu toate acestea, intr-o lume in miscare rapida, organismele de reglementare se gasesc adesea in joc. In multe domenii cruciale, precum sistemul de justitie penala si asistenta medicala, companiile exploreaza deja eficacitatea utilizarii inteligentei artificiale pentru a lua decizii cu privire la conditionare sau pentru a diagnostica boala. Dar, descarcand procesul de luare a deciziilor pe masini, riscam sa pierdem controlul – cine va spune ca sistemul face apelul corect in fiecare dintre aceste cazuri?

Danah Boyd, cercetator principal la Microsoft Research, spune ca exista intrebari serioase cu privire la valorile care sunt scrise in astfel de sisteme si cine este responsabil in cele din urma pentru acestea. „Exista o dorinta din ce in ce mai mare a autoritatilor de reglementare, a societatii civile si a teoreticienilor sociali de a vedea aceste tehnologii echitabile si etice, dar aceste concepte sunt, in cel mai bun caz, neclare”, spune ea.

Un domeniu plin de probleme etice este locul de munca. AI va permite robotilor sa faca lucrari mai complicate si sa-i deplaseze pe mai multi lucratori umani. De exemplu, Foxconn Technology Group din China, care furnizeaza Apple si Samsung, a anuntat ca isi propune sa inlocuiasca 60.000 de muncitori ai fabricii cu roboti, iar fabrica Ford din Koln, Germania, pune robotii chiar pe podea alaturi de oameni.

In multe fabrici, oamenii lucreaza deja alaturi de roboti – unii cred ca sentimentele de deplasare ar putea avea efecte asupra sanatatii mintale (Credit: Getty Images)

Mai mult, daca cresterea automatizarii are un impact mare asupra ocuparii fortei de munca, aceasta ar putea avea un efect negativ asupra sanatatii mintale a oamenilor. „Daca te uiti la ceea ce le da oamenilor sens in viata lor, sunt trei lucruri: relatii semnificative, interese pasionale si munca semnificativa”, spune Ezekiel Emanuel, bioetician si fost consilier al sanatatii Barack Obama. „Munca semnificativa este un element foarte important al identitatii cuiva.” El spune ca in regiunile in care s-au pierdut locuri de munca atunci cand fabricile se inchid, se poate confrunta cu un risc crescut de sinucidere, abuz de substante si depresie.

Rezultatul este ca am putea vedea o cerere pentru mai multi eticieni. „Companiile isi vor urma stimulentele pe piata – nu este un lucru rau, dar nu ne putem baza pe ele doar pentru a fi etici de dragul lor”, spune Kate Darling, specializata in drept si etica la Massachusetts Institute of Tehnologie. „Ajuta sa existe reglementari in vigoare. Am vazut acest lucru in confidentialitate sau ori de cate ori avem o noua tehnologie si ne dam seama cum sa facem fata acesteia. ”

Exista o dorinta tot mai mare de a vedea ca aceste tehnologii sunt corecte si etice, dar aceste concepte sunt neclare in cel mai bun caz – Danah Boyd, Microsoft Research

Darling subliniaza faptul ca multe companii de renume, precum Google, au deja la dispozitie consilii de etica pentru a monitoriza dezvoltarea si implementarea AI-ului lor. Exista un argument ca ar trebui sa fie mai comun. „Nu vrem sa sufocam inovatia, dar s-ar putea ajunge la punctul in care am putea dori sa cream unele structuri”, spune ea.

Detaliile despre cine se afla pe consiliul de etica Google si ce face in realitate raman rare. Dar in septembrie anul trecut, Facebook, Google si Amazon au lansat un consortiu care isi propune sa dezvolte solutii pentru jungla de capcane legate de siguranta si confidentialitate. Iar OpenAI este o organizatie dedicata dezvoltarii si promovarii AI open-source pentru binele tuturor. „Este important ca invatarea automata sa fie cercetata in mod deschis si raspandita prin publicatii deschise si cod open-source, astfel incat sa putem participa cu totii la recompense”, spune Norvig de la Google.

Daca dorim sa dezvoltam standarde etice si industriale si sa intelegem pe deplin ceea ce este in joc, atunci va fi important sa cream o incredere in etici, tehnologi si lideri corporativi. Este o problema de valorificare a IA pentru a face oamenii mai buni in ceea ce facem deja cel mai bine. „Munca noastra este mai putin sa ne ingrijoram cu privire la preluarea unui robot stiintifico-fantastic si mai mult sa vedem cum tehnologia poate fi utilizata pentru a ajuta la reflectia umana si la luarea deciziilor, mai degraba decat pentru a o inlocui in totalitate”, spune Zittrain.

Tineti-va la curent cu povestile Future Now, alaturandu-va celor peste 800.000 de fani ai nostri de pe Facebook sau urmati-ne pe Twitter .

Daca ti-a placut aceasta poveste, inscrie-te la buletinul informativ saptamanal bbc.com , numit „Daca ai citit doar 6 lucruri in aceasta saptamana”. O selectie selectata de povesti de la BBC Future, Earth, Culture, Capital si Travel, livrate in casuta de e-mail in fiecare vineri.