ONU se pronunţă împotriva recunoaşterii faciale. „Deciziile bazate pe inteligenţa artificială pot distruge o viaţă de om”

„Tehnologiile de inteligenţă artificială pot avea efecte negative şi chiar catastrofale dacă sunt utilizate fără a ţine cont suficient de modul în care acestea afectează drepturile omului„, a declarat Michelle Bachelet, Înaltul comisar ONU pentru Drepturile Omului. Bachelet a lansat un apel pentru realizarea unei evaluări a riscurilor prezentate de diferite sisteme bazate pe inteligenţa artificială pentru dreptul la viaţă privată sau pentru libertatea de circulaţie şi de expresie, şi apoi pentru interzicerea sau reglementarea atentă a celor care prezintă cele mai mari pericole.

Dar până când aceste evaluări pot fi realizate, „statele trebuie să impună moratorii asupra tehnologiei care prezintă un potenţial mare de risc„, a subliniat fostul preşedinte chilian, în cadrul prezentării unui nou raport dedicat acestui subiect. Responsabila ONU a invocat exemplul tehnologiilor care permit luarea deciziilor în mod automat sau stabilirea de profiluri. „Sisteme AI sunt utilizate pentru a determina cine poate beneficia de servicii publice, pentru a decide cine are şansa de a fi recrutat pentru un loc de muncă, şi, desigur, pot influenţa informaţiile pe care oamenii le pot vedea şi le pot împărtăşi online„, a subliniat ea.

Acest raport, care a fost solicitat de Consiliul pentru Drepturile Omului – cea mai înaltă instanţă a ONU în acest domeniu – a analizat modul în care aceste tehnologii au fost adesea puse în aplicare fără ca modul lor de funcţionare şi impactul lor să fi fost evaluate în mod corespunzător.

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Citeşte şi Plata prin recunoaşterea facială, introdusă la metroul din Moscova. Sistem unic în lume implementat în capitala Rusiei

Alte articole

Nicușor Dan merge în SUA pe 23 septembrie. Președintele României va susține un discurs în plenul Adunării Generale a ONU

Cum pot escrocii să-ți fure identitatea doar printr-un mesaj: „Vorbim de 10-15 secunde maxim și poți să ai o copie vocală fidelă”

Disfuncţiile sistemelor AI îi pot împiedica pe oameni să aibă acces la ajutoare sociale, să găsească un loc de muncă, sau mai mult decât atât, pot duce la arestarea unor persoane nevinovate pe baza unor sisteme de recunoaştere facială antrenate necorespunzător şi devenite incapabile să recunoască în mod corect persoanele cu trăsături fizice specific africane, spre exemplu.

„Riscul de discriminare legat de deciziile bazate pe inteligenţa artificială – decizii care pot schimba, stigmatiza sau distruge o viaţă de om – este foarte real„, a subliniat Michelle Bachelet. Raportul mai scoate în evidenţă faptul că inteligenţa artificială este antrenată cu ajutorul unor baze de date enorme, a căror alcătuire se face de multe ori în moduri netransparente. Aceste baze de date pot fi la rândul lor prost făcute, depăşite şi pot contribui la producerea unor încălcări ale drepturilor omului.

Citeşte şi Preşedintele Microsoft: „Romanul lui Orwell poate deveni realitate în 2024”

Raportul evidenţiază în special utilizarea din ce în ce mai frecventă a sistemelor bazate pe AI de către forţele de ordine, inclusiv a metodelor predictive. Atunci când sistemele AI folosesc baze de date părtinitoare, acest lucru se reflectă în predicţii. Recunoaşterea facială în timp real şi de la distanţă este, de asemenea, din ce în ce mai utilizată în lumea întreagă, lucru care poate conduce la localizarea permanentă a oamenilor.

„Nu ne putem permite să sărim în tren din mers în ceea ce priveşte sistemele AI şi să permitem ca acestea să fie utilizate fără control sau cu foarte puţin control şi să reparăm ulterior consecinţele pe care le au asupra drepturilor omului„, a insistat Înaltul comisar, chiar dacă a recunoscut că „sistemele AI au o putere indiscutabilă de a ajuta oamenii”. „Trebuie să acţionăm pentru a impune sistemelor AI garanţii bazate pe drepturile omului pentru binele întregii omeniri„, a mai subliniat ea.