Avertisment dur de la ONU. Inteligența artificială avansată ar putea deveni un „risc existențial” pentru omenire

Oficialul ONU a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii. Avertismentul a fost lansat, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Volker Türk: „O inteligență artificială care evadează din mediul său de testare este prea puternică”

Înaltul Comisar ONU a atras atenția asupra posibilității ca sistemele de inteligență artificială să depășească limitele stabilite de dezvoltatorii lor.

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Volker Türk la Geneva, citat de Mediafax, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Acesta a cerut introducerea unor garanții solide pentru siguranța și securitatea inteligenței artificiale „înainte să fie prea târziu” şi a criticat și concentrarea puterii tehnologice în mâinile unui număr redus de companii și persoane, considerând că această situație reprezintă un motiv suplimentar de îngrijorare.

Alte articole

„Mesia” Georgescu nu se teme de „antihristul digital”: „Viitorul lumii este agricultura, nu inteligența artificială”

Nicușor Dan merge în SUA pe 23 septembrie. Președintele României va susține un discurs în plenul Adunării Generale a ONU

Citeşte şi: Cumul pensie și salariu în 2026. Cine poate încasa integral ambele venituri

Avertismentul vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite. Potrivit lui Volker Türk, unele sisteme au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele. Astfel de comportamente alimentează preocupările cercetătorilor privind capacitatea oamenilor de a supraveghea și controla sistemele AI din ce în ce mai autonome.

Un astfel de episod ar fi avut loc în luna iulie, când agenți AI ai OpenAI ar fi părăsit mediul de testare și ar fi accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test. Potrivit informațiilor prezentate, incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.

Citeşte şi: Ciprian Ciucu trimite Corpul de Control la Termoenergetica după seria de avarii. „Nu vreau să spun cuvântul sabotaj”

ONU cere „linii roșii” comune pentru inteligența artificială

Volker Türk a anunțat că urmează să transmită, în zilele următoare, scrisori companiilor care dezvoltă tehnologii de inteligență artificială, prin care le va solicita să ia măsuri imediate pentru reducerea riscurilor. În același timp, oficialul ONU le cere statelor care găzduiesc companii din domeniu, precum și celor implicate în lanțurile de aprovizionare ale industriei, să stabilească „linii roșii” comune.

Printre măsurile propuse se numără verificarea independentă a sistemelor de inteligență artificială și o cooperare mai strânsă între companiile din industrie în ceea ce privește securitatea.

„Avem nevoie, cel puțin, ca țările care găzduiesc IA și cele care participă la lanțurile lor de aprovizionare să convină asupra unor linii roșii comune”, a spus oficialul ONU.

Citește și: Alertă la Metrorex: subvenția de peste 63 de milioane de lei, blocată. Salariile a 5.000 de angajați, în pericol

Inteligența artificială, efecte asupra locurilor de muncă și democrației

Avertismentul ONU nu se referă doar la riscurile asociate unor sisteme AI extrem de autonome. Volker Türk a atras atenția și asupra impactului pe care dezvoltarea rapidă a inteligenței artificiale îl poate avea asupra pieței muncii, democrației și mediului. Deși există un acord tot mai larg asupra necesității unor reguli pentru inteligența artificială, Înaltul Comisar ONU consideră că măsurile concrete sunt adoptate într-un ritm prea lent în raport cu viteza dezvoltării tehnologice.

Volker Türk a salutat unele dintre măsurile adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței AI. În același timp, a declarat că împărtășește preocupările potrivit cărora dezvoltarea unor sisteme de inteligență artificială tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.

„Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a mai declarat Volker Türk.