Șeful OpenAI, semnal de alarmă privind consecințele grave ale dezvoltării AI: ”Am putea pierde controlul asupra viitorului”

Șeful OpenAI trage un semnal de alarmă privind consecințele grave pe care le poate avea progresul necontrolat al inteligenței artificiale. Sam Altman susține că omenirea ar putea chiar pierde controlul în favoarea AI.

Șeful OpenAI, avertisment pentru omenire: ”Am putea pierde controlul asupra viitorului în favoarea AI”

CEO-ul OpenAI a explicat care sunt motivele pentru care industria inteligenței artificale ar trebuie să încetinească dezvoltarea celor mai avansate modele.

”Am putea pierde controlul asupra viitorului în favoarea AI. Salutăm un cadru federal care să stabilească cerinţe de siguranţă consecvente pentru AI de frontieră. Lăsat necontrolat, acest proces ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme”, a explicat Sam Altman, potrivit News.ro. 

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Acesta a specificat faptul că ”încetinirea” nu înseamnă oprirea progresului.

Alte articole

Avertisment dur de la ONU. Inteligența artificială avansată ar putea deveni un „risc existențial” pentru omenire

„Mesia” Georgescu nu se teme de „antihristul digital”: „Viitorul lumii este agricultura, nu inteligența artificială”

”Când vorbim despre ritm, nu vorbim despre oprire. Progresul a fost rapid şi va continua să fie”, a spus CEO-ul OpenAI.

Șeful OpenAI spune că este nevoie de introducerea unor reguli comune pentru gestionarea riscurilor şi utilizarea auditorilor independenţi, cărora marile laboratoare AI să le ofere un nivel de acces similar celui acordat propriilor angajaţi.

Una dintre principalele temeri se referă la posibilitatea ca modelele să ajungă la auto-îmbunătăţire recursivă, proces prin care AI contribuie la dezvoltarea unor sisteme succesive tot mai performante.

”Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudenţa sau să permită capabilităţilor să depăşească alinierea şi monitorizarea”, a amai transmis CEO-ul OpenAI.

Și reprezentanții ONU avertizează că Inteligența artificială avansată ar putea ajunge să reprezinte „un risc existențial pentru omenire”.  Înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk,  a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii.

”O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Volker Türk la Geneva, citat de Mediafax, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Citește și Istoricul Harari, pronostic-avertisment despre inteligența artificială: ”În zece ani, va prelua controlul. ‘Vom crea zei, iar ei vor fi sclavii noștri’. Nu funcționează”