Șeful OpenAI, semnal de alarmă privind consecințele grave ale dezvoltării AI: ”Am putea pierde controlul asupra viitorului”

Șeful OpenAI trage un semnal de alarmă privind consecințele grave pe care le poate avea progresul necontrolat al inteligenței artificiale. Sam Altman susține că omenirea ar putea chiar pierde controlul în favoarea AI.

Șeful OpenAI, avertisment pentru omenire: ”Am putea pierde controlul asupra viitorului în favoarea AI”

CEO-ul OpenAI a explicat care sunt motivele pentru care industria inteligenței artificale ar trebuie să încetinească dezvoltarea celor mai avansate modele.

”Am putea pierde controlul asupra viitorului în favoarea AI. Salutăm un cadru federal care să stabilească cerinţe de siguranţă consecvente pentru AI de frontieră. Lăsat necontrolat, acest proces ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme”, a explicat Sam Altman, potrivit News.ro. 

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Acesta a specificat faptul că ”încetinirea” nu înseamnă oprirea progresului.

Alte articole

Inteligența artificială, predată în licee din 2027. Ce vor învăța elevii la cursul opțional

Mii de români l-au felicitat pe fiul AI al lui Călin Georgescu după ce „a câștigat Balonul de Aur”. Cât de ușor pot fi păcăliți suveraniștii: „Ce seamănă cu Domnul Președinte!” / „Așa tată, așa fiu!” / „Nemernicii de la TV nu arată niciodată așa ceva”

”Când vorbim despre ritm, nu vorbim despre oprire. Progresul a fost rapid şi va continua să fie”, a spus CEO-ul OpenAI.

Șeful OpenAI spune că este nevoie de introducerea unor reguli comune pentru gestionarea riscurilor şi utilizarea auditorilor independenţi, cărora marile laboratoare AI să le ofere un nivel de acces similar celui acordat propriilor angajaţi.

Una dintre principalele temeri se referă la posibilitatea ca modelele să ajungă la auto-îmbunătăţire recursivă, proces prin care AI contribuie la dezvoltarea unor sisteme succesive tot mai performante.

”Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudenţa sau să permită capabilităţilor să depăşească alinierea şi monitorizarea”, a amai transmis CEO-ul OpenAI.

Și reprezentanții ONU avertizează că Inteligența artificială avansată ar putea ajunge să reprezinte „un risc existențial pentru omenire”.  Înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk,  a cerut elaborarea rapidă a unor reguli internaționale pentru controlul și securitatea acestei tehnologii.

”O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o AI prea puternică”, a declarat Volker Türk la Geneva, citat de Mediafax, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Citește și Istoricul Harari, pronostic-avertisment despre inteligența artificială: ”În zece ani, va prelua controlul. ‘Vom crea zei, iar ei vor fi sclavii noștri’. Nu funcționează”