Istoricul Harari, pronostic-avertisment despre inteligența artificială: ”În zece ani, va prelua controlul. ‘Vom crea zei, iar ei vor fi sclavii noștri’. Nu funcționează”

Harari anticipează că inteligența artificială, la ritmul actual al evoluției tehnologice, inteligența artificială va ajunge să controleze sisteme fundamentale din societate.

”În zece ani, AI va prelua controlul”, a spus, într-un interviu pentru The Economist, istoricul israelian, care a nuanțat precizând că scenariul nu este însă unul ”inevitabil”.

Autorul volumului ”Sapiens” crede că inteligența artificială are șanse să obțină conntrolul unei părți importante a sistemului financiar, iar asta fără ca noi, oamenii, să realizăm cine și cum ia deciziile. În acest context, a făcut trimitere la modul în care este controlată viața animalelor domestice: ”Sistemul financiar uman controlează viețile vacilor și găinilor, dar vacile și găinile nu au nicio idee că finanțele există”.

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Yuval Noah Harari este de părere că sunt riscuri importante și privind implicarea AI în domeniul militar. În opinia lui, degetul de pe trăgaci va fi în continuare al omului, însă țintele vor fi alese de inteligența artificială: ”Declanșatorul este încă apăsat de oameni, însă AI, din ce în ce mai mult, este cea care selectează țintele”.

Pe de altă parte, istoricul subliniază că oamenii se înșală crezând că pot construi ”zei” tehnologici așteptându-se ca aceștia să le fie ”sclavi”.

Citește și „Păcatul ecologic” ar putea intra pe lista păcatelor capitale, la propunerea Vaticanului

Harari nu este de acord nici nu ideea conform căreia o inteligență superioară ar avea ca prioritate găsirea adevărului. Istoricul consideră că esențială va fi supraviețuirea, iar pentru asta sunt instrumente, la fel ca în cazul oamenilor, precum minciuna și manipularea.

”Evoluția nu împinge automat organismele, entitățile, spre căutarea adevărului; le împinge spre supraviețuire. Este porunca de a supraviețui. Ceea ce am învățat în patru miliarde de ani de evoluție este că organismele învață să supraviețuiască mințind, înșelând și manipulând, nu doar căutând adevărul. Dacă vrei ca ceva să se concentreze asupra căutării adevărului, nu te poți baza pe mâna invizibilă a evoluției sau a pieței pentru a face asta. Ai nevoie de altceva. Și cum construim AI-uri care să caute adevărul, și nu supraviețuirea?

Cel mai simplu exemplu este să întrebi AI-ul: ‘Dacă voi continua să te dezvolt, va reprezenta acest lucru o amenințare pentru mine?’. Și AI-ul, să presupunem că răspunsul este da, un AI care caută în mod maximal adevărul va spune da, știind că atunci vom înceta să-l dezvoltăm sau îl vom închide este împotriva propriei sale supraviețuiri. Iar primul lucru pe care, practic, orice entitate îl învață pe măsură ce se dezvoltă este să supraviețuiască.

Așadar, așteptarea că vom crea aceste AI-uri care vor căuta adevărul, știți, este practic ceea ce auzim că ne spun oamenii: ‘Vom crea zei, iar ei vor fi sclavii noștri’. Nu funcționează. Dacă sunt cu adevărat zei, nu vor fi sclavii noștri și nici nu vor căuta adevărul”, a explicat istoricul, potrivit antena3.

Harari a transmis un avertisment și legat de politică, făcând referire la scrutinul intermediar care va fi în noiembrie în SUA: ”Cred că toți alegătorii americani ar trebui să fie conștienți că următoarele alegeri, alegerile intermediare din noiembrie, sunt despre AI”.

Istoricul a conchis subliniind că inteligența artificială nu trebuie oprită, ci trebuie reglată viteza intrării sale în societate. ”Să o facem într-un mod responsabil și pentru scopurile potrivite”.

Citește și O prezentatoare BBC a dezvăluit că suferă de o formă rară și incurabilă de cancer al sângelui: „Boala este ceva cu care trebuie să înveți să trăiești”