Adevărul despre caricaturile virale generate de AI. Specialiștii trag un semnal de alarmă: „Par inofensive, dar pot ascunde consecințe nedorite”

Caricaturile generate de AI, virale pe Internet. Pentru a obține o astfel de caricatură, utilizatorii: încarcă o fotografie personală (de regulă un selfie clar, de înaltă rezoluție); adaugă detalii despre job, hobby-uri, stil de viață și cer AI-ului să creeze o imagine „pe baza a tot ceea ce știe despre mine”.

Dr. Janet Bastiman, Chief Data Scientist la Napier AI, avertizează: „În mai puțin de o oră, un sistem AI poate acumula suficiente date pentru a imita convingător o persoană, expunând utilizatorii riscului de uz de identitate, fraudă sau prejudicii de reputație”. Ea subliniază că mulți oameni nu știu unde sunt stocate datele lor, cât timp sunt păstrate și cine mai poate avea acces la ele.

Citește și: Lista celor 20 de joburi care nu pot fi înlocuite de inteligența artificială. Datele unei analize

Urmărește-ne în Discover

Adaugă-ne ca sursă preferată

Experții în cibernetică, despre caricaturile virale

Companiile de securitate cibernetică descriu trendul drept un exemplu de „normalizare a supraexpunerii datelor”. „Utilizatorii oferă în mod activ informații personale tot mai detaliate pentru a îmbunătăți rezultatul. Dacă imaginea nu e suficient de precisă, adaugă și mai mult context. Practic, își antrenează singuri un sistem AI cu date extrem de personale.

Alte articole

Daniel Dines, miliardarul român care deține compania UiPath, vorbește despre revoluția AI: ”Modelul nu este lucrul care contează, ci partea care știe când modelul nu poate fi considerat de încredere”

Sondaj eJobs. Cât de mult folosesc angajaţii AI şi pentru ce

Deși pare inofensiv și distractiv, acest comportament ridică serioase probleme de confidențialitate și poate crește riscul furtului de identitate în viitor. Odată încărcate, nu există nicio garanție că informațiile pot fi complet eliminate sau controlate”, spune Matt Conlon, CEO și cofondator al Cytidel.

Muhammad Yahya Patel, consultant în securitate cibernetică pentru regiunea EMEA la Huntress, atrage atenția asupra unui aspect ignorat de mulți: „Încărcarea unei imagini într-un model AI permite procesarea trăsăturilor faciale precum ochii, nasul sau structura osoasă – date care pot fi considerate biometrice”.

Dr. Andrew Bolster, specialist în cercetare și dezvoltare la Black Duck, compară trendul actual cu valul de quiz-uri aparent inofensive din anii 2010, care au contribuit ulterior la scandalul Cambridge Analytica: „Par inofensive, dar pot ascunde consecințe nedorite. În trecut, datele colectate prin jocuri și teste au fost folosite pentru a influența mesaje politice și publicitare, ducând la amenzi uriașe și schimbări majore în industrie”.

El spune că reacția aproape unanim pozitivă la aceste caricaturi este „îngrijorătoare pentru apărătorii securității datelor”.

Chris Linnell, specialist în protecția datelor, avertizează: „Există riscul normalizării partajării fotografiilor și informațiilor profesionale fără a lua în considerare cum vor fi utilizate sau păstrate”,

Jake Moore, consilier global în securitate cibernetică la ESET, spune: „De fiecare dată când apar astfel de trenduri, oamenii sunt mai rapizi să le urmeze decât să se întrebe ce se ascunde în spate. Când încarci fotografii și detalii personale, platforma colectează și stochează aceste informații”.