Parlamentul, în prag de a adopta o lege împotriva „deepfake”. Se anunță pedepse cu închisoarea de până la 2 ani. Cine reclamă încălcarea dreptului la liberă exprimare

Utilizarea malițioasă a tehnologiei prin realizarea și difuzarea în mass-media și pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertismentul „Acest material conține ipostaze imaginare”, prevede un proiect de lege care ar urma să fie adoptat în perioada următoare în Parlamentul de la București.

Alina Costache

07 feb. 2024, 13:47

Parlamentul, în prag de a adopta o lege împotriva „deepfake”. Se anunță pedepse cu închisoarea de până la 2 ani. Cine reclamă încălcarea dreptului la liberă exprimare

În cazul nerespectării noilor norme propuse de Parlament, materialele respective vor fi oprite de la difuzare de către Consiliul Național al Audiovizualului (CNA), realizarea conținutului tip deepfake va fi considerată infracțiune și se va pedepsi cu închisoare de până la 2 ani, iar distribuirea conținutului deepfake, cu bună știință, va fi amendată cu până la 90.000 lei, conform actului normativ.

Citește și: Sorin Grindeanu spune că imaginea lui e folosită într-o campanie deepfake: „Am sesizat astăzi instituţiile abilitate”

Alte Articole

Jador a vorbit despre relația secretă cu Andreea Bălan: „Pentru ...

Categoriile de români care nu vor mai beneficia de compensații ...

Florii 2024. De ce nu este bine să te speli pe cap în duminica ...

Parlamentul, în prag de a adopta o lege împotriva „deepfake”

În ultima perioadă, imaginile mai multor demnitari au fost utilizate în materiale video cu scop financiar. În acest sens, un deepfake de proporții a fost lansat cu BNR și guvernatorul Mugur Isărescu ce promova o pretinsă platformă de investiții. Și premierul Marcel Ciolacu a ajuns victimă a unei manipulări video-audio deepfake, parte a unei tentative de fraudă online ce constă în promovează pe rețelele de socializare a unei false scheme de investiții. De asemenea, ministrul Energiei, Sebastian Burduja, a depus plângere penală, acuzând că a fost victima unei manipulări video deepfake în care era prezentat ca promovând pe rețelele de socializare o falsă schemă de investiții Enel.

Partidul Social Democrat a inițiat proiectul legislativ pentru restricționarea conținuturilor de tip imagine, înregistrare audio sau înregistrare video create cu ajutorul Inteligenței Artificiale (AI), și care crează aparența că o persoană a spus/făcut lucruri care, în realitate, nu au fost spuse/făcute de acea persoană.

Inițiatorii proiectului de lege arată că au în vedere ceea ce specialiștii în domeniu numesc deepfake și consideră că este mult mai periculos și are un impact mult mai puternic decât știrile false din ultimii ani, deoarece cuprinde toate elementele unui produs de media, respectiv text, fotografie, video, audio.

Parlamentul, în prag de a adopta o lege împotriva „deepfake”. Se anunță pedepse cu închisoarea de până la 2 ani. Cine reclamă încălcarea dreptului la liberă exprimare

„Imaginile, înregistrările audio și video de tip Deepfake (Fals Sever) pot cauza prejudicii enorme atât în ceea ce privește imaginea, reputația sau demnitatea unei persoane, cât și asupra unor organizații publice, private sau chiar instituții ale statului. Realizarea și distribuirea unor imagini, înregistrări audio sau video de tip Deepfake (Fals Server) pot prejudicia, în funcție de conținutul lor și de contextul în care sunt gestionate, inclusiv interesul social, politic sau de securitate națională a României, pot să erodeze încrederea în instituții ale statului, pot aduce prejudicii de imagine unei persoane”, arată autorii proiectului.

Ei adaugă că tehnologia deepfake-ului a evoluat pentru a fi din ce în ce mai convingătoare și disponibilă publicului, permițând totodată perturbarea industriilor de media, divertisment și chiar frauda financiară. Inițiatorii proiectului mai susțin că este imperativă crearea unui cadru legal și în țara noastră pentru utilizarea acestor tehnologii astfel încât ele să fie permise și notificate ca atare doar atunci când scopul lor este legitim, comercial, identificabil și asumat, respectiv să fie interzise în lipsa acestor notificări, în situația în care ele sunt concepute și difuzate în scop malițios.

Cu prilejul adoptării în Senat, în iunie anul trecut, proiectul a suferit o serie de modificări, una din cele mai importante fiind eliminarea pedepsei cu închisoarea. Conform altor completări aduse anterior în comisiile de specialitate ale Senatului, Consiliul Național al Audiovizualului va avea în atribiuții verificarea noilor reglementări, urmând să dispună în acest caz amenzi cuprinse între 10.000 și 200.000 lei. Deputații au stabilit însă, în comisiile de specialitate, forma finală a proiectului, reintroducând pedeapsa cu închisoarea și modificând limitele amenzilor.

Conform formei proiectului rezultate din comisii, sunt reglementate „realizarea, difuzarea în mass-media, precum şi distribuirea pe platforme online a oricărui conținut vizual şi/sau audio generat sau manipulat, prin utilizarea tehnologiei în contextul fenomenului deepfake, cu scopul inducerii în eroare a opiniei publice cu privire la autenticitatea mesajului transmis”.

Deepfake este definit drept „orice conținut de tip imagine, audio și/sau video realizat de regulă cu ajutorul inteligenței artificiale sau realității virtuale, astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse sau făcute de acea persoană”. Prin utilizarea malițioasă a tehnologiei este înțeleasă „acțiunea intenționată de inducere în eroare, cu scopul de a crea dezinformare și/sau haos informațional prin manipularea comportamentului uman și/sau exploatarea vulnerabilităților”.

„Utilizarea malițioasă a tehnologiei prin realizarea, difuzarea în mass-media, precum și distribuirea pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertisment redat pe cel puţin 10% din suprafața expunerii şi pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul şi la finalul conținutului audio: „Acest material conține ipostaze imaginare”, stabilește forma adoptată în comisii a proiectului.

Consiliul Național al Audiovizualului va verifica dacă sunt încălcate aceste dispoziții, iar în cazul în care constată nerespectarea lor, solicită platformei online să suspende provizoriu distribuirea materialului în cauză. Suspendarea va fi menținută sau ridicată prin hotărârea instanței judecătorești competente a se pronunța dacă a fost săvârșită o infracțiune. Instituțiile cu atribuții în domeniile mass-media, internet, vor dispune prin decizie oprirea de la difuzarea în mass-media sau blocarea distribuirii pe internet a conținutului de tip deepfake neînsoțit de avertisment sau mesaj sonor şi obligă autorul conținutului să îl elimine, mai stabilește proiectul.

Încălcarea noilor norme va constitui infracțiune și se va sancțione după cum urmează:

a) crearea/realizarea conținutului tip deepfake se pedepsește cu închisoare de la 6 luni la 2 ani;

b) difuzarea/distribuirea conținutului tip deepfake, cunoscând natura falsă a conținutului, se pedepsește cu amendă între 60 şi 180 de zile – amendă. Suma corespunzătoare unei zile-amendă este cuprinsă între 10 lei şi 500 lei și se înmulţeşte cu numărul zilelor-amendă, astfel că amenda minimă rezultată poate fi de 600 lei, iar cea maximă, de 90.000 lei.

În termen de maxim 60 de zile de la data intrării în vigoare a prezentei legi, Consiliul Național al Audiovizualului va inființa o structură responsabilă de aplicarea noilor prevederi legale.

Reprezentanții opoziției au solicitat retrimiterea proiectului la comisii, pentru a se aduce noi modificări acestuia, dar puterea a respins propunerea. Opoziția a acuzat faptul că, potrivit noilor prevederi, fi pedepsiți astfel chiar artiști care crează opere de artă fără a urmări vreo fraudă și se încalcă, prin urmare, și dreptul la liberă exprimare. Membrii puterii susțin însă că formularea actuală respectă propunerea de Regulament al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială, care reglementează următoarele.

„Utilizatorii unui sistem de AI care generează sau manipulează imagini, conținuturi audio sau video care seamănă în mod considerabil cu persoane, obiecte, locuri sau alte entități sau evenimente existenteși care ar crea unei persoane impresia falsă că sunt autentice sau adevărate („deepfake”), trebuie să facă cunoscut faptul că respectivul conținut a fost generat sau manipulat artificial”.

Conform regulamentului, acestte prevederi „nu se aplică în cazul în care utilizarea este autorizată prin lege pentru a detecta, a preveni, a investiga și a urmări penal infracțiunile sau este necesară pentru exercitarea dreptului la libertatea de exprimare și a dreptului la libertatea artelor și științelor garantate în Carta drepturilor fundamentale a UE și sub rezerva unor garanții adecvate pentru drepturile și libertățile terților”.

Prin urmare, una din excepțiile de la obligația de a face cunoscut faptul că respectivul conținut a fost generat sau manipulat artificial se referă la necesitatea exercitării dreptului la libera exprimare, rspectiv utilizarea tehnologiei deepfake să se poată face în scop de divertisment, îngrădirile existând doar în cazul în care această tehnologie este utilizată cu scopul de a manipula și dezinforma. Dacă puterea consideră că astfel de excepții sunt acoperite de textul actual al proiectului, opoziția reclamă că excepțiile nu sunt bine definite în proiect și pot da naștere la abuzuri.

Votul final asupra proiectului ar urma să aibă loc în următorea ședință de vot a deputaților.

Citește și: Previziunile apocaliptice pentru 2024 ale celei mai controversate bănci daneze: prăbuşirea capitalismului începe în SUA şi taxarea masivă a averilor în Europa