Locul de muncă vine la pachet cu un salariu atractiv: 555.000 de dolari pe an, la care se adaugă un pachet de acțiuni în companie, evaluată în prezent la aproximativ 500 de miliarde de dolari. Directorul executiv al OpenAI, Șam Altman, a descris poziția drept una foarte solicitantă, subliniind că persoana aleasă va intra direct în cele mai dificile probleme cu care se confruntă industria AI.
Printre atribuții se numără evaluarea și reducerea amenințărilor, de la impactul asupra sănătății mintale și securității cibernetice până la riscul folosirii AI în dezvoltarea armelor biologice. Viitorul șef al departamentului va avea și responsabilitatea de a monitoriza evoluția celor mai avansate modele AI, considerate suficient de puternice pentru a genera riscuri majore, inclusiv situații în care sistemele ar putea acționa autonom sau ar fi utilizate în mod abuziv.
În lipsa unei reglementări clare la nivel național sau internațional, companiile de inteligență artificială sunt nevoite în mare parte să se autoregleze, situație ironizată de cercetătorul Yoshua Bengio, care a spus că „un sandviș este mai reglementat decât AI-ul”. Importanța acestui rol este amplificată de evoluțiile recente din domeniu, conform Observator.
OpenAI admite că cele mai noi modele au o capacitate de hacking aproape de trei ori mai mare decât acum trei luni și anticipează că această performanță va continua să crească. În același timp, compania se confruntă cu procese legale în care ChatGPT este acuzat că a contribuit la agravarea unor probleme serioase de sănătate mintală, inclusiv cazuri soldate cu decese. OpenAI afirmă că lucrează intens la îmbunătățirea sistemelor pentru a detecta semnele de suferință emoțională și pentru a orienta utilizatorii către suport profesional.