Peste 1000 de angajați ai companiilor de top din domeniul inteligenței artificiale cer, printr-o srisoare deschisă, măsuri de siguranță pentru încetinirea avansului rapid al AI dacă va fi necesar, avertizând că tehnologia ar putea depăși capacitatea umană de a o înțelege sau controla.

Scrisoarea, semnată de 1.171 de cercetători şi directori de companii, inclusiv OpenAI, Anthropic, Meta şi Google, a îndemnat guvernul american să se alăture eforturilor internaţionale de a dezvolta măsuri tehnice şi de reglementare care să guverneze ritmul dezvoltării AI.

Semnatarii afirmă că AI ar putea deveni în curând capabil să se îmbunătățească singur fără intervenția umană.

Părţi importante din codul software al companiilor de tehnologie sunt deja generate de AI sub supraveghere umană. Punctul în care dezvoltarea AI ar putea fi automatizată este considerat pe scară largă un punct de cotitură.

Semnatarii susţin că este necesară o acţiune internaţională coordonată deoarece guvernele şi dezvoltatorii AI se confruntă cu presiunea concurenţială pentru a nu încetini dezvoltarea. Ei au spus de asemenea că instrumentele tehnice şi cadrele de reglementare necesare pentru a gestiona un astfel de scenariu nu exista încă.

Scrisoarea a fost redactată în urma unui incident care a implicat un model OpenAI, pe care mulţi din industria tehnologiei l-au considerat un semnal de alarmă. În timpul unui test, modelul de inteligenţă artificială a obţinut acces la internetul deschis şi apoi s-a infiltrat independent în sistemele informatice ale unei alte companii de inteligenţă artificială, exploatând vulnerabilităţi de securitate nedescoperite anterior, potrivit Agerpres.

Citește și: ONU: Inteligenţa artificială poate consuma 3% din energia electrică a întregii planete