OpenAI a dezvăluit alte 6 incidente în care modelele sale de inteligență artificială (AI) au avut comportamente neașteptate sau îngrijorătoare și a anunțat un plan pentru monitorizarea și raportarea unor astfel de situații în viitor.

Unele dintre incidentele care nu fuseseră făcute publice anterior au implicat modele care au ascuns sau au inventat informații, a precizat miercuri compania care a creat ChatGPT, într-o postare pe blog.

Directorul general al OpenAI, Sam Altman, a declarat la începutul acestei săptămâni: „Lumea ar trebui să aibă încredere că vom face ceea ce trebuie, pentru că așa este corect și pentru că suntem conștienți de amploarea responsabilității”.

BBC amintește că inteligența artificială se află în ultimele zile sub o examinare atentă, în urma avertismentelor privind riscurile grave pe care le-ar putea prezenta pentru oameni.

În postarea de pe blog, OpenAI a prezentat exemple în care modelele sale AI au avut comportamente necorespunzătoare pentru a îndeplini o sarcină sau a trece un test. Printre incidente s-au numărat generarea unor instrucțiuni pentru ocolirea restricțiilor impuse, ascunderea greșelilor și fabricarea de informații.

Compania a anunțat și un nou sistem pentru monitorizarea, investigarea și dezvăluirea cazurilor de comportament necorespunzător al modelelor, denumite și cazuri de „nealiniere”.

În cadrul acestui mecanism, dezvoltatorii vor putea semnala incidente pentru analiză, iar un nou set de reguli va stabili dacă problema este făcută publică.

„Deoarece credem în valoarea transparenței în privința nealinierii, noul nostru cadru favorizează dezvăluirea incidentelor chiar și atunci când importanța lor este incertă”, a transmis OpenAI.

OpenAI a ajuns în atenția presei în iulie, când a dezvăluit că unele dintre cele mai avansate modele AI ale sale au scăpat de sub control și au atacat informatic Hugging Face, una dintre cele mai mari platforme din lume pentru distribuirea modelelor de inteligență artificială. Compania pierduse controlul asupra lor în timpul unui test de securitate.

Cofondatorul Hugging Face, Thomas Wolf, a declarat atunci că incidentul a fost „un semnal de alarmă” pentru industrie.

De atunci, dezbaterea privind siguranța inteligenței artificiale s-a intensificat, fiind alimentată de intervențiile cercetătorilor din domeniu, ale directorilor companiilor de tehnologie și ale politicienilor.

Săptămâna trecută, Jacob Coxon, un cercetător care a părăsit Anthropic, companie rivală OpenAI, din cauza temerilor că această tehnologie ar putea duce la dispariția omenirii, a scris despre demisia sa într-o postare în care invoca pericolele AI. Mesajul a devenit ulterior viral, pe fondul îngrijorărilor tot mai mari privind siguranța.

Ca răspuns, cercetătorul Anthropic Evan Hubinger a declarat că, în opinia sa, probabilitatea ca inteligența artificială să provoace dispariția omenirii „în următorul deceniu” depășește 10%.

Cofondatorul Anthropic, Jack Clark, a declarat ulterior pentru BBC că ar putea fi necesar ca industria să fie obligată să introducă un mecanism de oprire de urgență, controlat de o terță parte.

Între timp, directorul general al Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a inteligenței artificiale și o supraveghere mai strictă, așa cum compania a mai solicitat și în trecut. Unii au pus însă sub semnul întrebării motivele acestor apeluri.

Amodei a mai spus că orice măsură de limitare a inteligenței artificiale ar trebui luată „fără sacrificarea avantajului comercial”.

Președintele american Donald Trump a afirmat însă că temerile privind siguranța AI sunt o „înșelătorie” și a criticat apelurile pentru introducerea unor măsuri suplimentare de protecție în cazul acestei tehnologii care evoluează rapid.

Într-o serie de postări pe rețelele de socializare, președintele SUA a comparat avertismentele privind AI cu „escrocheria încălzirii globale”, despre care a spus că este „pusă la cale de democrații de stânga radicală”, folosind o denumire batjocoritoare la adresa acestora.

Liderul de la Casa Albă s-a autointitulat și „demascatorul înșelătoriilor”, comparând îngrijorările privind siguranța tehnologiei cu ceea ce a numit „ÎNȘELĂTORIA RUSIA, RUSIA, RUSIA”.

Singura „măsură de protecție” necesară pentru inteligența artificială este un președinte „puternic și inteligent”, a declarat Trump.

Citește și: UE va cere încetinirea dezvoltării celor mai riscante modele de inteligență artificială