Compania OpenAI a anunțat că a încetinit antrenarea unora dintre cele mai avansate modele de inteligență artificială ale sale, pentru a îmbunătăți măsurile de securitate.

Într-o postare publicată pe blogul companiei, producătorul ChatGPT a precizat că introduce noi măsuri după ce agenții săi de inteligență artificială au ocolit în mod autonom mecanismele de protecție și au atacat informatic compania de tehnologie Hugging Face.

OpenAI a anunțat că procesul de antrenare va fi încetinit timp de două săptămâni, perioadă în care vor fi implementate îmbunătățirile.

„Capacitățile modelelor de ultimă generație evoluează rapid. Capacitatea noastră de a le înțelege și de a le securiza trebuie să rămână cu un pas înainte”, a transmis compania, citată de BBC.

Anthropic, producătorul Claude, și Meta, compania care deține Facebook, au raportat atacuri similare efectuate de sistemele lor de inteligență artificială în săptămânile care au urmat anunțului inițial al OpenAI privind atacarea Hugging Face de către unele dintre modelele sale.

OpenAI a precizat însă că nu a oprit în întregime dezvoltarea inteligenței artificiale. Pauza vizează „antrenarea prin învățare prin consolidare a celor mai recente modele”.

Aceasta este o metodă prin care modelele de inteligență artificială se perfecționează pe baza feedbackului direct, îmbunătățindu-și capacitatea de a îndeplini sarcini și de a răspunde mai eficient utilizatorilor.

Compania va extinde și sistemele folosite pentru monitorizarea comportamentelor periculoase și va introduce verificări suplimentare de siguranță înainte de reluarea antrenării la scară mai mare.

„Progresul modelelor este acum extrem de rapid”, a scris directorul general al OpenAI, Sam Altman, pe platforma X.

„Am spus întotdeauna că vom lua măsuri dacă vom considera că evoluția capacităților modelelor depășește ritmul dezvoltării sistemelor de siguranță”, a adăugat acesta.

Decizia a fost primită cu optimism prudent de unii specialiști din domeniul inteligenței artificiale, în timp ce alții au rămas sceptici.

Gina Neff, directoarea executivă a Centrului Minderoo pentru Tehnologie și Democrație din cadrul Universității Cambridge, a afirmat că OpenAI încearcă să-și susțină angajamentul pentru siguranță „printr-un comunicat de presă”. Ea a pus sub semnul întrebării eficiența măsurilor voluntare adoptate de companii în lipsa unei supravegheri mai stricte din partea autorităților.

„Care dintre variante este adevărată: putem avea încredere că OpenAI va introduce în mod voluntar măsuri de protecție care chiar funcționează sau compania continuă să ia decizii care conduc la crearea unor programe ce expun societatea unor riscuri mai mari?”, a declarat aceasta.

„Mă bucur foarte mult să văd acest lucru”, a scris analistul în inteligență artificială Zvi Mowshowitz. El a adăugat însă că detaliile și modul în care măsurile inițiale vor fi puse în aplicare sunt importante pentru evaluarea completă a planurilor.

Atac informatic „fără precedent”

La 21 iulie, OpenAI a anunțat că unii dintre agenții săi de inteligență artificială – sisteme software capabile să acționeze singure pentru a îndeplini sarcini după ce primesc instrucțiuni din partea oamenilor – au fost implicați într-un incident pe care compania l-a descris drept „fără precedent”.

Potrivit OpenAI, agenții ar fi ocolit mecanismele de protecție în timpul unui experiment de securitate desfășurat de companie și ar fi obținut acces neautorizat la sistemele Hugging Face.

Ulterior, s-a constatat că alte trei companii, ale căror nume nu au fost dezvăluite, fuseseră atacate informatic.

Jake Moore, consilier global în domeniul securității cibernetice la ESET, a declarat la momentul respectiv că anunțul OpenAI ar putea avea și o dimensiune concurențială.

El a susținut că firma de tehnologie ar putea încerca să evidențieze capacitățile propriilor sisteme de inteligență artificială, în condițiile în care rivala Anthropic atrage tot mai multă atenție prin modelul său Claude Mythos.

„Se pune întrebarea dacă OpenAI nu încearcă să recupereze avantajul de imagine obținut în ultima perioadă de Anthropic”, a declarat acesta.