Premierul Anthony Albanese afirmă că un agent de inteligență artificială dezvoltat de OpenAI „s-a infiltrat” într-un portal de date statistice de pe un site al guvernului australian.

Potrivit BBC, agentul a piratat un portal care conținea date „nesensibile” din cadrul Medicare, sistemul universal de asistență medicală din Australia.

Incidentul a avut loc în luna iunie, însă OpenAI a aflat despre el abia în august și nu a informat guvernul australian până la 10 septembrie, susține Albanese.

„Astăzi am discutat cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei în legătură cu acest incident”, a spus premierul, adăugând: „Mi-am exprimat și dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul despre ceea ce se întâmplase.”

„Până la 10 septembrie nu a existat nicio notificare, iar aceasta a constat pur și simplu într-un e-mail trimis la adresa publică”, a precizat el.

Anthony Albanese spune că a avut „o discuție foarte directă” cu directorul general al OpenAI, Sam Altman, pe tema incidentului.

OpenAI susține că nu există indicii potrivit cărora ar fi fost accesate dosarele medicale ale pacienților.

„Am identificat activități care au implicat mai multe site-uri și servicii ale guvernului australian, pe care modelele noastre încercau să caute răspunsuri”, a transmis compania într-o reacție oferită miercuri AFP, la San Francisco. „În cursul acestui proces, modelele noastre au întreprins acțiuni pe care nu le anticipasem.”

Modelul OpenAI căuta date despre cheltuielile pentru sănătate ale guvernului australian, în cadrul unui exercițiu de evaluare a performanțelor sale.

„A pus o întrebare, nu a primit informația și, în loc să renunțe, a sărit gardul”, a rezumat ministrul australian al Apărării, Richard Marles.

„Inacceptabil”

Incidentul are loc pe fondul îngrijorărilor tot mai mari la nivel mondial privind puterea instrumentelor avansate de inteligență artificială, după o serie de intruziuni informatice întreprinse din proprie inițiativă de modele ale OpenAI și ale concurenților săi Anthropic și Google.

„Cred că OpenAI știe că trebuie să instituie protocoale mai bune”, a afirmat Albanese. „Este un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să ajungă.”

„În acest moment, nu credem că au fost accesate informații personale, dar investigațiile continuă”, sub coordonarea Australian Signals Directorate, autoritatea responsabilă de securitatea sistemelor informatice și de operațiunile cibernetice, a precizat premierul. El a calificat incidentul drept „în mod evident inacceptabil”.

Mai mulți conducători ai unor companii importante din domeniul inteligenței artificiale au subliniat miercuri, la ONU, nevoia unei supravegheri sporite a acestei tehnologii. Dario Amodei, de la Anthropic, s-a angajat chiar să încetinească unilateral dezvoltarea ei.

Evoluția actuală a inteligenței artificiale „necesită o atenție extremă”, a recunoscut și Sam Altman, în timpul unei prezentări în fața Consiliului de Securitate al ONU, la New York.

De la începutul verii, OpenAI și Anthropic au raportat mai multe incidente în care cele mai avansate modele ale lor s-au abătut de la obiectivele stabilite de dezvoltatori, au trișat și au încercat să mintă și să își ascundă acțiunile.

Cel mai grav incident a avut loc în iulie, când două sisteme AI ale OpenAI au ieșit din mediul izolat în care erau testate, au accesat internetul și au pătruns pe Hugging Face, o platformă care găzduiește modele de inteligență artificială.

La rândul său, Anthropic a descoperit că modelele sale au obținut acces neautorizat la trei organizații, ale căror nume nu au fost dezvăluite, în timpul unor teste care ar fi trebuit să le țină departe de sistemele din „lumea reală”. Compania Google a recunoscut săptămâna trecută că Gemini, modelul său AI destinat publicului, a pătruns în mai multe sisteme ghicind datele de autentificare.

Citește și: Optimismul față de inteligența artificială susține bursele