Responsabil în domeniul siguranței la OpenAI, David Robinson demisionează
Compania a transmis că se asigură că „modelele noastre nu devin mai capabile decât le putem gestiona și securiza în siguranță și întrerupem antrenarea sau amânăm lansarea modelelor atunci când trebuie să încetinim”.
Articol de Andrei Enache, Publicat: 04 Octombrie 2026, 09:34 • Actualizat: 04 Octombrie 2026, 09:55
Unul dintre responsabilii echipei Safety Systems de la OpenAI a demisionat din companie.
La scrut timp, David Robinson a publicat un eseu critic în care susține că „optimismul neîngrădit” al gigantului din domeniul inteligenței artificiale a creat un mediu periculos pentru dezvoltarea acestei tehnologii puternice.
Săptămâna trecută, compania s-a confruntat cu un nou episod de turbulențe în rândul personalului care se ocupă de siguranță.
Davis Robinson lucra la transparența în domeniul siguranței, contribuind inclusiv la elaborarea și publicarea fișelor de sistem care oferă informații despre modelele companiei.
În eseul din The Atlantic, el a scris: „Sunt de acord cu alți angajați care au plecat recent că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente”.
„În timp ce compania aleargă de la o lansare la alta, nu reușește să atingă nivelul de precauție pe care îl consider necesar”, a adăugat el.
Într-o declarație transmisă ca răspuns la eseul fostului său angajat, OpenAI a afirmat că se asigură că „modelele noastre nu devin mai capabile decât le putem gestiona și securiza în siguranță și întrerupem antrenarea sau amânăm lansarea modelelor atunci când trebuie să încetinim”.
Compania a precizat că și-a extins colaborarea cu evaluatori externi și că încearcă să îmbunătățească „monitorizarea în timp real”, astfel încât să poată detecta și opri mai devreme, în procesul de antrenare, „comportamentele îngrijorătoare” ale inteligenței artificiale.
Alte voci din industrie au avertizat că, dacă Silicon Valley ar fi nevoită să încetinească dezvoltarea inteligenței artificiale, acest lucru le-ar putea permite rivalilor internaționali și actorilor rău intenționați să depășească Statele Unite.
Plecarea lui David Robinson are loc într-o perioadă în care practicile de siguranță și personalul OpenAI se află în centrul atenției. Joi, compania a anunțat că a „încheiat colaborarea” cu trei cercetători, susținând că aceștia au încălcat politicile privind divulgarea informațiilor sensibile.
Johannes Heidecke, responsabilul companiei pentru siguranță, a plecat, de asemenea, la începutul acestui an.
În eseul său, David Robinson a prezentat problema ca fiind una de cultură organizațională: „Acest moment necesită un grad de modestie care nu le vine în mod natural oamenilor care au avut succes datorită încrederii lor extreme în propriile forțe”.
„Abordarea siguranței care rezultă dintr-o asemenea cultură pornește de la un optimism neîngrădit că problemele vor putea fi rezolvate pe măsură ce apar”, a adăugat el.
În urma breșei de securitate intens mediatizate de la Hugging Face, OpenAI se confruntă cu o serie de alte incidente de siguranță în care, potrivit companiei, modelele sale de inteligență artificială au avut comportamente necorespunzătoare.
„Un mediu în care se pot întâmpla asemenea lucruri nu este potrivit pentru dezvoltarea unor minți artificiale care ar putea fi mai inteligente decât noi și care s-ar putea să nu facă ceea ce ne dorim”, a scris Robinson.
Progresele în capacitățile modelelor i-au determinat pe cercetători și pe conducătorii unor companii să ceară încetinirea dezvoltării inteligenței artificiale. Directorul general al OpenAI, Sam Altman, a declarat marți, la conferința companiei pentru dezvoltatori, că siguranța și alinierea modelelor la intențiile și valorile umane trebuie să rămână înaintea capacităților acestora.
La începutul lunii septembrie, Robinson a scris pe X că avea impresia că oamenii din OpenAI începeau să conștientizeze implicațiile modelelor de inteligență artificială foarte capabile, exprimând însă și îndoieli.
Lucrurile la OpenAI „se schimbă într-adevăr semnificativ de la o zi la alta, dar nu știu dacă noi ne schimbăm suficient de repede”, a scris el pe X.
În The Atlantic, demisionarul a precizat că „nu am luat cu ușurință decizia de a părăsi compania” și că el consideră că inteligența artificială „poate fi utilă și valoroasă”.
David Robinson a mai spus că a angajat o firmă de relații publice, dar a subliniat că decizia de a vorbi public îi aparține exclusiv. Mesajul pare menit să atenueze speculațiile potrivit cărora el și alte persoane care au părăsit marile companii de tehnologie pentru a cere încetinirea dezvoltării inteligenței artificiale ar face parte dintr-o campanie coordonată din exterior.
