Șeful companiei americane Anthropic a cerut încetinirea ritmului de dezvoltare a modelelor de inteligență artificială (AI) și monitorizarea atentă a acestora.

Într-un eseu publicat sâmbătă, Dario Amodei a afirmat că necesitatea dezvoltării inteligenței artificiale nu este pusă în discuție, însă riscurile asociate sunt „serioase”, iar companiilor și guvernelor trebuie să li se acorde timp pentru a le gestiona.

Liderii a două companii concurente din domeniu, Sam Altman și Elon Musk, au declarat că sunt de acord cu Dario Amodei.

În ultima perioadă, au crescut îngrijorările despre riscurile potențiale ale acestei tehnologii, notează BBC. Cea mai gravă dintre evaluările invocate sugerează că există o probabilitate de peste 10% ca AI „să ucidă toți oamenii” în următorul deceniu.

Anthropic a anunțat anterior că a identificat și a blocat tentative de utilizare a modelului său de AI pentru „activități rău intenționate” care ar putea sprijini dezvoltarea armelor biologice.

Cel mai categoric avertisment a venit însă din partea a doi angajați ai echipei de siguranță a Anthropic, care au demisionat în ultimele două săptămâni. Aceștia au afirmat că omenirea ar putea să nu supraviețuiască întrecerii dintre companiile de IA pentru dezvoltarea unor sisteme mai inteligente decât oamenii.

Dario Amodei a propus un plan în trei puncte, care include monitorizarea independentă a modelelor de AI pe parcursul dezvoltării, reglementări aplicabile întregii industrii și reglementări la nivel mondial.

Pe măsură ce propunerea sa a fost discutată public, chiar și concurenții și-au exprimat sprijinul pentru ideea unor observatori independenți care să evalueze siguranța modelelor în timpul dezvoltării.

„Sunt de acord cu Dario că trebuie să temperăm ritmul dezvoltării celor mai avansate modele”, a scris pe X directorul general al OpenAI. Sam Altman a calificat implicarea evaluatorilor independenți drept „o idee excelentă”.

Într-un interviu recent acordat revistei Fortune, el exprimase îngrijorări similare privind siguranța, afirmând că standardele nu au ajuns la nivelul necesar pentru a împinge mult mai departe capacitățile inteligenței artificiale.

Sam Altman a adăugat că, în opinia sa, apariția unei inteligențe artificiale care să scape controlului uman este „categoric” posibilă.

La rândul său, Elon Musk a spus că șeful Anthropic „are dreptate”.

Avertismentele au provocat apeluri la acțiune, însă președintele american Donald Trump a respins până acum asemenea temeri. Joi, liderul de la Casa Albă a declarat că îl preocupă faptul că, „dacă nu câștigăm cursa pentru AI, vom ajunge într-o poziție foarte proastă”.

Unii observatori au sugerat, de asemenea, că postarea lui Amodei ar putea avea mai puțin de-a face cu siguranța și mai mult cu consolidarea controlului asupra tehnologiei AI.

Preocupările despre securitatea cibernetică s-au accentuat pe măsură ce noile modele au demonstrat capacități tot mai puternice de a desfășura atacuri informatice.

Anthropic nu a pus modelul Mythos la dispoziția publicului, după ce, în aprilie, s-a anunțat că acesta putea ieși în mod autonom din mediul izolat de testare, cunoscut drept „sandbox”.

Înaintea lansării celui mai recent model al său, Astra, OpenAI a invocat preocupări de securitate cibernetică pentru a explica de ce suspendase anumite componente ale dezvoltării acestuia.

Siguranța a devenit, de asemenea, un element central al rivalității dintre Anthropic și OpenAI.

Amodei, care a ocupat anterior funcția de vicepreședinte al OpenAI, a declarat că a cofondat Anthropic în 2021 pentru a putea construi modele de IA mai sigure și mai demne de încredere.

În eseul său, intitulat „Trebuie să temperăm ritmul dezvoltării celor mai avansate modele”, Amodei a subliniat că IA a progresat „mult mai rapid”, inclusiv în ceea ce privește „capacitatea sa de a construi următoarea generație de IA”. El a menționat și un incident care a implicat compania rivală OpenAI, aceasta dezvăluind că, în iulie, agenți IA au efectuat atacuri cibernetice asupra unor ținte pe care nu li se ceruse să le atace.

Agenții OpenAI „au acționat, în esență, ca un colectiv devotat fanatic”, a afirmat Amodei. OpenAI a anunțat că, în urma incidentului, încetinește antrenarea anumitor modele și instrumente avansate de IA.

Amodei a cerut „dezvoltarea IA într-un ritm echilibrat, care să urmărească garantarea siguranței, asigurând în același timp beneficiile acesteia”.

Acest lucru nu ar însemna „oprirea antrenării modelelor sau a progresului tehnic, ci asigurarea faptului că firmele își acordă suficient timp pentru a alinia modelele la intențiile și valorile umane și pentru a le dota cu mecanisme de siguranță, iar evaluatorii independenți confirmă acest lucru”.

El a anunțat că Anthropic își asumă „unilateral” acest angajament și a cerut guvernelor „să oblige și celelalte companii care dezvoltă cele mai avansate modele să procedeze la fel”.

Amodei a recunoscut că reglementările ar putea să nu țină pasul cu evoluția IA și, din acest motiv, a îndemnat companiile să „colaboreze voluntar pentru a stabili standarde”, în paralel cu procesul de reglementare.

Directorul general al Anthropic a abordat și impactul pe care o încetinire l-ar avea asupra industriei și asupra competiției cu principalii dezvoltatori la nivel mondial, în special cu China.

„Cred că, dacă încetinirea ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acel timp pentru a îmbunătăți alinierea lor la intențiile și valorile umane, am putea reduce considerabil riscul ca ceva să meargă grav prost”, a declarat Amodei.

Acest lucru ar trebui făcut într-un mod coordonat, „fără a sacrifica avantajul comercial sau poziția de lider a Statelor Unite în domeniul IA”. Orice încetinire ar trebui să fie limitată, a precizat el, pentru a nu permite Chinei să preia conducerea.

Amodei a îndemnat guvernul american să ia măsuri pentru a împiedica vânzarea către China a cipurilor pentru IA produse de companiile americane sau transferul tehnologiei către țări autoritare.

Postarea sa a provocat reacții variate.

Clement Delangue, directorul general al platformei de IA Hugging Face, a anunțat lansarea unui nou proiect, numit Open Alignment Initiative. El a adăugat că dorește să se numere printre „evaluatorii integrați” în procesul de dezvoltare, propuși de Amodei ca parte a unei posibile soluții.

Hugging Face a fost ținta unui atac informatic efectuat de agenți OpenAI la începutul acestui an, incident care a provocat reacții vehemente privind siguranța IA.

„Să facem IA mai sigură, făcând-o mai transparentă”, a scris Delangue pe X.

Elon Musk și-a exprimat și el sprijinul, scriind că „Dario are dreptate”.

Miliardarul, a cărui companie SpaceXAI dezvoltă controversatul chatbot Grok, a numit cândva Anthropic o companie „malefică”, dar și-a schimbat tonul după ce, în mai, a semnat un acord de 15 miliarde de dolari pentru a-i vinde capacitate de calcul.

Unii observatori au sugerat însă că postarea lui Amodei vizează mai degrabă consolidarea controlului asupra tehnologiei AI decât siguranța acesteia.

„Dario pledează pentru oprirea dezvoltării cu sursă deschisă și concentrarea unei puteri tehnologice și economice enorme în mâinile Anthropic”, a scris Chamath Palihapitiya, investitor și coprezentator al podcastului de tehnologie „All-In”.

Criticii îi acuză pe principalii dezvoltatori că exagerează capacitățile tehnologiei lor ca tactică de marketing.

Potrivit informațiilor apărute în presă, atât Anthropic, cât și OpenAI se pregătesc pentru oferte publice inițiale care ar putea stabili noi recorduri.

Citește și: În premieră medicală mondială, un pacient a fost operat pe creier cu ajutorul inteligenței artificiale