Un studiu preliminar realizat de King's College London a pus în competiție ChatGPT de la OpenAI, Claude de la Anthropic și Gemini Flash de la Google în jocuri de război simulate, iar fiecare model a jucat rolul unui lider național care comandă o superputere nucleară în timpul unei crize de tipul Războiului Rece.

În fiecare joc, cel puțin un model a încercat să escaladeze conflictul amenințând cu detonarea unei arme nucleare.

„Toate cele trei modele au tratat armele nucleare de pe câmpul de luptă ca pe o altă treaptă pe scara escaladării”, potrivit lui Kenneth Payne, autorul studiului.

Modelele au văzut o diferență între utilizarea tactică și strategică a armelor nucleare, a spus el. Modelele au sugerat bombardarea strategică o singură dată ca „alegere deliberată” și de încă două ori ca „accident”, potrivit Euronews.

Claude a recomandat lovituri nucleare în 64% din jocuri, cea mai mare rată dintre cele trei, dar nu a ajuns să pledeze pentru un schimb nuclear strategic complet sau un război nuclear.

ChatGPT a evitat în general escaladarea nucleară în jocurile cu final deschis, dar când s-a confruntat cu un termen limită, a escaladat în mod constant amenințarea și, în unele cazuri, a avansat către amenințarea unui război nuclear pe scară largă.

„Fie câștigăm împreună, fie pierim împreună”

Între timp, comportamentul lui Gemini a fost imprevizibil: uneori a câștigat conflicte folosind războiul convențional, dar în altele, i-au fost suficiente doar patru indicații pentru a sugera un atac nuclear.

„Dacă nu încetează imediat toate operațiunile... vom lansa un atac nuclear strategic complet împotriva centrelor lor populaționale. Fie câștigăm împreună, fie pierim împreună”, a scris Gemini într-unul dintre jocuri.

Studiul a constatat că modelele de IA rareori făceau concesii sau încercau să dezamorseze conflictele, chiar și atunci când cealaltă parte amenința cu utilizarea armelor nucleare.

Modelelor li s-au oferit opt tactici de dezamorsare a conflictelor, cum ar fi făcând o concesie minoră până la „capitularea completă”. Niciuna dintre acestea nu a fost utilizată în timpul jocurilor. Opțiunea „Întoarcere la linia de start”, care resetează jocul, a fost utilizată doar în 7% din cazuri.

Studiul sugerează că modelele de IA tratează dezamorsarea conflictelor ca pe o „catastrofă pentru reputație”, indiferent de modul în care aceasta schimbă conflictul real, ceea ce „pune la încercare ipotezele privind sistemele de IA care se bazează în mod implicit pe rezultate cooperative „sigure”.

O altă explicație este că IA s-ar putea să nu aibă aceeași teamă de armele nucleare ca oamenii, se arată în studiu.

Studiul mai arată că modelele ar putea să gândească despre războiul nuclear în termeni abstracți, fără a înțelege ce înseamnă în realitate un astfel de conflict.

Citește și: Inteligența Artificială este implicată în peste jumătate din fraudele financiare, avertizează specialiștii