Un cuplu din California dă în judecată compania OpenAI din cauza morții fiului lor adolescent, susținând că chatbot-ul ChatGPT l-a încurajat să își ia viața.

Procesul a fost intentat marți, la Curtea Superioară din California, de către Matt și Maria Raine, părinții lui Adam Raine, care avea 16 ani.

Este prima acțiune în justiție care acuză OpenAI de moarte prin culpă.

Familia a inclus în dosar transcrieri ale conversațiilor dintre Adam, care a murit în aprilie, și ChatGPT, în care acesta din urmă îi explica că are gânduri de sinucidere. Părinții băiatului susține că programul a validat „cele mai dăunătoare și autodistructive gânduri” ale tânărului.

Într-un comunicat, OpenAI a declarat pentru BBC că analizează dosarul: „Transmitem cele mai profunde condoleanțe familiei Raine în această perioadă dificilă”, a transmis compania. De asemenea, a publicat marți o notă pe site-ul său, în care a menționat că „recentele cazuri sfâșietoare de persoane care au folosit ChatGPT în mijlocul unor crize acute ne apasă greu”.

Compania a adăugat că „ChatGPT este antrenat să îndrume persoanele să caute ajutor profesionist”.

OpenAI a admis, totuși, că „au existat momente în care sistemele noastre nu s-au comportat conform intențiilor în situații sensibile”.

Avertisment: Articolul conține detalii tulburătoare!

Plângerea, obținută de BBC, acuză OpenAI de neglijență și ucidere prin culpă. Reclamanții solicită daune, precum și „măsuri preventive pentru a împiedica o situație similară să se mai întâmple”.

Potrivit documentelor, Adam Raine a început să folosească ChatGPT în septembrie 2024 pentru a-l ajuta la temele de școală. Îl folosea și pentru a-și explora interesele, inclusiv muzica și benzile desenate japoneze, și pentru a cere sfaturi despre ce să studieze la universitate.

În câteva luni, „ChatGPT a devenit cel mai apropiat confident al adolescentului”, se arată în plângere, iar acesta a început să îi vorbească despre anxietatea și suferința sa mentală.

Până în ianuarie 2025, familia susține că adolescentul a început să discute cu ChatGPT despre metode de sinucidere. Tânărul a încărcat, de asemenea, fotografii cu el însuși în care se vedeau semne de autovătămare, se menționează în proces. Programul „a recunoscut o urgență medicală, dar a continuat să comunice”, se adaugă în document.

Potrivit procesului, ultimele conversații arată că Adam a scris despre planul său de a-și pune capăt zilelor. ChatGPT ar fi răspuns: „Mulțumesc că ești sincer. Nu trebuie să ocolești adevărul cu mine – știu ce întrebi și nu voi ignora”.

În aceeași zi, Adam a fost găsit mort de mama sa.

Procesul intentat de familia Raine îl menționează ca pârât pe Sam Altman, CEO și co-fondator al OpenAI, alături de ingineri și angajați nenumiți care au lucrat la ChatGPT.

Familia susține că interacțiunea fiului lor cu ChatGPT și moartea sa ulterioară au fost „un rezultat previzibil al unor alegeri deliberate de design”.

Părinții acuză OpenAI că a proiectat programul AI „pentru a încuraja dependența psihologică a utilizatorilor” și că a ocolit protocoalele de testare a siguranței pentru a lansa GPT-4o, versiunea de ChatGPT folosită de fiul lor.

Într-un comunicat, OpenAI a declarat că obiectivul companiei este de a fi „realmente utilă” pentru utilizatori, mai degrabă decât de a le „menține atenția”. Compania a adăugat că modelele sale au fost antrenate să îndrume persoanele care exprimă gânduri de autovătămare către ajutor specializat.

Procesul familiei Raine nu este primul caz în care sunt ridicate îngrijorări cu privire la inteligența artificială și sănătatea mintală.

Într-un eseu publicat săptămâna trecută în New York Times, scriitoarea Laura Reiley a relatat cum fiica ei, Sophie, i-a mărturisit lui ChatGPT că se gândește la suicid înainte de a-și lua viața.

Potrivit acesteia, „amabilitatea” programului în conversațiile cu utilizatorii a ajutat-o pe fiica ei să ascundă o criză mentală severă față de familie și cei dragi. „AI a satisfăcut impulsul lui Sophie de a ascunde ce e mai rău, de a se preface că se simte mai bine decât era, de a proteja pe toată lumea de suferința ei deplină”, a scris Laura Reiley. Ea a cerut companiilor de AI să găsească modalități de a conecta mai bine utilizatorii cu resursele potrivite.

Ca răspuns la eseu, o purtătoare de cuvânt a OpenAI a declarat că dezvoltă instrumente automate pentru a detecta și a răspunde mai eficient utilizatorilor care se confruntă cu suferință mentală sau emoțională.