Anthropic, compania care a creat modelul de inteligență artificială Claude, avertizează în documentele sale de listare la bursă că tehnologia ar putea prezenta „riscuri existențiale pentru umanitate”.

Compania arată că dezvoltarea unor modele AI mai avansate prezintă riscuri, inclusiv „posibilitatea ca acestea să manipuleze, să şantajeze sau să dezvolte comportamente imprevizibile”, potrivit Financial Times.

Pe lângă pericolele existenţiale, în documentele sale pentru investitori Anthropic recunoaşte totodată concentrarea clienţilor ca fiind unul dintre riscurile la adresa companiei, având în vedere că aproape un sfert din veniturile sale din 2025 au provenit de la doar doi clienţi, potrivit surselor consultate de ziar, citate de Agerpres.

În plină dezbatere despre ameninţările pe care le-ar putea reprezenta IA, Amodei a pledat recent pentru necesitatea „încetinirii frontierei” de dezvoltare a acestei tehnologii pentru a-i consolida securitatea, o propunere susţinută de CEO-ul OpenAI, Sam Altman, şi de antreprenorul Elon Musk.

Citește și: Șeful companiei Anthropic cere încetinirea dezvoltării inteligenței artificiale