Un marcaj invizibil, care poate fi citit automat, va fi introdus în textele generate de ChatGPT și Codex, inițial doar pentru utilizatorii din Uniunea Europeană.

OpenAI afirmă că sistemul său de marcare textGrain a „egalat sau depășit” alte metode, precum SynthID pentru text, dezvoltat de Google DeepMind. Acesta din urmă stă și la baza sistemului de marcare anunțat de Anthropic în august.

La fel ca OpenAI, Anthropic a luat această măsură pentru a îndeplini cerințele Regulamentului UE privind inteligența artificială, notează The Verge.

OpenAI a publicat și rezultate ale unor teste de evaluare a inteligenței artificiale, care indică performanțe similare pentru textele marcate și cele nemarcate.

Compania precizează însă că textGrain „nu garantează o detectare fiabilă”. De asemenea, marcajele din text nu verifică exactitatea informațiilor, nu stabilesc cui îi aparține textul, nu măsoară contribuția unui om și nu dovedesc că un text a fost scris de o persoană.

Introducerea marcajelor în textele generate în UE

"În următoarele săptămâni, vom introduce marcarea textelor pentru utilizatorii eligibili ai ChatGPT și Codex, indiferent de planul de abonament, exclusiv în UE. La lansare, marcarea textelor nu va fi activată implicit la nivel global. Această abordare regională ne permite să învățăm din utilizarea în condiții reale și din feedback.

Marcarea opțională pentru clienții API. Începând de astăzi, clienții API din întreaga lume vor putea opta pentru texte marcate, generate de anumite modele. Astfel, clienții pot decide cum se încadrează marcarea în obligațiile lor de transparență și în experiențele pe care le oferă utilizatorilor. Lucrăm, de asemenea, cu partenerii noștri din domeniul serviciilor cloud pentru ca, în următoarele săptămâni, marcarea să fie disponibilă și pentru textele generate de modelele OpenAI accesate prin serviciile acestora", transmite compania.

"Acces la instrumentul de detectare pentru cercetători și organizații de specialitate. Cercetătorii și organizațiile de specialitate aprobate pot depune cereri începând de astăzi.

În conformitate cu Codul de bune practici, accesul va fi acordat inițial de la caz la caz, pentru a sprijini evaluarea și îmbunătățirea identificării provenienței textelor. Instrumentul va indica dacă detectează un marcaj OpenAI, fără să identifice utilizatorul sau să dezvăluie solicitările ori conversațiile acestuia. Având în vedere riscul ca unele marcaje să nu fie detectate și riscul rezultatelor fals pozitive, instrumentul nu va fi disponibil publicului larg la lansare", a adăugat OpenAI în mesajul transmis.