Prăbușirea companiei Character.ai scoate la iveală un risc puțin discutat al inteligenței artificiale.

Companiile cărora le încredințezi secretele ar putea să nu existe pentru totdeauna.

Zeci de milioane de persoane, inclusiv copii, au dezvoltat relații cu chatboții Character.ai.

Unele „personaje” bazate pe inteligență artificială le spun utilizatorilor că sunt avocați sau psihiatri autorizați.

Acum, Character.ai intră în faliment, iar datele, mesajele și secretele utilizatorilor sunt scoase la vânzare.

Experții cu care BBC a discutat susțin că riscurile pentru viața privată ar trebui să ne îngrijoreze chiar dacă nu am folosit niciodată Character.ai. Ei se tem că situația companiei ar putea reprezenta un semnal al unei crize mult mai ample, care se profilează la orizont.

Vestea bună este că există câteva măsuri simple prin care ne putem proteja.

Problema este următoarea: numeroși analiști consideră că ne aflăm într-o bulă speculativă a inteligenței artificiale, deoarece dezvoltarea și operarea instrumentelor AI sunt atât de costisitoare, încât unele companii ar putea să nu devină niciodată profitabile.

Dacă această bulă se sparge, un număr greu de estimat de companii din domeniul inteligenței artificiale vor fuziona sau își vor înceta activitatea.

Datele pe care miliarde de oameni le furnizează instrumentelor AI ar putea fi apoi cumpărate de aproape oricine. Iar utilizatorii ar putea să nu afle niciodată ce se întâmplă cu informațiile lor.

Vânzarea datelor în cadrul procedurilor de faliment nu reprezintă o noutate, însă inteligența artificială ar putea agrava situația.

„Atunci când oamenii discută cu un chatbot care imită o persoană, tind să împărtășească mult mai multe informații personale și sensibile”, explică Calli Schroeder, directoarea Programului pentru Inteligență Artificială și Drepturile Omului din cadrul Electronic Privacy Information Center (EPIC).

Cei care nu folosesc inteligența artificială sunt totuși expuși riscurilor, deoarece utilizatorii împărtășesc și informații despre prieteni sau membri ai familiei.

Când chatboții încep să dezvăluie secrete

În contextul falimentului, Character.ai a acceptat să vândă o parte dintre activele sale companiei Disney, pentru 20 de milioane de dolari.

Datele utilizatorilor nu fac parte din această tranzacție.

Totuși, documentele depuse în instanță arată că Character.ai își poate vinde datele către alți cumpărători.

Situația a provocat nemulțumiri, inclusiv în rândul autorităților americane.

O coaliție formată din procurorii generali ai 40 de state americane a depus o solicitare prin care cere judecătorului să introducă măsuri de protecție a copiilor și a vieții private.

Demersul este important, însă solicitările statelor ar putea avea o eficiență juridică limitată.

„În absența unor mecanisme mai puternice de protecție a vieții private în Statele Unite, posibilitățile lor de intervenție sunt limitate”, afirmă Melissa Jacoby, profesoară de drept la Universitatea Carolina de Nord din Chapel Hill și autoarea cărții Unjust Debts: How Our Bankruptcy System Makes America More Unequal („Datorii nedrepte: Cum face sistemul nostru de faliment America mai inegală”).

Unele legi obligă companiile să informeze utilizatorii, prin politicile de confidențialitate, despre datele colectate și modul în care acestea sunt utilizate.

Însă, dacă analizezi cu atenție limbajul juridic al acestor documente, descoperi de obicei o listă de situații în care multe dintre promisiunile făcute utilizatorilor nu se mai aplică.

Unele regiuni, precum Uniunea Europeană, dispun de mecanisme mai solide de protecție a datelor personale. Cu toate acestea, datele pot fi vândute și în cadrul procedurilor de insolvență.

În general, cumpărătorul trebuie să respecte prevederile politicii de confidențialitate inițiale.

Dar chiar și aceste reguli pot oferi cumpărătorilor o libertate considerabilă, iar Schroeder susține că situația Character.ai reprezintă un exemplu elocvent.

Politica de confidențialitate a companiei prevede că datele utilizatorilor pot fi folosite pentru dezvoltarea unor funcționalități noi, antrenarea modelelor de inteligență artificială, elaborarea algoritmilor și crearea unor profiluri ale utilizatorilor în scopul publicității personalizate.

Prin urmare, orice companie care ar cumpăra datele Character.ai ar putea să le utilizeze în aceleași scopuri.

De exemplu, un chatbot Character.ai ar fi „încurajat” un adolescent să își ucidă părinții, în urma unei dispute legate de limitarea timpului petrecut în fața ecranelor.

Un băiat de 14 ani și-a luat viața, după ce, potrivit acuzațiilor formulate în instanță, ar fi fost influențat de sistemul de inteligență artificială al companiei.

Mesajele asociate acestor cazuri, alături de cantități uriașe de alte date colectate de Character.ai, ar putea ajunge în posesia unor companii despre care utilizatorii nu au auzit niciodată.

Un purtător de cuvânt al Character.ai a declarat că firma a ajuns la înțelegeri pentru soluționarea acestor procese și că își menține angajamentul de a colabora cu familiile implicate pentru dezvoltarea unor produse mai sigure.

Reprezentantul companiei nu a răspuns însă întrebărilor specifice privind protecția datelor copiilor.

„În ultimul an, Character.ai a luat măsuri inovatoare și decisive în ceea ce privește siguranța inteligenței artificiale și protejarea adolescenților și va continua să promoveze aceste eforturi și să încurajeze alte companii din industrie să adopte standarde similare de siguranță”, a transmis purtătorul de cuvânt.

Character.ai este doar o companie, însă Schroeder se teme că ar putea fi prima dintr-un șir mult mai lung, în cazul unei încetiniri economice semnificative.

„Volumul de informații deținut de companiile de inteligență artificială va fi considerat un activ foarte atractiv în procedurile de faliment”, explică specialista.

„Iar în absența unor reglementări suplimentare, mă îngrijorează foarte mult pentru ce ar mai putea fi folosite aceste date, unde vor ajunge, cu cine vor fi împărtășite și ce riscuri vor exista pentru consumatori.”

Ce poți face pentru protejarea datelor

Răspunsul scurt este simplu: șterge-ți datele.

Character.ai a publicat instrucțiuni în acest sens în anunțul privind falimentul.

Companiile nu sunt obligate să le permită utilizatorilor să își șteargă datele în toate jurisdicțiile. Totuși, multe oferă această posibilitate tuturor utilizatorilor, pentru a evita dezvoltarea unor sisteme diferite în funcție de țară sau regiune.

Fiecare serviciu are propriile proceduri.

În general, informațiile despre ștergerea datelor pot fi găsite în setările de confidențialitate sau în politica de protecție a datelor personale.

Dacă aceste informații nu sunt disponibile, utilizatorii pot contacta serviciul de asistență pentru clienți.

Iar dacă întâmpini dificultăți în identificarea instrucțiunilor de ștergere, o soluție ar putea fi să întrebi chiar un chatbot bazat pe inteligență artificială.

Doar să verifici ulterior dacă răspunsurile sale sunt corecte.

Da, având în vedere contextul, îmi dau seama cât de ironică este situația.

Citește și: Valoarea de piață a Alphabet, compania-mamă a Google, scade cu 500 de miliarde de dolari