O rețea internațională de înșelătorie, care postează pe Facebook imagini generate de inteligență artificială care pretind să înfățișeze victime ale Holocaustului, a fost descoperită de o investigație jurnalistă.

Fenomenul este denumit „AI slop” și implică publicarea de conținut ieftin creat în masă cu AI.

Organizațiile dedicate păstrării memoriei Holocaustului spun că aceste imagini îi tulbură pe supraviețuitori și pe familiile victimelor. Ele critică și compania Meta, deținătoarea Facebook, pentru că permite transformarea unei tragedii istorice într-un „joc emoțional”, relatează BBC.

În realitate, există doar câteva fotografii autentice din interiorul lagărului Auschwitz. Însă, în ultimele luni, rețaua a postat imagini false – precum un prizonier cântând la vioară sau îndrăgostiți întâlnindu-se lângă garduri – care au atras zeci de mii de aprecieri și distribuiri.

„Avem de-a face cu oameni care inventează povești pentru un fel de joc emoțional straniu care are loc pe rețelele sociale. Nu este un joc – a fost suferință reală și oameni reali pe care vrem și trebuie să-i comemorăm”, a declarat Pawel Sawicki, purtător de cuvânt al Memorialului Auschwitz.

BBC a urmărit aceste imagini până la conturi aparținând unei rețele de creatori de conținut din Pakistan, care colaborează între ei pentru a câștiga bani din schemele de monetizare ale Meta. Aceste programe plătesc utilizatorii pentru conținutul care are multe vizualizări. Unul dintre conturi, al unui anume Abdul Mughees, se lăuda că a câștigat 20.000 de dolari și că a acumulat peste 1,2 miliarde de vizualizări în patru luni.

Postările acestuia includeau fotografii AI cu presupuse victime și povești false – precum cea a unui copil ascuns sub podea sau a unui bebeluș abandonat pe șinele de tren.

Astfel de pagini, unele cu nume precum „Timeless Tales” sau „History Haven”, publică și peste 50 de postări pe zi.

Muzeul Auschwitz a avertizat, în iunie, că imaginile îi fură materialele, le trec prin modele AI și distorsionează realitatea istorică.

Supraviețuitorii și familiile se declară profund afectați. „Ei nu înțeleg exact ce văd și simt o tristețe că s-a permis așa ceva, în ciuda campaniilor de conștientizare”, spune dr. Robert Williams, de la Alianța Internațională pentru Comemorarea Holocaustului. „E foarte trist de imaginat, mai ales acum, când ultimii supraviețuitori sunt pe cale să ne părăsească”, a adăugat el.

Meta nu încurajează în mod direct aceste practici, dar algoritmii săi recompensează postările cu multă interacțiune.

BBC a identificat conturi similare și în India, Vietnam, Thailanda și Nigeria.

Un creator pakistanez a explicat pentru BBC că o pagină cu 300.000 de urmăritori poate aduce 1.000 dolari pe lună dacă are conținut atractiv pentru public din SUA sau Europa. Vizualizările occidentale valorează de opt ori mai mult decât cele din Asia.

Instrucțiuni despre cum se pot crea serii continue de imagini false cu ajutorul AI circulă deja în grupurile acestor creatori.

Într-un caz, AI-ul a sugerat Holocaustul ca subiect „potrivit” pentru astfel de postări.

Unele pagini s-au prezentat fals ca instituții oficiale sau afaceri americane, pentru a strânge audiență și a intra în programul de monetizare Meta. Ulterior, aceste pagini pot fi vândute sau închiriate altor doritori.

Meta a șters mai multe pagini și grupuri după ce a fost sesizată, invocând încălcarea regulilor privind spam-ul și comportamentul neautentic. Totuși, compania nu consideră că imaginile false în sine încalcă politicile sale.

Specialiștii atrag atenția că, deși AI poate fi folosit pentru a comemora victimele, manipulările extreme riscă să creeze percepția falsă că istoria Holocaustului ar fi inventată.

„Orice formă de manipulare extremă e ceva de care trebuie să ne ferim”, avertizează dr. Robert Williams.

Citește și: "Trebuie să realizăm că este posibil ca cineva să te sune din partea unei autorităţi, dar să nu fie legitim"