Consultantul în securitate informatică certSIGN Ionuţ Florea a spus, vineri, 11 iulie, la „Apel matinal” de la Radio România Actualități, că riscurile cibernetice cresc odată cu utilizarea inteligenței artificiale și a explicat care sunt motivele, dar și ce măsuri de prevenție pot fi luate.

Guvernul ceh a interzis în toate instituţiile publice folosirea produselor bazate pe inteligenţa artificială furnizate de o companie din China.

Decizia vizează produsele, aplicaţiile, soluţiile, site-urile, respectiv serviciile web şi se bazează pe recomandarea Oficiului Naţional pentru Securitate Cibernetică şi Securitatea Informaţiilor de la Praga, întrucât ar putea duce la accesul aparatului de stat datele stocate pe serverele din China.

Cehia consideră China o ameninţare cibernetică serioasă, comparând-o chiar cu Rusia în ceea ce priveşte capacităţile ofensive.

Totodată, alte ţări, precum Germania, Italia, Ţările de Jos, Olanda sau Australia, au restricționat sau chiar au interzis folosirea unor softuri din China în administraţia publică.

„Da, riscurile cibernetice cresc odată cu utilizarea inteligenţei artificiale, pentru că atacatorii folosesc inteligenţa artificială pentru a simplifica munca, descoperă mai uşor vulnerabilităţi sau folosesc inteligenţa artificială pentru a genera atacuri, de exemplu atacuri de tip phishing, scriu mail-uri mai convingătoare, chiar generează voce care sună, sunt apeluri telefonice făcute de roboţi cu inteligenţa artificială în parte, care conving oamenii să facă anumite lucruri.

Şi atunci, trebuie să ne apărăm de aceste atacuri, o dată, prin educarea utilizatorilor şi a doua oară, în soluţiile de securitate cibernetică, de asemenea, se foloseşte inteligenţa artificială pentru a detecta anomalii, pentru a detecta anumite tipuri de atacuri şi pentru a le răspunde. Acestea generează mai rapid alerte către analiştii de securitate, ei le analizează şi practic, decid cum intervin.

Din punctul meu de vedere, în primul rând, trebuie o conştientizare a utilizatorilor, publicul general, dar şi autorităţilor în ceea ce priveşte această inteligenţă artificială. Ea ar trebui adoptată, dar înţeles ce poate să facă cu adevărat, punctual, pentru fiecare situaţie în parte, de înţeles care sunt limitările ei şi care sunt riscurile”, a explicat Ionuţ Florea, la „Apel matinal” de la Radio România Actualități.

Specialistul a precizat că permiterea sau interzicerea produselor de inteligență artificială din anumite ţări depinde de fiecare Guvern în parte.

„La inteligenţă artificială trebuie să ţinem minte că, indiferent de ţară, indiferent de furnizor, atâta timp cât nu ai instalat pe propriile tale servere soluţia de inteligenţă artificială, nu ai antrenat inteligenţa artificială să folosească datele tale, atunci când o utilizezi, practic, dai datele în internet, pe serverele producătorului, iar ele nu îţi mai aparţin, ci vor fi folosite de inteligenţă artificială pentru a se antrena şi pentru a da răspunsuri şi altor utilizatori. Deci, practic, datele tale ajung la ceilalţi”, a mai explicat el.

„Trebuie să demistificăm un pic zona de inteligenţă artificială”

Ionuț Florea a mai spus că ar trebui să fie demistificată zona de inteligență artificială, pentru că aceasta nu se referă la „inteligență” în sens propriu, ci la algoritmi și la o capacitate de procesare a unui volum mare de date.

„De exemplu, pentru a identifica patterns sau pentru a face lucruri repetitive şi de aici, trebuie să plecăm. Aici, poate, să fie valoarea lui adăugată. Trebuie să-l abordăm cu mare prudenţă şi să verificăm care sunt rezultatele pe care le dă şi pentru a putea decide când putem să-l folosim. Pentru că răspunsurile pe care ţi le dă inteligenţa artificială sunt foarte bine scrise şi convingătoare.

Ştie să scrie foarte frumos, însă inteligenţa artificială poate să halucineze, să halucineze înseamnă să dea nişte răspunsuri greşite, să-şi imagineze că acelea sunt datele corecte. Răspunsul trebuie să fie verificat, să fie trecut prin filtrul uman, iar rezultatele astfel verificate pot fi folosite să te bazezi pe ele. Sunt exemple de cărţi care au fost publicate şi vândute pe Amazon, cărţi scrise de inteligenţă artificială care dădeau remedii medicale greşite.

Nu a existat niciun fel de verificare înainte de a fi publicate. Practic putem să o folosim, putem întreba inteligenţa artificială. De exemplu, în Google acum, în momentul în care faci o căutare, primul răspuns este generat de inteligenţă artificială, face o compilaţie din datele pe care le procesează Google, dar răspunsul acela trebuie să fie verificat”, a mai explicat specialistul, precizând că inteligența artificială poate să adreseze foarte multe domenii în administrație.

Citește și: Studiu. Inteligența Artificială ar putea afecta peste 30% dintre locurile de muncă din Europa şi Asia Centrală