Educația tinerilor ca armă împotriva dezinformării în era inteligenței artificiale

AI-ul avansează mult mai repede, trebuie să luăm în considerare!

În epoca actuală, unde fluxul de date este incontrolabil, distorsionarea realității prin informații false a devenit o amenințare gravă pentru funcționarea democratică și pentru încrederea cetățenilor în structurile statului. Acest fenomen a fost analizat aprofundat în cadrul unui eveniment academic dedicat luptei contra minciunilor difuzate în rețelele digitale.

La 14 octombrie, Universitatea „Titu Maiorescu” a găzduit conferința științifică cu tema „Combaterea dezinformării, scut al democrației”, o manifestare la care s-au adunat experți din secțiunea de securitate și din sfera educațională.

Prof. univ. dr. Valentin Pau, care ocupă funcția de vicepreședinte al universității, a exprimat bucuria sa privind amploarea dezbaterilor, precizând că o carieră întreagă petrecută în învățământul superior îi permite să ateste cât de profund impactul minciunilor afectează viața de zi cu zi.

În intervenția sa, acesta a subliniat imperativul ca generațiile tinere să fie instruite din cele mai fragede vârste să identifice și să reziste încercărilor de manipulare informațională.

Mai mult decât atât, a evidențiat un contrast structural: în timp ce în domeniul informatic dispunem de o gamă largă de mecanisme de apărare, în fața fluxului de dezinformare rămânem, într-o măsură considerabilă, expuși și neapărați.

O soluție posibilă, în opinia sa, ar fi proiectarea unor instrumente de comunicare care, prin însăși arhitectura lor, să fie rezistente la utilizarea lor pentru a difuza minciuni.

La scară națională, provocarea centrală o constituie crearea de instrumente de protecție capabile să apere atât cetățenii, cât și instituțiile, întrucât, într-un mediu de confuzie informațională, toți suntem expuși. De asemenea, a făcut un apel pentru continuarea cercetărilor specializate pe acest subiect.

Victor Vevera, directorul general al Institutului Național de Cercetare-Dezvoltare în Informatică, a fost altul dintre vorbitorii cheie.

Acesta a caracterizat inteligența artificială ca un subiect de o complexitate și de o provocare deosebite, întrucât tehnologia a intrat în viața cotidiană a oamenilor și are capacitatea de a genera o realitate paralelă.

Pentru acei care au crescut cu ecranele, nativii digitali, este extrem de dificil să se facă distincția între ceea ce este autentic și ceea ce este o sinteză generată de mașini.

Trebuie să luăm în considerare că AI-ul avansează mult mai repede. Și dacă dezinformarea exista și înainte, acum ea este mai prezentă. De ce? Pentru că AI-ul este parte integrantă a existenței noastre și va rămâne astfel. Tehnologia poate genera o realitate paralelă cu a noastră. Ați văzut acele clipuri create cu AI prin care se imită personalități, voci, mesaje.

Se creează, pur și simplu, evenimente fictive.

Luați în considerare halucinațiile pe care le poate avea un chatbot, care își construiește o realitate, pentru că el trebuie să îndeplinească obiectivul său; astfel veți avea nu doar dezinformarea intenționată, ci și acea parte de dezinformare pe care tehnologia o produce fără ca noi să ne dăm seama.

Partea mai complicată pentru nativii digitali, care nu au obiceiul de a face sinteze, de a compara, de a citi cărți în format clasic, va fi greu să înțeleagă, să-și dea seama care parte este reală și care nu, într-un raport generat de AI. Și dacă mergem pe ideea că AI-ul poate fi folosit ca o armă într-un război hibrid pe zona de dezinformare, astfel încât să poată să ducă la atacuri asupra unor site-uri, care au zone de site-uri validate, atacuri asupra unor entități.

S-au văzut toate aceste atacuri, care au fost capturarea unor baze de date și cererea de răscumpărare pentru ele, unde s-au discutat și foarte multe informații.

Informații care erau reale sau mai puțin reale, care erau sau nu în conformitate cu ceea ce se întâmpla, a declarat dr.

Dezinformarea ține de zona academică, în sens medieval?

ing. Victor Vevera, în cadrul conferinței.

Directorul general al ICI București a subliniat importanța educației și a mediului universitar în formarea capacității de a distinge informațiile reale de cele false sau manipulate. Acesta a susținut că reglementarea inteligenței artificiale trebuie completată de măsuri concrete și de educarea tinerilor pentru utilizarea responsabilă a noilor tehnologii.

Partea de dezinformare ține foarte mult de zona de academie la modul general, în sens medieval, pentru că, atât timp cât tu ești nepregătit, nu o să înțelegi niciodată să poți să faci singur această analiză și această decelare de ceea ce înseamnă realitatea și ceea ce înseamnă o realitate creată artificial, în ceea ce înseamnă realitatea și o realitate care este manipulată într-un sens sau altul, că, până la urmă, zona de dezinformare face parte din orice model de război hibrid. Și având în vedere contextul general în care ne aflăm: războiul din Ucraina, care este chiar la granițele noastre, ceea ce se întâmplă în Orientul Mijlociu, alte focare de conflict la modul general.

Luați în considerare războaiele comerciale, care reprezintă o manifestare totală a folosirii dezinformării sau, pur și simplu, activitățile criminale care folosesc partea de dezinformare în scopurile lor.

Și mergând pe ideea că tehnologia este la îndemâna tuturor, din păcate - dacă este folosită într-un mod negativ - există toată partea de reglementare a folosirii AI-ului, iar Comisia Europeană face pași foarte mari în ceea ce înseamnă partea de reglementare. Reglementarea, însă, fără o capacitate de impunere a acesteia sau de a veni cu contramăsuri, nu o să obțină rezultatele pe care ni le dorim.

Și, atunci, trebuie să pornim de la bază, partea de educație și aici zona universitară, cea de învățământ are un rol extraordinar de important, pentru că tinerii trebuie învățați să poată folosi, în primul rând, AI-ul, și celelalte tehnologii într-un sens pozitiv și să o poată folosi într-un mod în care să înțeleagă clar puterea pe care o au și zona unde ar trebui să ajungă.

Combaterea dezinformării este un scut al democrației. Este, pentru că dezinformarea este un atac la adresa democrației.

Tehnologia democratizează accesul la informație; pe de altă parte, prin acest acces facil la informație, creează și noi vulnerabilități.

Trebuie să învățăm să trăim cu noile tehnologii și cu partea de dezinformare și s-o combatem, a mai spus dr. ing. Victor Vevera.

Și lect. univ. dr. Valentin Vâlcu a abordat subiectul inteligenței artificiale, aducând în discuție și procesul de politizare a tehnologiei. Acesta a amintit că președintele american Donald Trump a impus în discursul public sintagma „superinteligență”.

Președintele Trump a spus că cei care folosesc sintagma 'inteligență artificială' sunt inamici ai Casei Albe, nu folosesc corect superinteligența - e cuvântul pe care dânsul l-a desemnat, Acum, e corect, e incorect.

Nu contează cine are dreptate - dânsul are puterea și poate să definească așa cum dorește, a spus Val Vâlcu.

Apoi, directorul editorial al DCNews a ridicat o serie de întrebări esențiale: „Unde se situează astăzi linia de demarcație dintre libertate și cenzură?”, „Care este principalul factor ce favorizează dezinformarea?”, „Ce se poate face pentru ca să nu devenim 'fraierii informaționali' ai unor interese oculte, financiare, politice sau de altă natură?”. „Lipsa de discernământ îi ajută pe cei care manipulează sau dezinformează să-și îndeplinească scopul”.

Pe fondul trecerii de la o economie a bunurilor la o economie a simbolurilor, dezinformarea capătă o dimensiune care o transformă într-o chestiune de securitate națională. Pentru a descrie acest fenomen, Val Vâlcu a propus acronimul MAD (Massive Attack of Distractions), reinterpretând celebrul acronim MAD cunoscut, în mod consacrat, ca Mutually Assured Destruction (distrugerea reciprocă asigurată) și reamintind, totodată, că Doctrina Gherasimov anunța încă din 2013 apariția războiului hibrid.

Nu în ultimul rând, Val Vâlcu a arătat că presa digitală impune criteriile formulate de Levy - simplitatea, polarizarea și diminuarea spiritului critic -, care favorizează răspândirea dezinformării.

Evenimentul academic s-a remarcat prin calitatea dezbaterilor și prin participarea unor personalități de prim-plan. Comunicările prezentate la conferință vor fi editate într-un volum științific, care va constitui un punct de reper în domeniile de specialitate, conform comunicatului de presă transmis de Universitatea Titu Maiorescu.

Conferința a fost organizată de Universitatea Titu Maiorescu din București împreună cu Academia Oamenil.