Google renunță la imaginile satelitare generate de AI, după scandalul dezinformării

Pericolele imaginilor AI

Google retrage funcția de generare de imagini satelitare prin inteligență artificială

Google, gigantul tehnologic, a anunțat recent suspendarea unei noi funcții din Google Earth, care permitea crearea de imagini satelitare generate de inteligența artificială. Decizia vine ca urmare a unor îngrijorări serioase legate de potențialul de dezinformare și de încălcare a regulilor platformei. Funcția, denumită „creează imagine”, a fost lansată cu doar o zi înainte de a fi retrasă, demonstrând o reacție rapidă din partea companiei la feedback-ul negativ.

Un purtător de cuvânt al Google a declarat pentru AFP, conform Le Figaro, că, deși profesioniștii din domeniul informațiilor geospațiale au găsit utilitate în această inovație, au existat și cazuri în care utilizatori au distribuit capturi de ecran ale imaginilor generate, încălcând astfel termenii de utilizare. Prin urmare, Google a hotărât să elimine temporar această opțiune din Google Earth, intenționând să implementeze măsuri de siguranță mult mai robuste înainte de o eventuală relansare.

Testele AFP și implicațiile dezinformării

Instrumentul „creează imagine” oferea utilizatorilor posibilitatea de a selecta o anumită locație și de a genera, în doar câteva secunde, imagini artificiale realiste, utilizând datele satelitare, aeriene și cartografierea 3D existente în Google Earth. Google a promovat inițial această funcție ca un instrument valoros pentru diverse aplicații, inclusiv pentru proiecte imobiliare.

Cu toate acestea, experții în dezinformare au tras semnale de alarmă, avertizând că această capacitate ar putea fi deturnată de actori rău-intenționați. Aceștia ar putea exploata Google Earth, o resursă esențială pentru verificarea faptelor, pentru a produce conținut geografic fals, dar extrem de convingător. Henk van Ess, un specialist în investigații digitale, a subliniat pe Substack că „Google a dedicat două decenii construirii unui punct de referință în care lumea are încredere. Acum, adaugă un buton care inventează lucruri.”

Inițial, Google a reacționat la critici afirmând pe platforma X că imaginile create cu această funcție vor include markeri digitali invizibili, detectabili de chatbot-ul Gemini. Compania a reiterat angajamentul său de a combate dezinformarea și a menționat că politica sa de utilizare a inteligenței artificiale interzice „dezinformarea, prezentarea înșelătoare a faptelor sau activitățile menite să inducă în eroare”, prevenind totodată generarea de imagini pe „subiecte periculoase”.

Precedente și apeluri la responsabilitate

Cu toate acestea, testele efectuate de AFP au demonstrat vulnerabilitatea sistemului. Jurnaliștii au reușit să genereze imagini satelitare false, potențial dăunătoare, incluzând un sit nuclear din Iran, un crater de bombă din Rusia și o tabără de antrenament a Statului Islamic din Siria. Această experiență a confirmat temerile legate de dificultatea de a controla conținutul generat de AI și de a preveni utilizarea abuzivă.

Falsurile generate de inteligența artificială au avut deja consecințe semnificative în trecut. În 2023, o imagine falsă cu o explozie la Pentagon a provocat o scurtă agitație pe piețele financiare. De asemenea, la începutul conflictului Iran-Irak, o imagine satelitară modificată de AI, care prezenta o bază militară americană distrusă, a fost vizualizată de milioane de ori pe rețelele de socializare.

Mai multe organizații au solicitat Google să retragă această funcție, printre care și Centrul pentru Reziliență Informațională, un grup de investigație open-source cu sediul la Londra. Ross Burley, directorul executiv al centrului, a calificat introducerea funcției drept „iresponsabilă”, subliniind că „a fost nevoie de decenii pentru a construi” încrederea în Google Earth, iar o astfel de funcție ar fi putut eroda rapid această încredere. Instrumentul „creează imagine” nu mai este disponibil pe Google Earth, confirmând decizia companiei de a-l suspenda.