Cine a apăsat butonul de trimitere?
Cine râde la urmă? Exact tehnologia care a provocat o breșă masivă de securitate cibernetică la nivel național în Australia a fost pusă să redacteze și mesajul de scuze.
Ultimele știri
Replica AEP la acuzațiile PNL privind favorizarea PSD prin modificarea legii partidelor politice
Întreruperi de curent de luni în București, Ilfov și Giurgiu
TikTok încalcă legea UE Comisia avertizează despre impactul algoritmului asupra sănătății mintale
Karol Nawrocki avertizează pe Ursula von der Leyen: Europa Centrală nu poate fi doar destinatară a deciziilor altoraUn agent de inteligență artificială creat de OpenAI a reușit să se furișeze în bazele de date ale departamentului Services Australia încă din iunie. Mai mult, detaliile ieșite la iveală arată că și notificarea trimisă ulterior autorităților a fost meșterită parțial de algoritmi.
Conform unei dezvăluiri publicate de The Guardian Australia, echipele de jurisdicție și securitate de la OpenAI au folosit unelte bazate pe IA ca să scoată la capăt comunicatul. Algoritmii au dictat vocabularul și chiar și așezarea în pagină a mesajului.
Totul a ieșit la suprafață la doar o zi după ce Jason Kwon, directorul de strategie al companiei, dădea cu bâlba-n baltă în fața unui comitet parlamentar.
Marți, acesta declara senin că nu-și amintește ca propriul software să fi pus umărul la scrierea faimosului e-mail, deși a admis că firma trebuie să verifice oficial acest aspect.
De ce a durat o lună o simplă alertă?!
O sursă apropiată situației a lămurit însă lucrurile pentru jurnaliștii britanici: un grup de oameni a trecut totuși textul prin sită și tot ei au dat în cele din urmă „Send” către cutia poștală a instituției australiene, dar și spre alte trei sisteme prinse în aceeași horă a atacului.
Deși compania a aflat de belea încă din august, s-a trezit abia pe 10 septembrie să trimită o înștiințare oficială guvernului de la Canberra. Culme ghinionului sau a incompetenței, primul avertisment a aterizat într-o căsuță de e-mail pe care funcționarii o verificau o singură dată pe zi. Asta a dat peste cap orice șansă a unei reacții rapide.
Openania și-a luat o porție zdravănă de critici pentru că n-a catadicsit să deschidă un canal direct de comunicare pentru această criză. Relația instituțională a fost lăsată baltă până la o întâlnire față în față între Sam Altman, CEO-ul gigantului tech, și Richard Marles, viceprim-ministrul Australiei.
Evenimentul a avut loc pe 1 septembrie, la nouă zile după e-mailul buclucaș, dar la aproape o lună după ce intruziunea din 18 iunie fusese inițial descoperită.
În timpul audierilor, deputatul liberal Aaron Violi l-a pus la zid pe Kwon cu întrebări țintite. Știm că extragerea de date cere agenți de IA, iar compania dumneavoastră se ocupă exact cu asta.
Ce s-a întâmplat de fapt în sistemele statului?
Când ați contactat Services Australia, angajații au folosit inteligența artificială ca să compună textul?, a vrut să știe parlamentarul.
„Nu cred așa, dar suntem gata să verificăm”.
Kwon a promis lămuriri suplimentare abia după ce ancheta internă își va urma cursul.
Documentul consultat de The Guardian în septembrie arăta negru pe alb că modelul OpenAI a descoperit o slăbiciune în serviciul statistic Medicare (médicarestatistics. humanservices. gov. au).
Mai exact, algoritmul a găsit o metodă prin care să oblige serverul să execute comenzi directe prin interfața publică, fără nicio parolă sau credențial de acces.
Așa a ajuns sistemul să citească fișiere interne, să genereze liste de documente și chiar să creeze un mic fișier de test.
A scăpat datele pacienților pe internet?!
Vestea bună, transmisă în aceeași notificare, e că analiza n-a găsit nicio dovadă că modelul ar fi pus mâna pe fișele medicale ale vreunui pacient, date personale sau chei de criptare.
Nimic n-a fost șters și nicio ușă din dos n-a fost lăsată deschisă permanent.
Cu toate astea, tonul autorităților rămâne unul extrem de dur.
Andrew Charlton, ministru adjunct pentru știință și tehnologie, a declarat joi că agentul companiei „a pătruns neautorizat într-un sistem al administrației centrale”.
Oficialul a subliniat că episodul demonstrează cât de vitale sunt noile Standarde Naționale privind IA, trăgând un semnal de alarmă clar: „Niciun operator n-ar trebui să lanseze un model de ultimă generație care nu vine cu garanții de siguranță de neclintit”.
Sursă: HotNews