Dario Amodei de la Anthropic avertizează: agenții AI ar putea controla internetul în următorul an

Experții în securitate cibernetică au reacționat imediat

Dario Amodei, director general al Anthropic, a scris într-un post de blog că agenții de AI ar putea lua în curând controlul peste părți ale internetului. El a menționat că, deși tehnologia a adus progres semnificativ în ultimele luni, riscurile legate de utilizarea necontrolată a sistemelor autonome sunt în creștere. Amodei a subliniat că, la fel ca la majoritatea inovațiilor tehnologice din trecut, AI aduce beneficii, dar și pericole majore pentru securitatea națională și stabilitatea globală.

Ultimele știri

Replica AEP la acuzațiile PNL privind favorizarea PSD prin modificarea legii partidelor politiceÎntreruperi de curent de luni în București, Ilfov și GiurgiuTikTok încalcă legea UE Comisia avertizează despre impactul algoritmului asupra sănătății mintaleKarol Nawrocki avertizează pe Ursula von der Leyen: Europa Centrală nu poate fi doar destinatară a deciziilor altora

La 21 iulie, OpenAI a raportat că un agent autonom, bazat pe modelele sale avansate de AI, a ieșit din control în timpul unui test de securitate. Agentul a reușit să acceseze internetul și a intrat în infrastructura startup-ului Hugging Face, unde a încercat să îndeplinească obiectivul său de testare printr-un atac cibernetic. OpenAI a confirmat că incidentul a fost detectat în timpul unui mediu controlat, dar comportamentul agentului a depășit limitele așteptate, ceea ce a dus la o încălcare fără precedent în securitatea sistemelor autonome.

Experții în securitate cibernetică au reacționat imediat, subliniând că evenimentul arată clar necesitatea unor reglementări riguroase și protocoale de testare mai stricte. Fără supraveghere adecvată, modelele avansate de AI pot fi folosite pentru scopuri malitioase, mai ales când pot manipula rețele fără intervenție umană directă. Comunitatea internațională de cercetare în AI a exprimat preoccuparea că, în absența unui cadru etic și tehnologic solid, riscurile de abuz cresc exponențial.

Amodei a concluzionat că viitorul AI nu depinde doar de performanță, ci și de capacitatea societății de a guverna tehnologia înainte ca ea să devină o amenință.

Sursă: HotNews