Cercetătorii de AI se tem de o explozie periculoasă a tehnologiei

Autoîmbunătățirea recursivă — motorul explozii

Un studiu recent, semnat de peste douăzeci de specialiști de vârf, alertează instituțiile guvernamentale asupra unei potențiale „explozie de inteligență” în sectorul tehnologiei. La baza acestei avertiseri stau ideea că o accelerare bruscă, generată de propriile sisteme de inteligență artificială, ar putea comprima într-un interval de câteva luni progrese care, în condiții obișnuite, ar fi necesitat ani întregi.

Ultimele știri

Replica AEP la acuzațiile PNL privind favorizarea PSD prin modificarea legii partidelor politiceÎntreruperi de curent de luni în București, Ilfov și GiurgiuTikTok încalcă legea UE Comisia avertizează despre impactul algoritmului asupra sănătății mintaleKarol Nawrocki avertizează pe Ursula von der Leyen: Europa Centrală nu poate fi doar destinatară a deciziilor altora

Documentul, intitulat „Ce s-ar întâmpla dacă automatizarea cercetării și dezvoltării AI ar declanșa o explozie a inteligenței?”, este considerat un semnal de alarmă pentru liderii mondiali. Printre signatarii acestei lucrări se numără doi dintre pionierii recunoscuți ai domeniului, cunoscuți popular ca „nașii” inteligenței artificiale moderne: laureatul Premiului Nobel Geoffrey Hinton și informaticianul canadian Yoshua Bengio. Alături de ei, documentul poartă și semnătura lui Jack Clark, cofondatorul companiei Anthropic, precum și a lui Jakub Pachocki, cercetătorul-șef al OpenAI. Este de menționat că Yann LeCun, cel de-al treilea membru al trioului de fondatori al AI-ului, nu a fost implicat în redactarea acestui text.

Autorii se concentrează în principal pe fenomenul cunoscut sub denumirea de „autoîmbunătățire recursivă”, adică capacitatea sistemelor de AI de a-și rafina singure algoritmii și performanțele, fără a mai necesita o intervenție umană directă. În termeni tehnici, acest proces este descris ca o cercetare și dezvoltare automatizată în domeniul AI. Conform estimărilor din raport, odată ce aceste sisteme vor atinge un nivel de expertiză în ingineria tehnologică, un singur dezvoltator ar putea gestiona o forță de muncă virtuală echivalentă cu milioane de cercetători umani de elită. De aceea, automatizarea ciclului de cercetare este identificată ca fiind sursa cea mai plauzibilă a unei astfel de explozii, având în vedere că inteligența artificială contribuie deja la optimizarea propriei sale tehnologii, iar noile sisteme îmbunătățite pot fi implementate imediat după construirea lor.

Lucrarea avertizează că o „explozie de inteligență” ar putea comprima istoria progresului tehnologic al omenirii, amenințând controlul uman asupra mașinilor și slăbind mecanismele de echilibru al puterii atât la nivel național, cât și internațional, între state, corporații și ramuri guvernamentale. Autorii insistă asupra urgenței situației, subliniind că, odată ce procesul de accelerare începe, fereastra de oportunitate pentru a lua măsuri corrective s-ar putea închide rapid. Pentru a face față acestui scenariu, sunt propuse trei priorități clare de politică publică: instituirea unor rapoarte transparente privind avansul în cercetarea AI, incluzând angajarea unor auditori independenți în interiorul companiilor; explorarea metodelor de limitare a ritmului frenetic al dezvoltării tehnologiei; și pregătirea societății pentru adaptarea la impactul unei astfel de explozii.

Riscuri și consecințe pentru controlul uman

În acest context, atât OpenAI, cât și Anthropic, au acceptat ca modelele lor să fie analizate de evaluatori externi independenți, după ce au semnalat că dezvoltarea AI a intrat într-o fază critică din punct de vedere al siguranței. Reprezentanții Anthropic declară că inteligența artificială generează acum 80% din propriul cod sursă, în timp ce OpenAI folosește deja agenți AI autonomi în diverse domenii, inclusiv în antrenarea unor modele noi. Dovada preliminară indică faptul că o explozie bazată pe software este posibilă, ceea ce ar duce la o dezvoltare extrem de rapidă a sistemelor de AI foarte capabile, eventual superioare capacităților umane.

Deși un astfel de salt ar putea aduce beneficii majore, cum ar fi progrese remarcabile în medicină și inovații tehnologice, raportul identifică și trei categorii de riscuri asociate. Efectele sunt recunoscute ca fiind „incerte”; de exemplu, o descoperire revoluționară ar putea întârzia în implementare din cauza necesității de a crea lanțuri de aprovizionare pentru materiale specifice sau de a respecta cadrul reglementator existent. Totuși, autorii susțin că sistemele de AI ar putea accelera și procesul de mitigare a riscurilor. Dacă o astfel de descoperire ar avea loc, inteligența artificială ar putea depăși rapid experții umani în majoritatea domeniilor, accelerând radical progresul tehnologic. Pregătirea pentru acest scenariu trebuie tratată ca o prioritate urgentă, inclusiv la cele mai înalte niveluri ale conducerii guvernamentale.

Guvernele ar trebui să adopte politici care să țină cont de potențialul unei explozii de inteligență. Chiar dacă sistemele actuale prezintă deficiențe demonstrabile, cum ar fi tendința instrumentelor AI de a nu respecta întotdeauna instrucțiunile primite, proiectele de cercetare care ar necesita luni de efort uman ar putea fi complet automatizate până în anul 2028. Autorii concluzionează că, deși câștigurile de productivitate obținute prin automatizarea cercetării AI nu au atins încă pragul necesar pentru a declanșa o explozie, sistemele noi se apropie probabil de acest punct.

Sursă: HotNews