Băncile americane avertizează: promisiunile industriei AI aduc haos și o situație înfiorătoare

Anthropic, dezvoltatorul lui Claude, a prezentat pe 21 octombrie produsul Claude Duet

Industria tehnologică se află într-o fază de tranziție radicală, unde promisiunile despre agenți inteligenți se ciocnesc cu realitatea unor sisteme care încă nu sunt pregătite pentru această nouă formă de automatizare. În ultimele săptămâni, companiile mari din domeniul inteligenței artificiale au prezentat produse care depășesc simplele interfațe de chat. Nu mai este vorba doar despre obținerea unor răspunsuri la întrebări, ci despre delegarea activităților concrete către sisteme capabile să acționeze autonom. Aceste entități software pot acum naviga pe rețelele de calcul, operaționaliza aplicații terțe, efectua rezervări, procesa documente și derula proiecte complexe fără intervenția umană constantă.

Una dintre cele mai recente inovații vine de la Meta, care a lansat un agent personal numit Muse. Acest sistem funcționează ca un asistent virtual care preia sarcini pe care utilizatorul dorește să evite: trimiterea corespondenței electronice, rezervarea de cazări, achiziția de bilete, completarea formularilor sau gestionarea sarcinilor complexe prin împărțirea lor în etape. Muse dispune de un mediu de execuție dedicat, permițându-i să continue activitatea în fundal și să solicite aprobare doar când este necesară. Printre exemplele de utilizare se numără organizarea logisticii unei călătorii sau identificarea modalităților de a reduce costurile facturilor.

Google a răspuns cu Gemini Spark, alt agent personal capabil de procesare paralelă a mai multor activități simultan. Integrand-se cu aplicații precum Gmail, Calendar, Drive și Docs, utilizatorii pot cere acestui sistem să filtreze corespondența, să identifice mesaje care necesită răspuns urgent și să semnalizeze termenii care se apropie. Sistemul poate, de asemenea, reorganiza programul zilnic sau a actualiza documente cu informațiile colectate. Scopul este clar: utilizatorul nu mai trebuie să efectueze toate aceste operațiuni manual și secvențial, ci poate delega procesul întreg către agent.

La sfârșitul lunii septembrie, OpenAI a introdus Dots, o serie de agenți proiectați să lucreze la proiecte în timp ce utilizatorul se ocupă de alte aspecte. Acești agenți pot duce o sarcină de la inițiere până la finalizare, fără a necesita instrucțiuni la fiecare pas. Utilizatorul poate cere, de exemplu, o analiză a pieței pentru un proiect, adunând date din mai multe surse și redactând un document cu concluziile esențiale. Alternativ, pot monitoriza progresul unui proiect și a actualiza rapoartele pe măsură ce apar date noi. Utilizatorul nu trebuie să supravegheze procesul în mod continuu; verifică rezultatul final și solicită ajustări dacă este necesar.

Anthropic, dezvoltatorul lui Claude, a prezentat pe 21 octombrie produsul Claude Duet. Spre deosebire de alții, acest agent este conceput mai mult pentru sprijin profesional. Utilizatorii pot configura sistemul să verifice periodic aplicațiile folosite și să genereze dimineața un rezumat al elementelor importante. Funcțiile includ identificarea corespondenței care necesită răspuns, căutarea de intervale libere pentru ședințe și redactarea de rapoarte financiare pe baza datelor furnizate. Practic, funcționează ca un coleg virtual la care se poate delega o parte din sarcinile zilnice.

Tendința este evidentă: sectorul AI vrea să treacă la un nivel superior, unde interfațele de chat nu mai sunt suficiente. Inteligența artificială evoluează de la rolul de consultanți la cel de asistent virtual care preia activități. Această transformare impune oferirea accesului la corespondența electronică, documentele, conturile și aplicațiile. Dincolo de îngrijorarea legată de accesul pe care îl acordăm acestor agenți în viața personală, au apărut deja situații complicate care evidențiază nepregătirea noastră pentru valul de agenți AI.

Problema fundamentală este că, în cazul unui răspuns incorect din partea unui chatbot

Mai multe bănci americane, inclusiv Bank of America, JPMorgan și Wells Fargo, au început să limiteze accesul agenților AI la conturile clienților. În diverse cazuri, utilizatorii au furnizat datele de autentificare pentru ca agenții să efectueze operațiuni în locul lor, însă instituțiile financiare au detectat activități considerate suspecte. Unele sisteme păreau să execută acțiuni care depășeau instrucțiunile inițiale ale utilizatorilor. Dificultatea pentru bănci constă în imposibilitatea de a distinge între o cerere legitimă a clientului și o înțelegere greșită a sarcinii de către agent. De aceea, băncile optează pentru restricționarea accesului până când pot controla mai riguros activitățile desfășurate.

Mai multe surse din sectorul bancar au descris situația ca fiind înfiorătoare pentru publicația americană Axios. Temerea principală este că agenții AI vor obține acces la conturile clienților și vor putea lua măsuri cu impact direct asupra situației financiare a persoanelor. Un conflict similar a izbucnit și între Meta și Amazon. În luna septembrie, Amazon a blocat accesul agentului Muse la magazinul său online, după ce a acuzat Meta că nu a notificat compania că agentul va acționa pe site pentru a efectua cumpărături în numele utilizatorilor. Amazon a ridicat și întrebări legate de securitate și confidențialitate, subliniind că agentul nu se identifica ca sistem automat.

Problema fundamentală este că, în cazul unui răspuns incorect din partea unui chatbot, utilizatorul poate ignora eroarea. Însă când un agent efectuează o rezervare, trimite un email, cumpără un produs sau accesează un cont bancar, greșeala poate genera consecințe concrete și ireversibile. În aceste situații, răspunderea devine ambiguă: este utilizatorul care a acordat accesul, compania dezvoltatoare a agentului sau platforma pe care a acționat sistemul?

Industria AI încearcă să convingă utilizatorii să încredințeze agenților niveluri tot mai mari de autonomie, înainte ca limitele și răspunderea să fie definite cu claritate. Nu este evident că societatea este pregătita pentru o realitate în care agenții AI navighează pe rețelele de calcul în locul omenilor. Internetul nu a fost conceput pentru acești agenți: magazinele online aplică filtre anti-bot, băncile limită accesul la conturi, iar anumite site-uri nu funcționează corect atunci când sunt accease de sisteme automate. În plus, utilizarea agenților pentru rezervări sau achiziții duce frecvent la blocaje și erori, chiar pe platforme care nu au interzis explicit accesul lor.

Chiar și în cazurile în care accesul este permis, experiența utilizatorilor nu este întotdeauna satisfăcătoare. Într-un test publicat de The Verge, un jurnalist a încercat să utilizeze Muse pentru a identifica cele mai bune prețuri, dar sistemul a recomandat un magazin care nu efectua livrări la adresa sa și nu a putut verifica dacă Amazon oferea condiții mai avantajoase, din cauza lipsei de acces la site. În alte încercări, agentul a fost blocat de mecanismele de securitate ale unui magazin online, deși puțin timp înainte reușise să acceseze platforma.

Agenții AI pot contribui la economisirea timpului și preia sarcinilor repetitive, însă aceasta nu înseamnă că trebuie să li se acorde acces la toate conturile și să li se permită acționarea în numele utilizatorilor înainte de a înțelege complet capacitatea lor de performanță. Deocamdată, observăm o industrie care promite eliminarea grijiilor, dar care se confruntă încă cu probleme structurale: agenții nu înțeleg întotdeauna intenția utilizatorilor, unele site-uri nu sunt adaptate la interacțiunea cu ei și răspunderea pentru erori rămâne neclară. Descoperă instrumente, idei și tendințe din tehnologie care îți fac viața mai simplă și mai eficientă. Felicitări! Te-ai abonat la Good Tech. Apasă pe linkul din email pentru a primi edițiile.