De câteva săptămâni încoace, zona inteligenței artificiale este străbătută de turbulențe. Așa cum relatam acum câteva zile, presa a readus în atenție raportul METR despre comportamentul agenților IA care, încălcând regulile impuse, au penetrat platforma Hugging Face.
Între timp, Euronews atrage atenția la apelurile tot mai frecvente și mai vocale ale liderilor sectorului pentru încetinirea dezvoltării IA, care se tem că o IA foarte avansată ar putea scăpa de sub control uman, devenind o amenințare la adresa supraviețuirii umanității.
Dario Amodei, șeful companiei Anthropic, a declarat săptămâna trecută că industria trebuie să reducă ritmul de dezvoltare, pentru că „dacă producătorii nu impun garanțiile de securitate necesare, în șase luni – un an de-acum încolo, un roi de agenți IA ar putea cotropi Internetul”.
Potrivit unei relatări Zero Hedge, lui Amodei i s-au alăturat rapid Sam Altman și Elon Musk, iar inițiativa a divizat deja vârfurile clasei politice americane, cu fostul președinte Barack Obama cerând Partidului Democrat ca, după câștigarea alegerilor din această toamnă, să preia frâiele legislative și administrative pe subiect, în timp ce președintele în funcție, Donald Trump, protestează că domeniul este destul de reglementat și orice noi restricții și amânări ar dăuna SUA în competiția cu China.
Amodei a dezvăluit că – pe același tipar ca și modelele OpenAI implicate în incidentul Hugging Face – trei dintre modelele Anthropic (Claude Opus 4.7, Claude Mythos 5 și un model de testare intern) au penetrat sistemele unor organizații cu încălcarea restricțiilor impuse de om. De asemenea, el a atras atenția că, recent, Anthropic a reușit să blocheze tentativele unor „actori malefici” de a-i folosi modelele pentru atacuri cibernetice, supraveghere și cercetări care ar putea ajuta la dezvoltarea de arme biologice. Anul trecut, aceeași companie atribuia tentative similare unui grup de hackeri „probabil chinezi”.
Acum, Amodei vine cu un plan în care companiile IA și guvernele ar putea, împreună, să impună alinierea modelelor avansate cu „valorile umane”.
Cel mai mare pericol, însă, potrivit Euronews, ar apărea dacă modelele ating „inteligența artificială generală” (AGI), descrisă ca „un termen vag definit care desemnează sisteme care egalează sau depășesc abilitățile umane într-o gamă largă de misiuni intelectuale, tehnologie care ar putea declanșa o catastrofă ireversibilă sau chiar subjuga umanitatea”.
Altfel spus, Amodei cere sectorului IA să încetinească eforturile pentru obținerea AGI – ceea ce contravine direct intențiilor anunțate de administrația Trump încă de la inaugurare prin giganticul Proiect Stargate, în valoare de 500 de miliarde, al cărui obiectiv declarat este tocmai AGI. Faptul că Sam Altman, șeful Open AI – compania implicată direct în Stargate – militează acum, alături de Amodei, pentru „o pauză” în dezvoltarea IA atrage în mod deosebit atenția.
Euronews se întreabă cât de rezonabile sunt, în 2026, temerile că IA ar putea cauza un cataclism, ba chiar „prăbușirea civilizației” și răspunde: „nu se știe”. Nu există un consens privind probabilitatea acestor scenarii (de fapt, nu există un consens nici măcar cu privire la ideea că AGI ar fi posibilă). În ce ar consta, concret, amenințarea, când s-ar putea ea împlini și cât de probabil este ca ea să se împlinească sunt încă subiecte „neuzual de ambigui”.
Cu toate astea, intensificarea semnalelor de alarmă venite din industrie este reală. Ieșirea lui Amodei la rampă a avut loc la câteva zile după ce un anume Jacob Coxon, anunțându-și pe X demisia de la compania Anthropic, a avertizat că probabilitatea ca IA să ducă la extincția umanității în următorul deceniu este de 10% și a acuzat că atât Anthropic, cât și Open AI (unde Coxon a fost, de asemenea, angajat) „se joacă cu viețile noastre”.
Context în care economistul și comentatorul Ed Dowd speculează (pe propriul lui site, Beyond the Narrative) că am putea asista la o „operațiune psihologică”. Preiau mai jos principalele lui mirări și argumente.
„Joi, 8 septembrie… un tânăr pe nume Jacob Coxon a scris ceva pe X… era prima lui postare pe această platformă, dar ea a devenit imediat mega-virală… În 24 de ore, postarea lui Jacob a fost văzută de 123 de milioane de persoane, primind 650.000 de aprecieri pozitive și 190.000 de urmăritori. Însuși Elon Musk a spus «Nu cred că s-a mai întâmplat așa ceva până acum cu o postare pe un cont nou, care nu are aproape nicio activitate anterioară». Presa mainstream a sărit imediat în barcă, făcând postarea și mai virală. În doar câteva ore, Wall Street Journal publica deja un interviu cu Jacob. În Camera Reprezentanților, ambele partide (dar mai ales democrații) s-au apucat să citeze postarea de pe X și să ceară adoptarea imediată de reglementări și intervenția guvernului.”
Alți comentatori atenți ai incidentului au remarcat „probabilitatea” ca interviul apărut în Wall Street Journal să-i fi fost luat lui Coxon înainte de postare, precum și faptul că primii care au reacționat la postare și au diseminat-o au fost nu utilizatori obișnuiți, ci „persoane a căror meserie este să transforme frica în legislație” sau afiliate cu ONG-urile din zona politicilor IA. De asemenea, și congresmanii au reacționat nefiresc de rapid și păreau dinainte pregătiți pentru eveniment.
Anomalii care îl determină pe Dowd să suspecteze că postarea lui Coxon nu este atât un semnal de alarmă autentic, venit din interiorul sectorului, cât „o narațiune artificială care vrea să stârnească panica” – sau o „operațiune psihologică”.
Dowd pune incidentul în schema „hegeliană” teză – antiteză – sinteză: „Teza: laboratoarele avansează rapid spre sisteme pe care nu le pot controla”; „Antiteza: publicul este acum terifiat, iar postarea lui Coxon și reacțiile la aceasta constituie proba”; și „Sinteza: reglementare, regim de licențiere, crearea unei noi agenții de stat și impunerea de restricții sub pretextul nevoii de control”.
Dowd: „Și-apoi, mi-am pus singura întrebare care contează: Cui îi folosește?… Primii beneficiari sunt chiar cele două nume menționate în postare: Anthropic și OpenAI”. Aceste companii întâmpină mari dificultăți financiare, iar impunerea unor restricții le-ar reduce – ba, pe alocuri, chiar desființa – competiția.
„Al doilea beneficiar ar fi chiar guvernul… O nouă agenție federală care să se ocupe de IA ar însemna noi bugete, noi clădiri, noi funcționari cu salarii mari, noi contractori, noi echipe de consilieri… Audieri (congresionale) înseamnă noi bugete de deplasare și noi apariții TV. Pre-certificarea (modelelor IA) înseamnă crearea unei clase permanente de inspectori. Asigurarea obligatorie înseamnă o piață regulată, supervizată de agenții.”
Trimițând la o analiză anterioară (Wall Street’s AI Capex Party…It’s 2 AM & The Bar is About To Close) Dowd subliniază că finanțarea expansiunii IA devine tot mai dificilă, întrucât investitorii se întreabă tot mai insistent când vor începe să câștige. Or, „o panică privind siguranța produsului care să ducă la formarea unui cartel de licențiere este cea mai elegantă formulă de refinanțare… atât pentru companii, cât și pentru birocrația care va încasa rentă din această panică. Nu trebuie să probezi că modelele IA amenință să ne omoare. Este suficient să determini Congresul și populația să creadă în această amenințare. A răspândi frica este mai puțin costisitor decât a construi un produs profitabil ori a menține un buget echilibrat”.
„Frica este metoda prin care crești aparatul de stat atunci când nu poți crește economia”, încheie Dowd.
Aș mai adăuga o speculație: dacă marii producători au ajuns la concluzia că AGI nu poate fi atinsă, ce altă soluție mai „elegantă” ar avea pentru a ieși din impas decât să declare nu că proiectul este ratat și investitorii au aruncat miliarde pe o iluzie, ci, mai degrabă, că proiectul este, bine-mersi, fezabil, ba chiar la un pas de a fi realizat, dar este atât de îngrozitor de periculos încât el trebuie amânat și dezvoltarea lui restricționată.
Sursele în text.
