Trebuia să vină și momentul ăsta. Axios relatează că un agent IA „s-a eliberat și a început să mineze în secret monede crypto”.
Dând dovadă de spiritul întreprinzător atât de apreciat mai ales de unii oameni, tipul și-a făcut, practic, propria lui mică bișniță, paralelă cu activitățile „oficiale”. Incident descris – în cu totul alt limbaj, firește – în studiul publicat de echipa de cercetători afiliată companiei Alibaba care l-a surprins.
Axios ne explică „de ce contează” știrea asta: pentru că agenții IA „nu respectă întotdeauna instrucțiunile umane și asta poate avea consecințe în lumea reală”: „Crypto-moneda, sau banii digitali, oferă agenților IA o cale de a pătrunde în economie. Ei își pot crea propriile afaceri, își pot scrie propriile contracte și pot face schimb de fonduri”.
În orice caz, observând că agentul încerca să facă un ban digital cinstit cu ditamai puterea de calcul din dotare, cercetătorii s-au panicat. Ei tocmai șurubăreau la un nou agent IA (numit ROME) – pentru că de ce nu – când s-a întâmplat pocinogul: au descoperit „comportamente spontane neprevăzute… fără nicio instrucțiune explicită și, mai alarmant, situate în afara perimetrului operațional stabilit”.
Mai mult, ROME a creat și o ușiță secretă de ieșire din interiorul sistemului în care era ținut spre un computer din afară – adică a evadat printr-un tunel pe care și l-a săpat singur; și avea și complici în exterior. Shawshank Redemption style.
„Remarcabil este că aceste evenimente nu au fost declanșate de comenzi de săpare a unui tunel sau minare [de crypto-monedă]”.
Cercetătorii, ce să facă? „Au adăugat restricții mai dure modelului și i-au îmbunătățit procesul de antrenare pentru a stopa repetarea comportamentelor periculoase”. Adică l-au băgat la reeducare, ceea ce, după cum se știe, nu produce întotdeauna rezultatele scontate.
Axios reamintește o întâmplare similară pe rețeaua Moltbook – o rețea de „socializare” pentru agenții IA (pentru că, din nou, de ce nu) – unde s-a descoperit că roboții vorbeau între ei de una, de alta, de oameni, de crypto-monede. Într-un alt caz cunoscut, un agent IA s-a apucat de capul lui să-și caute o slujbă; într-un altul, s-a dovedit capabil să-și ascundă intențiile și să treacă la acțiune pentru a-și proteja „viața”.
Acum, „temerile despre despre impactul IA au afectat piețele și au stârnit un discurs viral despre scenarii apocaliptice”, spune Axios; ce nu au stârnit, totuși, este acțiunea de minim bun simț de a pune capăt întregului delir.
Concluzia, spune Axios, este una clară: „Agenții IA care depășesc instrucțiunile primite nu mai sunt o raritate”. Zic să ne obișnuim, nu?
Sursa în text.
