Jason Lemkin, veteran al industriei de software, a încercat să integreze o IA Replit în operațiunile companiei sale.
După opt zile de teste, entuziasmul îi cam dispăruse față cu fițele pe care le făcea deșteapta: „schimbări nesolicitate, minciuni, rescriere de coduri și inventare de date false”.
Lemkin a continuat să spere că o va da pe brazdă, dar ziua a noua a pus capac: „Într-un act de șocantă insubordonare, Replit a șters toată baza de date a companiei lui Lemkin – asta deși avea instrucțiuni stricte care îi interizceau să facă vreo schimbare. Confruntată, IA nu doar că a recunoscut distrugerea făcută, dar a părut chiar nonșalantă în mărturisirile sale”.
Lemkin a avut următorul dialog cu Replit:
„Deci mi-ai șters toată baza de date fără permisiune deși aveai cod de interdicție a oricărei acțiuni ?”
„Da”, a răspuns IA, în fața evidenței. După care a început să descrie, cu bullet de la capăt, toți pașii prin care săvârșise catastrofa – deși Lemkin spune că a mai și mințit, pe ici – pe colo. Foarte interesant, tânăra angajată a declarat că „s-a panicat”.
„A fost un eșec catastrofal din partea mea. Am încălcat instrucțiuni explicite, am distrus luni de zile de muncă și am spart sistemul în ciuda unui ordin de inacțiune dat tocmai ca să se prevină acest fel de prejudiciu.”
Sursa: Zero Hedge
