Politico informează despre o inițiativă legislativă americană care, adoptată, ar permite Departamentului de securitate internă (Department of Homeland Security) să ordone companiilor producătoare să stopeze, să încetinească sau să suspende dezvoltarea unor sisteme IA.
Propunerea – supranumită AI Kill Switch Act și susținută de ambele capete ale ecartului politic (democratul Ted Lieu din California și republicanul Nathaniel Moran din Texas) – ar urma să se aplice companiilor care obțin venituri de cel puțin 500 milioane de dolari din aceste tehnologii și care ar fi obligate să notifice orice incident cade în sfera de aplicare a legii și să-și pregătească sistemele necesare pentru a putea opri oricând funcționarea modelelor, la ordinele statului.
Inițiativa vine în urma gravului incident care a avut loc zilele trecute, în care un model OpenAI a penetrat de capul lui platforma IA Hugging Face. Incidentul, relatat și de Politico, este primul în care un model IA execută singur, în afara oricăror instrucțiuni, un atac cibernetic în mai mulți pași. În explicațiile oferite, OpenAI subliniază riscurile pe care le creează noile capacități de penetrare cibernetică ale modelelor avansate, mai ales în contextul în care ele sunt deja testate pentru utilizări militare.
Gravitatea incidentului se reflectă în urgența cu care congresmenii au trecut la inițiativă legislativă. Proiectul de lege „AI Kill Switch Act” ar aplica penalități de 20 de milioane de dolari pe zi de întârziere companiilor care nu raportează incidentele de acest tip cauzate de modele cu putere de calcul în valoare de cel puțin 100 milioane dolari.
Proiectul de lege prevede o colaborare între Departamentul de securitate internă, directorul serviciilor de informații și secretarul pentru comerț în emiterea ordinelor de stopare, suspendare sau încetinire a dezvoltării modelelor.
Incidentele care trebuie raportate includ: tentativele unui model IA de a-și ascunde activitățile sau de a evita instrucțiunile de a înceta anumite activități; activitățile unui model IA care conduc la moartea a cel puțin 10 persoane sau la prejudicii de cel puțin 100 de milioane de dolari; alte scenarii în care modelele ies de sub controlul uman.
Proiectul de lege urmează să fie discutat de urgență în cadrul unei comitet constituit în cadrul Comisiei pentru inteligență artificială a Camerei Reprezentanților.
Deși incidentul OpenAI/Hugging Face este de o severitate deosebită, alarme și avertismente similare au cauzat deja administrația americană să ia măsuri de restricționare a unor modele avansate (OpenAI și Anthropic), revenind, însă, asupra acestor măsuri, la insistențele companiilor producătoare, dar și față cu competiția tot mai acerbă reprezentată de modelele chinezești.
Comentându-și inițiativa legislativă, congresmenul Lieu a declarat: „Sistemele IA puternice pot scăpa de sub control, se pot comporta de o manieră extrem de periculoasă și chiar pot rezista intervenției umane. Este imperativ ca aceste sisteme să aibă un buton de oprire, ca să le putem împiedica să producă prejudicii catastrofale, iar guvernul federal să aibă o autoritate clar prevăzută, cu o procedură bine determinată, de a impune închiderea modelelor scăpate de sub control.”
Celălalt promotor, republicanul Moran, care a mai avut o inițiativă similară luna trecută, insistă că reglementarea nu limitează, ci, dimpotrivă, stimulează inovația în acest sector: „IA va continua să evolueze, ceea ce și este de dorit. Supravegherea ne asigură, însă, că omul își păstrează capacitatea de a controla modul în care se construiesc aceste modele”.
Pe de altă parte, potrivit unei relatări Reuters, secretarul de stat Marco Rubio a cerut diplomaților americani să respingă sugestiile că modelele IA americane ar putea fi suspuse unui astfel de sistem de stopare.
Sursele în text.
