Turbulențele în sectorul IA continuă să facă primă pagină. Potrivit unei relatări Zero Hedge, trei agenții federale americane din domeniul informațiilor și securității cibernetice (Cybersecurity and Infrastructure Security Agency – CISA, National Security Agency – NSA și FBI) au acuzat mai multe companii chineze că au copiat cu rea credință modele IA americane.
Într-o declarație comună, agențiile americane acuză firmele DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun și Z.AI că, începând cel mai târziu spre finalul anului 2024 și, „probabil, cu știrea guvernului chinez”, au desfășurat campanii de distilare a modelelor americane de avangardă (diferitele versiuni ale modelelor Claude, GPT, Gemini și Grock), extrăgând „miliarde de tokens din milioane de cereri”.
Deși distilarea cunoașterii este o formă admisă de cercetare prin care modelele IA mai mici învață din produsul modelelor mai mari, agențiile americane susțin că firmele chineze au desfășurat „activități de distilare agresive, țintite și malițioase la scară industrială” prin diverse metode care le-au permis să-și acopere urmele.
Directorul CISA a îndemnat companiile IA din SUA „să ia imediat măsuri de protejare a propriilor platforme de campanii de distilare a cunoașterii care amenință să reducă distanța față de progresele înregistrate de companiile americane”.
Asia Times relatează că autoritățile chineze au respins acuzațiile, spunând că distilarea este o metodă practicată de toate companiile IA și că Washingtonul folosește securitatea națională ca pretext pentru a-și asigura dominația și a crea un „monopol industrial”. Mai mulți oficiali chinezi au afirmat că și SUA a extras din plin din modelele open-source chineze și că Beijingul va lua contramăsuri ferme dacă Washingtonul se folosește de distilare ca pretext pentru a restricționa companiile chineze.
Un expert chinez în domeniu, profesor la Universitatea Fudan, a declarat că, dacă firmele chineze pot construi modele de capacitate similară cu cele americane prin dezvoltare open-source și optimizare, SUA nu-și va putea păstra avantajul numai prin controlul cipurilor. Firmele chineze se mândresc cu modele distilate la preț redus și declară că scopul lor nu este acela de a dezvolta modele mari, ci de a aplica IA la scară largă în industrii pentru a genera creștere economică și modernizare.
Disputa intervine pe fondul intensificării competiției dintre SUA și China în domeniul IA și cu numai câteva săptămâni înainte de discuțiile sino-americane pe subiect programate în marja întâlnirii dintre președinții Trump și Xi care va avea loc la Washington pe 24 septembrie. Secretarul Trezoreriei americane, Steve Bessent, care urmează să facă parte din delegația americană la discuții, a declarat săptămâna trecută că „Dacă China câștigă această cursă, nu mai există un viitor. Dacă ne-o iau înainte în domeniul IA, altceva nu mai contează”.
Asia Times atrage atenția la un aspect mai puțin discutat al documentului emis de cele trei agenții federale: ele recomandă companiilor americane să alimenteze clandestin modelele chineze suspectate a fi „copii de rea credință” cu informații de proastă calitate: „să modifice sau restricționeze răspunsurile date unor conturi de utilizator suspectate a face parte din campanii de distilare”.
Măsurile de sabotare a campaniilor de distilare ar putea cuprinde „modificări ale răspunsurilor” la cererile de informații adresate IA de conturi considerate suspecte; utilizarea unor modele mai puțin sofisticate pentru a răspunde unor astfel de cereri; „reducerea capacității de raționare, prezentarea unor in formații corecte dar bazate pe alt raționament ori cu nepotriviri stilistice care pot trece neobservate dar fac răspunsul mai puțin util pentru instruirea IA”.
În termenii Asia Times, utilizatorii suspecți vor primi „fără să știe date eronate sau halucinații IA”, ceea ce, având în vedere că „distilarea este o metodă tehnică folosită pe scară largă la nivel global”, ar putea crea riscuri pentru întreaga industrie IA.
În acest context, recenta inițiativă a liderilor americani ai sectorului, Dario Amodei, Sam Altman și Elon Musk, de a temporiza dezvoltarea IA din rațiuni de securitate naște îngrijorarea că, dacă această propunere devine realitate, SUA își poate pierde avantajul în cursa IA.
O analiză semnată de Noah Smith și publicată tot în Asia Times arată că singura metodă de a determina companiile chineze să adopte un ritm mai lent de dezvoltare, în linie cu cele americane, este „să sperii conducerea Chinei cu superinteligența”: „Liderii chinezi trebuie să realizeze că disidenții interni ar putea folosi superinteligența creată de companii chineze pentru a dărâma Partidul Comunist Chinez de la putere”.
„În acest moment, temerile Chinei apropo de IA se centrează mai mult pe modalități pe care SUA le-ar putea folosi pentru a ataca China, ceea ce, desigur, dă guvernului motive să accelereze dezvoltarea IA pe plan intern, creând modele capabile să stea în fața celor americane în cazul unei confruntări. Dar, dacă liderii chinezi realizează că o IA superinteligentă ar putea crea amenințări din interior, acest calcul s-ar schimba… Cea mai bună demonstrație în acest sens ar fi ca agențiile americane de informații – sau chiar hackeri privați – să atace infrastructura digitală a Chinei folosind roiuri de agenți creați chiar în interiorul modelelor de frontieră chineze, cum ar fi GLM-5.3, produs de Z.AI, sau Kimi K3, produs de Moonshot”.
Autorul subliniază că, prin „atacuri”, nu se referă la „război (cibernetic) propriu-zis”, ci la „tipul de atacuri cibernetice și furturi de date pe care China le comite zi de zi împotriva Americii”: „Dacă CIA sau vreo organizație non-profit din Berkeley se folosește de (modele chinezești) pentru a ataca Partidul Comunist Chinez, atunci… Xi Jinping și restul conducerii vor realiza că propriul lor efort de a atinge superinteligența îi face extrem de vulnerabili la orice disident chinez care decide să-i dea jos de la putere… Și atunci, măsura pe care o vor lua, probabil, va fi aceea de a reduce ritmul dezvoltării superinteligenței, mai ales știind că America și laboratoarele IA americane fac același lucru”.
Coincidență sau nu, potrivit unei relatări South China Morning Post, șeful serviciilor secrete chineze, Chen Yixin, a avertizat, în tot acest context, că „IA poate avea un impact sistemic asupra securității ideologice”, putând fi utilizată de „forțe ostile pentru a genera zvonuri și a produce informație dăunătoare la nivel de masă”.
Condiții în care summit-ul de pe 24 septembrie de la Washington – dacă va avea loc – se anunță foarte intens.
Sursele în text.
