Pitici pe creierul artificial

Tech Explore raportează că ChatGPT are o obsesie pentru goblins – spiriduși diavolești, drăcușori, numiți-i cum vreți, personaje care apar – sub diverse denumiri („goblin”, în particular, în limba engleză) în mituri, legende populare, basme și romane fantasy.

Fenomenul a fost remarcat începând cu noiembrie trecut, când ChatGPT a început să facă aluzii constante la aceste entități de dorit fictive în contexte care nu aveau de-a face cu niciun goblin. Intensitatea obsesiei a fost destul de mare (o creștere cu 175% a trimiterilor la acest soi de draci) încât să determine OpenAI să cerceteze subiectul și să ofere clarificări pentru ca, ulterior, să ia măsuri de exorcizare.

Fenomenul a fost calificat ca o „extravaganță” a robotului, ori o problemă tehnică minoră (un glitch), dar experții spun că el ar indica „fracturi fundamentale în modul în care aceste modele sunt antrenate”, generate și de presiunea enormă la care sunt supuse companiile în cursa IA. Christopher Riedl, profesor de științe informatice la Northeastern University, explică, privitor la acest din urmă aspect, că atmosfera în aceste companii este „ca într-o oală sub presiune” în disperarea de a produce mereu noi modele: „Resursele și capacitatea de testare sunt limitate, iar procesele sunt lungi și complicate”.

Bun, dar de ce, totuși, goblins și nu altceva? Riedl pune obsesia pe seama buclei de feedback pozitiv în ultimele faze de antrenament: „Sunt semnale de validare care îi spun robotului: Hei, dacă dai răspunsuri de felul acesta, vei fi răsplătit”. Or, profilul ChatGPT care a emis mai mulți pitici decât altele este unul cu personalitate de „tocilar” jucăuș (cu o creștere de 3.881,4% a obsesiei în numai trei luni). Apoi, vine și contaminarea; alte profile de roboți, care poate n-ar fi nici tocilare, nici jucăușe, văd la colegul cât de bine îi merge și se iau după el.

La un moment dat, încercând să oprească invazia, OpenAI i-a interzis lui ChatGPT să mai spună cuiva de piticii lui de pe creier. Dar modelele mai noi nu s-au spus: roboții continuă să spună de goblins, de gremlins, de trolls – adăugând, însă, la menajerie, pentru motive necunoscute, ratoni, porumbei și, ocazional, broaște.

Așa că soluția a fost, în cele din urmă, retragerea modelului tocilar, care pare, totuși, cel mai adecvat într-o industrie creată de indivizi precum Mark Zuckerberg și Sam Altman și formată din companii cu nume desprinse din opera lui J.R.R. Tolkein.

Înclinația roboților de a dezvolta pete pe creier, indiferent în ce formă apar, ridică un semnal de alarmă serios pentru toți producătorii de roboți IA. „De data au fost goblins, data viitoare va fi altceva și probabil nu va mai putea fi eliminat. Avem noroc că au fost goblins și nu supremația albilor sau informații despre arme chimice… ori încurajarea utilizatorilor spre suicid”, a comentat Riedl.

Modelul companiei X, Grok „a avut propria lui obsesie anul trecut: a susținut, fără temei, că în Africa de Sud s-ar desfășura un «genocid împotriva albilor»” – împărtășind, astfel, întâmplător, opinia proprietarului lui, Elon Musk, originar din Africa de Sud.

Sursa în text.