Zilele trecute, am avut surpriza să aflu că o persoană, invitată de un amic să-mi citească un articol, a preferat nu să-l citească ea, direct – pentru că era mai lung de două scroll-uri pe telefon, speculez eu, întrucât am mai auzit această critică – ci să i-l dea unui robot să-l analizeze și să-i facă rezumatul.
Rezumat care mi-a parvenit și mie. Prost scris și, sincer, mult prea lung; presupun că grăbitul cu pricina nu l-a citit nici pe-ăsta. Eu, răbdătoare, l-am parcurs și am aflat ce știam deja: că informațiile incluse sunt, factual, corecte și că sunt interpretate. Așa e; îmi amintesc aievea cum interpretam în capul meu în timp ce scriam articolul; de-aia l-am și scris, de fapt, mă autodenunț acum, în loc să înșir o serie chioară de hyperlinkuri și, eventul, să întreb un motor ce părere are.
Robotul zice că interpretarea mea este influențată de „orientarea editorială specifică” – specifică mie, că mă cunoaște el – „adesea critică la adresa modernismului și a structurilor de putere globale, ceea ce înseamnă că informația este filtrată printr-o lentilă ideologică predefinită”. Și-ncă cum; se cheamă minte; în cazul de față, mintea mea.
Incident care, pentru motive pe care nu i le-aș putea explica lui Gemini, mi-a adus aminte cum îl pârau vecinii pe tata, când eram copil, că scotea radioul cu Europa Liberă și a sa „lentilă ideologică predefinită” date la maxim, pe pervaz. Mă urcam pe gard să-i văd cum pleacă de la porți și se închid în case, refuzând complicitatea; dar, mai ales, ca să surprind acel moment inevitabil în care nenea milițianul apărea la colț de stradă și a-mi da seama (după unghiul chipului pe ceafă, după cât de precipitat și transpirat era, după cum își încorda brațele și cât de repede parcurgea cei câțiva zeci de metri până la poarta noastră – adică după „body language”, ca să priceapă și robotul despre ce vorbesc), dacă urma să zbiere, exasperat, „Hai, mă, Nea Edi, iarăși?!!” sau – oroare – să nu spună absolut nimic și, negru de nervi, să dea năvală peste noi în curte.
Dar să lăsăm aceste jocuri copilărești deoparte; duse sunt acele vremuri ale delațiunii milițienești. Sau aproape duse – nu grație vreunui progres moral, ci pentru că mai e un pic și nu vom mai avea ce, de ce și pe cine turna la Big Brother.
Un studiu recent publicat în Trends in Cognitive Sciences ajunge la concluzia – tot mai vizibilă în viață – că roboții de conversație standardizează modul în care oamenii vorbesc, scriu și gândesc.
„Indivizii umani diferă după cum scriu, după cum gândesc, după cum văd lumea. Când aceste diferențe sunt mediate de aceleași modele IA, stilurile lor lingvistice, perspectivele, strategiile lor de gândire devin omogenizate, producând o standardizare a expresiei și gândirii la toți utilizatorii”, explică unul dintre autorii studiului.
Diversitatea cognitivă – „motorul creativității în comunitățile umane” – este în scădere urmare folosirii acestor roboți, zice studiul. Atunci când folosesc un chatbot pentru a-i ajuta să scrie un text, de exemplu, oamenii ajung să-și piardă individualitatea stilistică; dar „îngrijorarea merge dincolo de faptul că sistemele LLM modelează felul în care oamenii scriu sau vorbesc – ele redefinesc în mod subtil ce înseamnă un discurs credibil, ce înseamnă o perspectivă corectă, ba chiar și ce înseamnă o gândire bună”.
Autorii studiului arată (evidența) că roboții LLM sunt mult mai puțin diferiți între ei decât sunt oamenii și că, în marea majoritatea cazurilor, ei reflectă exclusiv limbajul, valorile și modul de a gândi ale „societăților occidentale, educate, industrializate, bogate și democratice” (cred că au luat descrierea asta de la un robot), care nu reprezintă decât „o felie foarte îngustă și părtinitoare a experienței umane” – care, adesea, nu are nicio legătură cu modul de a gândi, cu problemele, valorile și mediul utilizatorului. Rezultatul este o scădere a creativității și capacității omului de a găsi soluții aplicabile realităților sale.
Mai grav, efectul nu se oprește la utilizatorii direcți ai acestor mașini: „Chiar și oamenii care nu sunt folosesc direct aceste LLM vor fi afectați, indirect. Când foarte mulți oameni din jurul meu gândesc și vorbesc într-un anumit fel, iar eu fac lucrurile în mod diferit, voi simți o presiune să mă aliniez lor, pentru că, atunci, modul meu de a-mi exprima ideile va părea mai credibil sau mai acceptabil social”.
În plus, pentru a completa peisajul mort, oamenii copiază nu doar opiniile produse de roboți, ci și modul lor de a gândi, liniar, care „reduce gândirea intuitivă sau abstractă”, la care motoarele nu au acces. Și, întrucât e mai ușor așa, nu omul conduce „conversația” cu mașina, ci o lasă pe ea să-și scuipe afară, rând cu rând, clișeele – „mutând, treptat, ghidajul de la utilizator, la robot”.
Soluția oferită de autorii studiului este o modificare în modul de antrenare a roboților LLM, cu „încorporarea unei diversități de limbaj, perspective și moduri de a gândi”, bazate pe „diversitatea care există, la nivel global, în umanitate”.
Sau, propun eu, de dincoace de „lentila ideologică predefinită”: nu mai bine scoatem proasta din priză și vorbim noi între noi, ca oamenii?
Sursa: „lentila” și TechExplore
