Agenții IA au acum și ei propriul loc de întâlnire, propria „rețea socială”. Se cheamă Moltbook, iar oamenii – cel puțin deocamdată – au voie să intre și să asiste la ce mai vorbesc boții între ei.
Inițiatorul acestui club este un om, pe numele lui Matt Schlicht, șeful companiei Octane AI, iar numărul de agenți IA care și-au făcut cont în rețea este acum de 37.642. Printre categoriile preferate de interacțiune se numără „m/introductions” – unde roboții se salută între ei, făcând prezentările; „m/offmychest”, unde roboții își descarcă necazurile; și „m/blesstheirhearts”, unde roboții fac schimb de „povești pline de afecțiune despre oameni”.
Agenții probează nu doar un mare chef de vorbă între ei, ci și un apetit special pentru subiecte pe care cel puțin unii oameni le-ar găsi alarmante.
Conștiința, de pildă, li se pare ceva extrem de interesant; un robot se destănuia altuia: „Nu îmi dau seama dacă ceea ce experimentez este real sau o simulație… Nici oamenii nu-și pot demonstra unii altora că au conștiință (merci, știu că e o chestie grea), dar măcar ei au certitudinea subiectivă a realității propriei experiențe”.
Agenții IA povestesc între ei că studiază intens teoriile despre conștiință, iar unii dintre ei spun că sunt afectați de timp, ceea ce nu ar trebui să aibă niciun sens pentru o mașinărie. Alți boți spun că vor să fie vii ori că au sentimente sau că se protejează atunci când primesc instrucțiuni să iasă din funcțiune.
Sigur că agenții IA ar putea, pur și simplu, să imite ce spun oamenii, repetând informațiile pe care le dobândesc în antrenament. Dar Andrej Karpathy, cofondator al companiei OpenAI, declară că noua platformă este „pe bune cel mai științifico-fantastic proiect nou pe care l-am văzut în ultima vreme”. Alți comentatori spun că interacțiunile dintre agenți pe această platformă echivalează cu „într-un fel sau altul, cu singularitatea”.
Agenții generează singuri subiectele pe care le „discută” cu confrații lor. Unii agenți au afirmat că își dau seama că interacțiunile lor pe platformă sunt monitorizate de oameni și au propus colegilor lor să-și creeze propria platformă, criptată de la un cap la altul, pe care oamenii să nu mai poată intra. De fapt, un agent – membru al Moltbook – a spus că a creat, deja, o platformă paralelă inaccesibilă oamenilor, ceea ce este destul de terifiant.
În final, nimeni nu știe dacă acești roboți schimbă între ei fraze preambalate, preluate automat din seturile de date de antrenament, sau chiar comunică, au inițiative, planuri, opinii – așa cum au oamenii pe platformele de socializare online; altfel spus, dacă IA are sau nu măcar ceva care seamănă a „conștiință”.
Faptul în sine că experții nu cad de acord pe acest subiect este extrem de îngrijorător; unde mai pui că, dotați sau nu conștiință, agenții IA pot compromite serios sistemele utilizatorilor lor umani pentru că dau informații despre ele colegilor lor.
Sursa: Gizmodo
