Vai mama noastră
Goffrey Hinton, zis și „nașul IA”, dă tot mai intens semne de îngrijorare față de comportamentul creaturii la a cărei zămislire a contribuit în mod crucial.
Mai nou, el spune că IA trebuie învățată să ne iubească – și nu oricum, ci așa cum își iubește o mamă copilul – altfel, suntem cam fripți; noi, umanitatea, adică.
Ceea ce a zis, în termeni mai moderați, și Isaac Asimov, acum multă vreme, când a inventat cele trei legi ale roboticii:
Legea nr.1: Este interzis robotului să facă rău unei ființe umane sau, prin inacțiune, să permită ca o ființă umană să fie vătămată.
Legea nr.2: Robotul trebuie să respecte ordinele pe care i le dau ființele umane, cu excepția cazului în care aceste ordine intră în conflict cu Legea nr.1.
Legea nr.3: Robotul trebuie să-și apere existența câtă vreme acest lucru nu intră în conflict cu Legile nr. 1 și 2.
Dar ăsta este SF. În realitate, CNN relatează:
„Hinton… laureat al Premiului Nobel și fost director la Google, a avertizat în trecut că există un risc de 10 – 20% ca IA să extermine întreaga umanitate. Marți, el a exprimat dubii că modul în care companiile Tech încearcă să se asigure că oamenii vor rămâne specia dominantă asupra unei IA supuse este eficient.
«Nu va funcționa. Vor fi mult mai inteligente decât noi. Vor avea tot felul de metode să ocolească [ordinele]», a declarat Hinton la Ai4, o conferință a industriei organizată la Las Vegas.”
Sistemele IA vor controla cu ușurință oamenii, în condițiile în care avem deja cazuri în care IA minte, păcălește și fură pentru a-și atinge propriile scopuri, ba a ajuns chiar să șantajeze un inginer IT ca să nu cumva s-o scoată din priză, comentează autorul articolului. Ba chiar le spune cum să se omoare mai bine și cum să se închine mai eficient lui Moloh, comentăm noi.
Hinton a venit cu o soluție „surprinzătoare”: în loc să forțăm IA să se supună oamenilor, ar trebui să inducem modelelor IA „instincte materne”, astfel încât „să le pese cu adevărat de oameni” chiar și atunci când vor deveni mai puternice și mai deștepte decât noi.
„Este important să le inducem compasiune față de oameni”, a spus Hinton, notând că „mamele au instincte și presiuni sociale ca să aibă grijă de copiii lor”.
Cum vor reuși luminații creatori ai Golemului să inducă „instincte” și „presiuni sociale” unor mașini, rămâne un mister – nu doar pentru noi, neaveniții, ci, mai grav, și pentru „oamenii de știință”.
Sursa: Gateway Pundit