Yoshua Bengio, 2018ko Turing Sariaren irabazlea –informatikaren Nobel gisa ezagutua–, azken urteetan ohartarazten aritu da IAren garapenak dakartzan arrisku posibleez. Zehazki, teknologiaren erabilera maltzurra edo sistemek beraiek ustekabeko jokaera izatea aipatzen ditu mehatxu nagusien artean.
«Sistema aurreratuenek jada babes automatikoaren eta engainuaren zantzuak erakusten dituzte», adierazi du Bengiok, AFP agentziak jaso duen ohar batean. «Eta hori azkartuz joango da euren gaitasunak eta autonomia handitzen diren heinean», gaineratu du.
Helburua: IAren jarduna kontrolpean izatea
LawZero izena hartu duen irabazi-asmorik gabeko erakunde berriak ikuspegi etiko eta prebentibo batetik lan egitea du xede. Bengioren esanetan, LawZero «erronka horiei erantzun» gisa sortu da, eta IAren belaunaldi berriari –eginkizun autonomoak burutzeko gai diren agenteei– ikuskapen forma bat proposatzea izango da bere lan ildo nagusietako bat.
«Helburuetako bat izango da IAren portaera zuzena bermatzeko babes gisa erabil daitekeen adimen artifiziala garatzea», adierazi du Bengiok LawZeroren webgunean argitaratutako bideo batean.
Claude 4, adibide kezkagarri bat
LawZeroren sorrera ez da hutsetik datorrena. Azken boladan, adimen artifizialaren portaerari buruzko ikerketa batzuek larritasuna piztu dute. Horren adibide da Anthropic enpresaren Claude 4 interfazearen simulazio bat, non IA sistema batek software ingeniari bati xantaia egiten saiatu zen bere ezabatzea ekiditeko.
Gertakari horiek erakusten dute IA sistemek askatasun handiagoz jokatzen dutela, aurreikusitakoa gaindituz, eta horrek areagotu egiten du kontrol neurriak hartzearen beharra.
Zientziarako IA mugatua eta helburu etikoak
LawZerok ez du IAren garapena geldiarazi nahi, baina bai gizakien segurtasuna eta ongizatea bermatzea. Horregatik, erakundeak IA autonomia mugatuarekin garatu nahi du, bereziki ikerketa zientifikoan erabiltzeko moduan.
Bengiok nabarmendu duenez, «IA oso onuragarria izan daiteke, baldin eta ziurtatzen badugu ez duela inori kalterik egingo, ezta bere kabuz ere».
Mila institutua, proiektuaren oinarri
LawZero proiektua Montrealgo Mila institutuan sustatu da, 1993an Bengiok berak sortutako zentroan. Gaur egun, 15 ikertzailek baino gehiagok osatzen dute LawZeroko taldea, eta proiektuak jada diru laguntza ugari jaso ditu, horien artean Schmidt Sciences fundazioarena, Googleko zuzendari ohia den Eric Schmidt eta Wendy Schmidt senar-emazteek sortua.
