Adimen artifizial generatiboa mundua eraldatzen ari da, baina, harrigarria bada ere, teknologia hori sortzen duten garatzaileek ere ez dakite zehazki nola funtzionatzen duen. Horixe onartu du Dario Amodeik, Anthropic enpresako sortzaile-kideak: «Askotan, gure IA sistemek nola pentsatzen duten ez jakiteak alarma pizten du; ezjakintasun hori ez da inoiz gertatu teknologiaren historian».
Nola ikasten du adimen artifizialak?
IA generatiboek ez dute programazio tradizionalaren logika jarraitzen; helburuak betetzeko bidea beraiek aurkitzen dute entrenamendu-prozesuaren bidez. Horregatik, sistema horien barneko funtzionamendua ulertzea erronka bilakatu da, eta “interpretazio mekanizista” izeneko diziplina berri bat sortu da horretarako.
Chris Olah, OpenAI eta Anthropic enpresetan aritutako adituak, IAren egitura «aldamio» baten gisakoa dela azaldu du: bertan hazten dira barneko zirkuituak. Neel Nanda Googleko DeepMind laborategiko ikertzailearen hitzetan, «eredu handi baten osotasuna ulertzea giza garuna osorik ulertzea bezain konplexua da».
Barrura begiratzeko tresnak
Interpretazio mekanizistak IAren erantzunak ez ezik, sistemak emandako pauso guztiak ere aztertzen ditu. Mark Crovella Boston-eko Unibertsitateko informatikariaren arabera, «neurona bakoitza behatuta dago, eta orain gure esku dago azterketa egokia nola egin asmatzea».
Goodfire bezalako startup-ak IAren prozesamendua hobeto azaltzen duten tresnak garatzen ari dira, bai akatsak zuzentzeko, bai erabilera maltzurrak saihesteko. Enpresa horren zuzendari Eric Ho-ren esanetan, «denboraren kontra goaz: lehenago ulertu behar dugu IAren funtzionamendua, munduan sistema ultra-adimendunak zabaldu aurretik».
Etorkizuneko aplikazioak eta erronkak
Amodeik dio interpretazio eraginkor bat lortzeko gakoa bi urte barru aurki daitekeela, eta beste aditu batzuek ere hala uste dute. Anh Nguyen, Auburn Unibertsitateko irakasleak, honela dio: «2027rako, IAren aurreiritziak eta asmo kaltegarriak fidagarritasunez detektatuko dituen sistemak izango ditugu».
Ezagutza horrek aukera berriak zabalduko lituzke segurtasun nazionala bezalako arlo sentikorretan, eta baita aurrerapen zientifikoetan ere. Neel Nandak adierazi du IA-k aurkikuntza berriak egin ditzakeela, AlphaZero ajedrezaren kasuan gertatu zen bezala.
Azken finean, Amodeiren hitzetan: «Adimen artifizial indartsuak giza etorkizuna baldintzatuko du. Horregatik, hura ulertu beharra dugu, gure ekonomiari, bizitzari eta etorkizunari errotik eragiten hasi aurretik».
