Esan zure katuari zer pentsatzen duzun barruan: kutxa beltzaren efektua

Izan ere, AI algoritmo aurreratuak kutxa beltz (1) bat bezalakoak izateak emaitza bat nola sortu zen agerian utzi gabe botatzen du batzuk kezkatzen ditu eta beste batzuk asaldatu egiten ditu.

2015ean, New Yorkeko Mount Sinai ospitaleko ikerketa-talde bati metodo hau erabiltzeko eskatu zioten tokiko pazienteen datu-base zabal bat aztertzeko (2). Bilduma erraldoi honek pazientearen informazio, proben emaitzen, medikuen errezetak eta abar biltzen ditu.

Zientzialariek lanaren ibilbidean garatutako programa analitikoa deitu zioten. 700 pertsona ingururen datuekin entrenatu zen. gizakia, eta erregistro berrietan probatzen denean, gaixotasunak aurreikusteko oso eraginkorra dela frogatu da. Giza adituen laguntzarik gabe, ospitaleetako erregistroetan gaixotasun baten bidean dagoen pazientea, gibeleko minbizia adibidez, adierazten duten ereduak aurkitu zituen. Adituen arabera, sistemaren pronostiko eta diagnostiko eraginkortasuna beste edozein metodo ezagunena baino askoz handiagoa zen.

2. Pazienteen datu baseetan oinarritutako adimen artifizialaren sistema medikoa

Aldi berean, modu misteriotsu batean funtzionatzen duela ohartu ziren ikertzaileek. Agertu zen, adibidez, aproposa dela buruko nahasteen aitorpenahala nola, eskizofrenia, medikuentzat oso zaila dena. Hori harrigarria izan zen, batez ere inork ez zuelako ideiarik AI sistemak gaixotasun mentala hain ondo ikus zezakeen gaixoaren mediku-erregistroetan soilik oinarrituta. Bai, espezialistak oso pozik zeuden makina-diagnostiko eraginkor horren laguntzarekin, baina askoz ere pozik egongo lirateke AI-ak bere ondorioetara nola heltzen den ulertuko balute.

Neurona artifizialen geruzak

Hasiera-hasieratik, hau da, adimen artifizialaren kontzeptua ezagutu zen unetik, bi ikuspuntu zeuden AIren inguruan. Lehenengoak iradoki zuen arrazoizkoena litzatekeela printzipio ezagunen eta giza logikaren arabera arrazoitzen duten makinak eraikitzea, haien barne funtzionamendua guztiontzat garden bihurtuz. Beste batzuek uste zuten adimena errazago sortuko zela makinek behaketaren eta behin eta berriz esperimentazioaren bidez ikasiko balute.

Azken honek ordenagailuen ohiko programazioa alderantzikatzea esan nahi du. Programatzaileak arazo bat konpontzeko komandoak idatzi beharrean, programak sortzen du algoritmo propioa lagin-datuetan eta nahi den emaitzan oinarrituta. Geroago gaur egun ezagutzen diren AI sistemarik indartsuenetara eboluzionatu zuten makinen ikaskuntza-metodoek bidea hartu berri dute, hain zuzen ere, makinak berak programatzen du.

Ikuspegi hori AI sistemen ikerketaren bazterrean geratu zen 60ko eta 70eko hamarkadetan. Aurreko hamarkadaren hasieran bakarrik, aldaketa eta hobekuntza aitzindari batzuen ondoren, Neurona-sare "sakonak". pertzepzio automatizatuaren gaitasunen hobekuntza erradikala erakusten hasi zen. 

Ikaskuntza automatiko sakonak aparteko gaitasunez hornitu ditu ordenagailuak, esate baterako, ahozko hitzak gizakiak bezain zehatz ezagutzeko gaitasuna. Hau trebetasun konplexuegia da aldez aurretik programatzeko. Makinak bere "programa" sortzeko gai izan behar du datu multzo handietan trebatzea.

Ikaskuntza sakonak ordenagailuaren irudien aitorpena ere aldatu du eta itzulpen automatikoaren kalitatea asko hobetu du. Gaur egun, medikuntzan, finantzak, manufakturak eta beste hainbat erabaki gakoak hartzeko erabiltzen da.

Hala ere, honekin guztiarekin ezin duzu sare neuronal sakon baten barruan begiratu "barrutik" nola funtzionatzen duen ikusteko. Sareko arrazoiketa prozesuak milaka neurona simulatuen portaeran txertatuta daude, elkarri lotuta dauden dozenaka edo ehunka geruzatan antolatuta..

Lehen geruzako neurona bakoitzak sarrera bat jasotzen du, adibidez, irudi bateko pixel baten intentsitatea, eta ondoren kalkuluak egiten ditu irteera atera aurretik. Sare konplexu batean transmititzen dira hurrengo geruzaren neuronetara -eta abar, azken irteerako seinalea iritsi arte. Horrez gain, neurona indibidualek egindako kalkuluak doitzea bezala ezagutzen den prozesu bat dago, prestakuntza-sareak nahi den emaitza eman dezan.

Txakurren irudien aitorpenarekin lotutako adibide batean, AIaren beheko mailek ezaugarri sinpleak aztertzen dituzte, hala nola forma edo kolorea. Goikoek ilea edo begiak bezalako gai konplexuagoak lantzen dituzte. Goiko geruzak bakarrik biltzen du dena, informazio multzo osoa txakur gisa identifikatuz.

Planteamendu bera aplika dakioke makinak bere burua ikasteko bultzatzen duten beste sarrera mota batzuei: hizketan hitzak osatzen dituzten soinuei, testu idatzietako esaldiak osatzen dituzten hizkiei edo bolanteari, adibidez. ibilgailu bat gidatzeko beharrezkoak diren mugimenduak.

Autoak ez du ezer saltatzen.

Horrelako sistemetan zehazki zer gertatzen den azaltzen saiatzen da. 2015ean, Google-ko ikertzaileek deep learning irudiak ezagutzeko algoritmo bat aldatu zuten, argazkietan objektuak ikusi beharrean, haiek sortu edo aldatu zituen. Algoritmoa atzerantz exekutatuta, programak, esate baterako, txori bat edo eraikin bat ezagutzeko erabiltzen dituen ezaugarriak ezagutu nahi izan dituzte.

Esperimentu hauek, publikoki izenburu gisa ezagutzen direnak, (3) animalia, paisaia eta pertsonaien grotesko eta bitxien irudikapen harrigarriak sortu zituzten. Makinen pertzepzioaren sekretu batzuk agerian utziz, hala nola eredu batzuk behin eta berriz itzultzen eta errepikatzen direla, erakutsi zuten, halaber, zein sakona den ikaskuntza makina gizakiaren pertzepzioarengandik desberdina den, adibidez, alde batera uzten ditugun artefaktuak zabaltzen eta bikoizten dituenean. pentsatu gabe gure hautemate prozesuan . .

3. Proiektuan sortutako irudia

Bide batez, bestetik, esperimentu hauek gure mekanismo kognitiboen misterioa argitu dute. Beharbada, gure pertzepzioan badaudela hainbat osagai ulertezin, zerbait berehala ulertu eta baztertuarazten gaituztenak, makinak "garrantzirik gabeko" objektuetan pazientziaz errepikatzen dituen bitartean.

Makina «ulertu» nahian egin ziren beste proba eta azterketa batzuk. Jason Yosinski garunean itsatsitako zunda baten antzera jokatzen duen tresna bat sortu zuen, edozein neurona artifizial zuzenduz eta indar handien aktibatzen duen irudiaren bila. Azken esperimentuan, irudi abstraktuak agertu ziren sareari "peeping"-aren ondorioz, eta horrek sisteman gertatzen ziren prozesuak are misteriotsuagoak bihurtu zituen.

Hala ere, zientzialari askorentzat, ikerketa hori gaizki-ulertu bat da, izan ere, haien ustez, sistema ulertzeko, erabaki konplexuak hartzeko goi mailako ordena baten ereduak eta mekanismoak ezagutzeko, interakzio konputazional guztiak neurona-sare sakon baten barruan. Funtzio eta aldagai matematikoen labirinto erraldoi bat da. Momentuz, ulertezina da guretzat.

Ordenagailua ez da martxan jarriko? Zergatik?

Zergatik da garrantzitsua adimen artifizialeko sistema aurreratuen erabakiak hartzeko mekanismoak ulertzea? Dagoeneko eredu matematikoak erabiltzen ari dira baldintzapean zein preso aske utzi, mailegua nori eman eta lana nori lor dezaketen zehazteko. Interesa dutenek jakin nahiko luke zergatik hartu den erabaki hau eta ez beste erabaki bat, zeintzuk diren bere oinarriak eta mekanismoak.

2017ko apirilean onartu zuen MIT Technology Reviewn. Tommy Yaakkola, ikaskuntza automatikorako aplikazioetan lan egiten duen MITeko irakaslea. -.

Badago jarrera juridiko eta politiko bat ere, AI sistemen erabakiak hartzeko mekanismoa aztertzeko eta ulertzeko gaitasuna oinarrizko giza eskubide bat dela.

2018az geroztik, EB sistema automatizatuek hartutako erabakiei buruz enpresei bezeroei azalpenak emateko eskatzeko lanean ari da. Ematen du hori batzuetan ez dela posible nahiko sinpleak diruditen sistemekin ere, hala nola, iragarkiak erakusteko edo abestiak gomendatzeko zientzia sakona erabiltzen duten aplikazio eta webguneekin.

Zerbitzu hauek exekutatzen dituzten ordenagailuek beraiek programatzen dute, eta guk ulertu ezin dugun moduan egiten dute... Aplikazio hauek sortzen dituzten ingeniariek ere ezin dute guztiz azaldu nola funtzionatzen duten.