Makina hiltzailearen mamuak jarraitzen du. Zertan sinesten du Putin presidenteak?

Robot militarren aldekoek (1) diote arma automatizatuek aukera gehiago ematen dituztela gizakien bizitza babesteko. Makinak soldaduak baino etsaiarengana hurbiltzeko gai dira eta mehatxua ondo baloratzeko. Eta emozioek batzuetan erabaki egokiak hartzeko gaitasuna geldiarazten dute.

Robot hiltzaileak erabiltzearen defendatzaile askok gerrak odoltsuagoak izango direla uste dute, soldadu gutxiago hilko direlako. Kontuan izan dute robotek, errukirik ez duten arren, giza emozio negatiboen aurrean immunitateak direla, hala nola izua, haserrea eta mendekua, askotan gerra krimenak eragiten dituztenak.

Giza eskubideen aktibistek argudioa ere erabiltzen dute armadak azken mende erdian hildako zibilen murrizketa izugarria ekarri duela, eta armadaren robotizazioak gerra-legeak zorrotzago betetzeko mekanismo bat ahalbidetzen du. Makinak etiko bihurtuko direla diote, gerrako legeak betetzera behartuko dituen softwarez hornituta daudenean.

Jakina, jende kopuru handi batek, oso famatuak barne, ez du iritzi hori partekatzen urtetan. 2013ko apirilean nazioarteko kanpaina bat abiatu zen (2) lelopean. Bere esparruan, gobernuz kanpoko erakundeek arma autonomoen erabilera erabat debekatzea eskatzen dute. 2014ko maiatzean Genevan NBEren Armagabetzeari buruzko Konferentzian eseri ziren lehen aldiz herrialde askotako adituak gai hau eztabaidatzeko. Hilabete batzuk geroago Human Rights Watch-ek eta Harvard Unibertsitateko zientzialariek argitaratutako txosten batek esan zuen autonomoak arriskutsuegiak izango zirela: euren helburuak aukeratu eta jendea hiltzen zuten. Aldi berean, ez dago oso argi nork egin behar duen kontuak.

2. Erakustaldia "Stop killer robots" ekintzaren barruan

Drone txikien multzo batek egin dezakeena

Robot hiltzaileen (ROU) inguruko gatazkak urteak daramatzate eta ez dira desagertzen. Azken hilabeteetan robot militarrak geldiarazteko saiakera berriak eta mota honetako proiektu berrien berri ematen ari dira, eta horietako batzuk borroka-baldintza errealetan probatzen ari dira.

2017ko azaroan, bideo bat erakusten mini-drone sorta hilgarriak ., ekintza beldurgarrian. Ikusleek ikusi zuten jada ez genuela behar Predators-ek botatako gerra-makina astunak, tankeak edo misilak masiboki eta metrailadoreekin hiltzeko. Stuart Russell zuzendari nagusiak, Berkeleyko adimen artifizialeko irakasleak, dio:

-

Joan den udaberrian berrogeita hamar irakasle Munduko unibertsitate nagusiek helegitea sinatu dute Koreako Zientzia eta Teknologia Aurreratuen Institutuari (KAIST) eta bere bazkide Hanwha Systems-i. unibertsitatearekin lankidetzan ez zutela eta KAIST gonbidatuak hartuko zutela iragarri zuten. Bi erakundeek egindako «arma autonomoen» eraikuntza izan zen arrazoia. KAISTek ukatu egin zituen hedabideen berri.

Handik gutxira AEBetan Google-ko 3 langile baino gehiago enpresak militarrentzako egindako lanaren aurka protesta egin zuen. Kezkatuta zeuden Google-k drone militarren bideoetan objektuak eta aurpegiak ezagutzeko IA erabiltzea helburu duen Maven izeneko gobernu-proiektu batekin lankidetzan ari zelako. Enpresako zuzendaritzak dio Mavenen helburua bizitzak salbatzea eta jendea lan neketsuetatik salbatzea dela, ez erasoetatik. Manifestariak ez zeuden konbentzituta.

Borrokaren hurrengo zatia deklarazioa izan zen adimen artifizialeko adituak, barne Google proiektu batean lanean eta Elon Musk. Robotik ez garatuko dutela agintzen dute. Era berean, gobernuei dei egiten diete arma horiek arautu eta mugatzeko ahaleginak areagotzeko.

Adierazpenak dio, neurri batean, "giza bizitza bat hartzeko erabakia ez duela inoiz makina batek hartu behar". Munduko armadak gailu automatiko ugariz hornituta badaude ere, batzuetan autonomia maila handiarekin, aditu askoren beldur dira etorkizunean teknologia hori guztiz autonomoa bihur daitekeela, gizakiaren operadore eta komandante baten inongo inplikaziorik gabe hiltzea ahalbidetuz.

Era berean, adituek ohartarazi dute hiltzeko makina autonomoak "arma nuklearrak, kimikoak eta biologikoak" baino are arriskutsuagoak izan daitezkeela, erraz kontroletik ihes egin dezaketelako. Guztira, iazko uztailean, 170 erakundek eta 2464 pertsonak sinatu zuten Future of Life Institutuaren (FGI) babespean. 2019ko lehen hilabeteetan, FLI-ri lotutako mediku zientzialari talde batek adimen artifizialaren (AI) kontrolatutako armak garatzea debekatzeko gutun berri bat eskatu zuen berriro.

Iazko abuztuan Gniewo-n egindako NBEren bilera "robot hiltzaileen" militarraren legezko arauketari buruz arrakastaz amaitu zen... makinak. Herrialde talde batek, Estatu Batuak, Errusia eta Israel barne, arma horien nazioarteko debekua ezartzeko lan gehiago blokeatu zuten (Arma Konbentzionaleko Zenbaiten Erabilpena Debekatzeko edo Murrizteko Hitzarmenaren proiektua, CCW). Ez da kasualitatea herrialde hauek arma autonomo eta robotikoen sistema aurreratuetan egindako lanagatik ezagunak izatea.

Errusia borroka-robotetan zentratzen da

Vladimir Putin presidentea sarritan aipatzen da AI sistema militarrei eta borroka robotei buruz:

-.

argi hitz egiten du arma autonomoen garapenari buruz. Bere indar armatuetako Estatu Nagusiko buruak, Valery Gerasimov jeneralak, berriki Interfax-AVN berri agentzia militarrari esan zion roboten erabilera izango dela etorkizuneko gerren ezaugarri nagusietako bat. Errusia saiatzen ari dela gaineratu du gudu-zelaia guztiz automatizatu. Antzeko iruzkinak egin zituzten Dmitri Rogozin lehen ministroordeak eta Sergei Shoigu Defentsa ministroak. Viktor Bondarev Federazioko Kontseiluko Defentsa eta Segurtasun Batzordeko presidenteak esan zuen Errusia garatzen ahalegintzen ari dela. Roju teknologiakhorri esker, drone sareek entitate bakar gisa funtzionatuko lukete.

Hau ez da harritzekoa gogoratzen badugu lehen teletankeak 30eko hamarkadan Sobietar Batasunean garatu zirela. Bigarren Mundu Gerraren hasieran erabili ziren. Gaur Errusia ere sortzen ari da tankerako robotak gero eta autonomoagoa izatea.

Putinen estatuak berea bidali berri du Siriara Tripulaziorik gabeko borroka ibilgailua Uran-9 (3). gailuak lurreko kontrol-puntuekin kontaktua galdu zuen, esekidura-sistemarekin arazoak izan zituen eta bere armek ez zuten ezin hobeto funtzionatzen eta ez zuten helburu mugitzen jo. Ez dirudi oso larria, baina askok errusiarrei makina hobetzeko aukera emango dien borroka proba ona dela uste dute Siriako garbiketa.

Roscosmosek aurtengo abuztuan bi robot Nazioarteko Espazio Estaziora bidaltzeko aurretiazko plana onartu du. Fedor (4) tripulaziorik gabeko Batasunean. Ez zama bat bezala, baina. RoboCop filmean bezala, Fedorrek arma bat erabiltzen du eta tiro-ariketetan tiro-ariketetan punteria hilgarria erakusten du.

Galdera da, zergatik armatuko litzateke espazioan dagoen robot bat? Gaia lurreko aplikazioetan ez dagoela susmoa dago. Bien bitartean, Lurrean, Kalashnikov errusiar arma fabrikatzaileak bistaratze bat erakutsi zuen Igorek robotahorrek, barre asko eragin bazuen ere, konpainiak borrokarako ibilgailu autonomoetan serio lanean ari dela adierazten du. 2018ko uztailean, Kalashnikovek "tiro edo ez tiro" erabakiak hartzeko erabiltzen duen arma eraikitzen ari zela iragarri zuen.

Informazio honi Digtyarev armagin errusiarrak txiki bat garatu zuen txostenak gehitu behar zaizkio Nerekht tanke autonomoa isilik bere xederantz mugitu daitekeena eta gero indar indartsuz lehertu daiteke beste eraikin edo eraikin osoak suntsitzeko. Baita Tanka T14 Armada , Errusiako indar armatuen harrotasuna, urrutiko kontrola eta gidaririk gabeko gidatzeko diseinatu zen. Sputnikek dio Errusiako ingeniari militarrak lanean ari direla T-14 ibilgailu blindatu guztiz autonomoa izan dadin.

Eragozpen Zuzentaraua

AEBetako armadak berak bere armen autonomia mailari muga nahiko argia ezarri dio. 2012an, AEBetako Defentsa Sailak 3000.09 Zuzentaraua eman zuen, non gizakiek robot armatuen ekintzen aurka egiteko eskubidea izan behar dutela dio. (salbuespen batzuk egon daitezkeen arren). Zuzentarau honek indarrean jarraitzen du. Pentagonoaren egungo politika da armak erabiltzeko faktore erabakigarria beti pertsona bat izan behar dela, eta epaiketa hori izan behar duela. gerrako legeekin bat dator.

Amerikarrek hamarkadatan zehar hegan, Predator, Reaper eta beste supermakina asko erabiltzen ibili badira ere, ez ziren eredu autonomoak eta ez dira. Operadoreek urrunetik kontrolatzen dituzte, batzuetan milaka kilometroko distantziatik. Mota honetako makinen autonomiari buruzko eztabaida sutsua hasi zen prototipoaren estreinaldiarekin. X-47B dronea (5), modu independentean hegan egin ez ezik, hegazkin-ontzi batetik aireratu, bertan lurreratu eta airean hornitu zezakeena. Esanahia gizakiaren esku-hartzerik gabe tiro edo bonbardatzea ere bada. Hala ere, proiektua probatzen eta berrikusten ari da oraindik.

5. Tripulatu gabeko X-47Bren probak Amerikako hegazkin-ontzi batean

2003an, Defentsa Saila tanke itxurako robot txiki batekin esperimentatzen hasi zen. SPOES metrailadorez hornitua. 2007an Irakera bidali zuten. hala ere, programa robota modu irregularrean jokatzen hasi ondoren amaitu zen, bere fusila modu irregularrean mugituz. Ondorioz, AEBetako armadak lurreko robot armatuen inguruko ikerketa alde batera utzi zuen urte askotan.

Aldi berean, AEBetako Armadak 20ko 2014 milioi dolar izatetik 156an 2018 milioi dolar izatera handitu du operazioetan egindako gastua. 2019an, aurrekontu hori dagoeneko 327 milioi dolarrera igo da. Urte gutxitan % 1823ko igoera metatua da. Adituek diote 2025ean AEBetako armadak gudu zelai bat izan dezakeela robot soldadu gehiago gizakiak baino.

Azkenaldian, eztabaida asko sortu eta iragarri ditu AEBetako armadak ATLAS proiektua () - automatikoa. Komunikabideetan, aipatutako 3000.09 zuzentarauaren urraketatzat jo zen. Hala ere, AEBetako militarrek ukatu egiten dute eta ziurtatzen dute pertsona bat erabakitze-ziklotik baztertzea eztabaidaz kanpo dagoela.

AIk marrazoak eta zibilak ezagutzen ditu

Hala ere, arma autonomoen defendatzaileek argudio berriak dituzte. prof. Ronald Arkinek, Georgiako Teknologia Institutuko robotikaria, bere argitalpenetan dio Gerra modernoan, arma adimendunak ezinbestekoak dira hildako zibilak saihesteko, ikaskuntza automatikoko teknikek eraginkortasunez lagun dezaketelako borrokalariak eta zibilak eta helburu garrantzitsuak eta garrantzirik gabekoak bereizten.

AI trebetasun horien adibide bat Australiako hondartzak zaintzea da. dronak Little RipperSydneyko Teknologia Unibertsitateak garatutako SharkSpotter sistemaz hornitua. Sistema honek automatikoki arakatzen du ura marrazoen bila eta operadoreari abisua ematen dio segurua ez den zerbait ikusten duenean. (6) Pertsonak, izurdeak, itsasontziak, surf-oholak eta uretan dauden objektuak identifikatu ditzake, marrazoetatik bereizteko. Zehaztasun handiz hamasei bat espezie ezberdin hauteman eta identifikatu ditzake.

6. SharkSpotter sisteman aitortutako marrazoak

Ikaskuntza automatikoko metodo aurreratu hauek aireko ezagutzaren zehaztasuna % 90 baino gehiago areagotzen dute. Konparazio baterako, antzeko egoera batean dagoen giza operadore batek aireko argazkietako objektuen % 20-30 zehaztasunez ezagutzen ditu. Horrez gain, identifikazioa oraindik ere egiaztatzen du gizaki batek alarma baten aurretik.

Gudu zelaian, operadoreak, pantailako irudia ikusita, nekez zehazten du lurrean dauden pertsonak eskuetan AK-47ak dituzten borrokalariak diren edo, adibidez, pikak dituzten nekazariak. Arkinek ohartarazi du jendeak "ikusi nahi duena ikusteko" joera duela, batez ere estres egoeretan. Efektu horrek 1987an USS Vincennes-ek Irango hegazkin bat eraitsi zuen. Noski, bere ustez, AI-k kontrolatutako armak egungo "bonba adimendunak" baino hobeak izango lirateke, benetan sentigarriak ez direnak. Joan den abuztuan, Saudi laser bidez gidatutako misil batek eskolaz betetako autobus bat jo zuen Yemenen, eta berrogei haur hil zituen.

"Eskola autobus bat behar bezala etiketatuta badago, sistema autonomo batean identifikatzea nahiko erraza izan daiteke", dio Arkinek Popular Mechanics-en.

Hala ere, argudio hauek ez dirudi hiltzaile automatikoen aurkako kanpainak konbentzitzen dituztenik. Robot hiltzaileen mehatxuaz gain, beste zirkunstantzia garrantzitsu bat hartu behar da kontuan. Nahiz eta sistema "ona" eta "arreta" bat hackeatu eta oso gaiztoek hartu dezakete. Orduan, ekipamendu militarraren defentsarako argudio guztiek indarra galtzen dute.