Beldurrezko Kabinetea

Makinen gorakada eta boterea bereganatzea adimen artifizialaren bidez. Erabateko zaintza eta kontrol sozialaren mundua. Gerra nuklearra eta zibilizazioaren endekapena. Etorkizuneko ikuspegi ilun asko, duela urte asko marraztuak, gaur gertatu beharko lirateke. Eta bitartean atzera begiratzen dugu eta badirudi ez zirela han egon. Ziur zaude?

Herriko errepertorio nahiko estereotipatua dago profezia distopikoak (etorkizuneko ikuspegi beltzari buruz). Ingurune naturala eta baliabideak suntsitzearekin lotutako ohikoenez gain, azken teknologiak pertsonen arteko komunikazioa, harremanak eta gizartea kaltetzen ari direla uste da.

Espazio birtualak engainagarrian ordezkatuko du munduan benetako parte-hartzea. Beste ikuspegi distopiko batzuek garapen teknologikoa desberdintasun sozialak areagotzeko modu gisa ikusten dute, boterea eta aberastasuna talde txikien eskuetan kontzentratzeko. Teknologia modernoaren eskakizun handiek ezagutza eta trebetasunak pertsona pribilegiatuen zirkulu estuetan biltzen dituzte, pertsonen zaintza areagotzen dute eta pribatutasuna suntsitzen dute.

Futurista askoren arabera, produktibitate handiagoak eta aukera ikusgarri handiagoak giza bizi-kalitatea kaltetu dezakete, estresa eraginez, lanpostuak arriskuan jarriz eta munduaz gero eta materialistago bihurtuz.

"Distopiko" teknologiko ospetsuetako bat James Gleick, telebistako urrutiko aginte baten adibide itxuraz hutsala ematen du asmakizun klasiko gisa, arazo esanguratsu bakar bat konpontzen ez duena, berri asko sortuz. Gleick, historialari tekniko bat aipatuz Edward Tenner, idazten du urrutiko agintea erabiliz kanalak aldatzeko aukerak eta sinpletasunak batez ere ikuslea gero eta gehiago distraitzeko balio duela.

Pozik egon beharrean, jendea gero eta atsekabeago dago ikusten dituen kateekin. Beharrak bete beharrean, etsipen amaigabearen sentsazioa dago.

Autoek erreserbak mantenduko al gaituzte?

Saihestezina den eta ziurrenik laster etorriko den gauza hau kontrolatzeko gai izango al gara? Adimen artifizialaren gainetik? Hori horrela izango bada, ikuskera distopiko askok aldarrikatzen dutenez, ez. (1).

Zaila da gu baino askotan indartsuagoa den zerbait kontrolatzea. zereginen kopurua handituz. Duela hogei urte, inork ez zuen sinetsiko emozioak pertsona baten ahotsean eta aurpegian guk geuk baino askoz zehatzago irakur zitezkeenik. Bien bitartean, gaur egun trebatutako algoritmoak hori egiteko gai dira jada, aurpegiko espresioak, tinbrea eta hitz egiteko modua aztertuz.

Ordenagailuek marrazkiak marrazten dituzte, musika konposatzen dute eta horietako batek Japoniako poesia lehiaketa bat ere irabazi zuen. Aspalditik ari dira jendea irabazten xakean, jokoa hutsetik ikasten. Gauza bera gertatzen da Go-ren joko askoz konplexuagoarekin.

gero eta azelerazio azkarragoaren legeak betetzen ditu. Azken hamarkadetan AI-ak lortutakoa -gizakien laguntzaz- bikoiztu egingo da hurrengo urteetan, agian hilabete besterik ez, eta orduan asteak, egunak, segundoak baino ez ditu beharko...

Duela gutxi ikusi denez, nonahiko kameretako argazkiak aztertzeko telefono adimendunetan edo aireportuetan erabiltzen diren algoritmoek ez dute inor koadro desberdinetan ezagutu, baizik eta ezaugarri psikologiko intimoak zehazten dituzte. Pribatutasun arrisku handia dela esatea ezer ez esatea bezala da. Hau ez da zaintza soila, urrats bakoitza ikustea, baizik eta pertsona baten itxuraren ondorioz sortzen den informazioa, bere ezkutuko desioei eta lehentasun pertsonalei buruz. 

Algoritmoek hori nahiko azkar ikas dezakete ehunka milaka kasu aztertuz, hau da, bizitza osoan pertsonarik adituenak ikus dezakeena baino askoz gehiago. Esperientzia ugariz hornituta, pertsona bat eskaneatzeko gai dira psikologo, gorputz-hizkuntza eta keinu-analista esperientziatuenak baino zehatzago.

Beraz, benetako distopia hozgarria ez da ordenagailuek xakean jokatzen edo gure aurka joatea, baizik eta gure arima gu ez den edonork baino sakonago ikus dezaketela, debekuz eta blokeoz beteta joera horiek edo beste batzuk aitortzean.

Elon Musk uste du AI sistemak gero eta eskala handiagoan ikasten eta arrazoitzen hasten diren heinean, "adimena" nonbait garatu daitekeela. sareko geruzetan sakona, guretzat hautemanezin.

2016an argitaratutako ikerketa amerikar baten arabera, hurrengo 45 urteetan, adimen artifizialak ehuneko 50eko aukera du gizakiak zeregin guztietan gainditzeko. Aurreikuspenek diotenez, AIk minbiziaren arazoa konponduko du, ekonomia hobetu eta bizkortuko duela, entretenimendua eskainiko duela, bizitzaren kalitatea eta iraupena hobetuko gaituela, hori gabe bizi ezin gaitezen heziko gaituela, baina posible da egunen batean, gabe gorrotoa, kalkulu logikoan oinarrituta, bakarrik kentzen gaitu. Agian fisikoki ez du funtzionatuko, sistema bakoitzean merezi duelako "noizbait ondo etor daitezkeen" baliabideak gorde, artxibatu eta gordetzea. Bai, hau da AIrako izan gaitezkeen baliabidea. Babestutako eskulana?

Optimistek kontsolatzen dute beti dagoela entxufea entxufetik ateratzeko aukera. Hala ere, dena ez da hain erraza. Dagoeneko, giza bizitza ordenagailuen menpekotasun handia izan da, non haien aurkako urrats erradikal bat hondamendia izango litzateke guretzat.

Azken finean, gero eta gehiago ari gara AIan oinarritutako erabakiak hartzeko sistemak sortzen, hegazkinak hegan egiteko, interes-tasak ezartzeko, zentral elektrikoak zuzentzeko eskubidea emanez; badakigu algoritmoek guk baino askoz hobeto egingo dutela. Aldi berean, ez dugu guztiz ulertzen erabaki digital hauek nola hartzen diren.

Beldur dira "Reduce Congestion" bezalako aginte-sisteme super-adimendunak lana burutzeko modu eraginkor bakarra... biztanleria heren bat edo erdira murriztea dela ondorioztatzera.

Bai, merezi du makinari "Lehenik eta behin, giza bizitza salbatu!" bezalako instrukzio garrantzitsuena ematea. Hala ere, nork daki orduan logika digitalak gizadia kartzelara eramango duen ala ukuiluaren azpian, non seguru egon gaitezkeen, baina, zalantzarik gabe, ez aske.

Ziberdelitua zerbitzu gisa

Iraganean, distopiak eta mundu post-apokaliptikoaren irudiak literaturan eta zineman aro nuklear ostekoan kokatu ohi ziren. Gaur egun, deuseztatze nuklearrak ez dirudi beharrezkoa den mundua ezagutzen dugun hondamendirako eta suntsipenerako, nahiz eta ez dugun irudikatzen dugun moduan. , nekez suntsituko du mundua "Terminator"-en bezala, non suntsipen nuklearrekin konbinatuta zegoen. Hala egingo balu, ez litzateke superinteligentzia bat izango, indar primitibo bat baizik. Azken finean, gizadia ere ez da oraindik gatazka nuklear suntsitzaile baten eszenatoki globalaz jabetu.

Benetako makina apokalipsia askoz ere ez da hain ikusgarria izan.

Ziber-gerra, birusen erasoak, sistema piratatzea eta ransomwarea, ransomwarea (2) gure mundua paralizatu eta suntsitzen dute bonbak baino eraginkortasun txikiagoarekin. Haien eskala zabaltzen bada, erabateko gerraren fase batean sar gaitezke, non makinen biktima eta bahitu bihurtuko garen, nahiz eta autonomiaz jokatzeko beharrik ez izan, eta baliteke jendea oraindik guztiaren atzean egotea.

Joan den udan, AEBetako Ziber eta Azpiegituren Segurtasun Agentziak (CISA) ransomware erasoak "zibersegurtasun mehatxurik ikusgaiena" izendatu zituen.

CISAk dio ziberkriminal batek pertsona edo erakunde baten datuak atzematen eta enkriptatzen dituen eta gero erreskatea egiten duen jarduera asko ez direla salatzen, biktimak ziberkriminalak ordaintzen dituelako eta ez duelako beren sistema seguruen arazoak ezagutzera emateko prest. Mikro-mailan, ziber-kriminalak Interneten eduki zintzoa eta petrala bereizteko arazoak dituzten adineko pertsonei zuzenduta daude maiz. Hau malware batekin egiten dute posta elektronikoaren eranskin batean edo kutsatutako webgune batean pop-up batekin. Aldi berean, korporazio handien, ospitaleen, gobernu agentzien eta gobernuen aurkako erasoak areagotzen ari dira.

Azken hauek bereziki zuzenduta zeuden datu sentikorrengatik eta erreskate handiak ordaintzeko gaitasunagatik.

Informazio batzuk, esate baterako, osasunari buruzko informazioa, jabearentzat beste batzuk baino askoz ere baliotsuagoa da eta gaizkileek diru gehiago irabazi dezakete. Lapurrek pazientearen arretarako garrantzitsuak diren datu kliniko bloke handiak atzeman edo berrogeiagotu ditzakete, hala nola, proben emaitzak edo drogen informazioa. Bizitza jokoan dagoenean, ospitalean ez dago negoziaziorako tarterik. Amerikako ospitaleetako bat behin betiko itxi zuten iazko azaroan, abuztuko atentatuaren ostean.

Ziurrenik denborarekin okerrera egingo da. 2017an, AEBetako Segurtasun Sailak iragarri zuen zibererasoek azpiegitura kritikoak jo zezaketela, hala nola ur-zerbitzuak. Eta horrelako ekintzak aurrera eramateko beharrezkoak diren tresnak gero eta eskuragarriago daude operadore txikiagoentzat, hauei, Cerber eta Petya softwarea bezalako ransomware sortak saltzen dizkiete eta eraso arrakastatsuen ostean erreskate kuota kobratzen diete. Ziberdelituak zerbitzu gisa oinarrituta.

Nahaste arriskutsua genoman

Distopiaren gai ezagunenetako bat genetika, ADN manipulazioa eta pertsonen hazkuntza da, gainera, modu egokian "programatua" (agintaritzak, korporazioak, militarrak).

Antsietate hauen gorpuzte modernoa dibulgazio metodo bat da CRISPR geneen edizioa (3). Daukaten mekanismoak kezkatzen ditu batez ere. nahi diren funtzioak behartuz ondorengo belaunaldietan eta haien potentziala populazio osora zabaldu zen. Teknika honen asmatzaileetako bat, Jennifer Doudna, nahiz eta duela gutxi "germen-lerroa" editatzeko tekniken moratoria eskatu zuen ondorio potentzial hondagarriak direla eta.

Gogoratu duela hilabete batzuk, Txinako zientzialari bat He Jiankui oso kritikatua izan da giza enbrioien geneak editatzeagatik, HIESaren birusaren aurka immunizatzeko. Arrazoia zen berak egindako aldaketak belaunaldiz belaunaldi transmititu zitezkeela, ezusteko ondorioekin.

Bereziki kezkagarriak dira d deiturikoak (gene berridazketa, gene drive), hau da. gizabanako jakin baten DNAn edizio-sistema bat kodetzen duen genetikoki diseinatutako mekanismoa CRISPR/CAS9 genoma nahi ez den genearen aldaera hau editatzeko ezarrita. Hori dela eta, ondorengoek automatikoki (genetistak parte hartu gabe) nahi ez den genearen aldaera nahi denarekin gainidazten dute.

Hala ere, nahi ez den gene-aldaera bat ondorengoek "opari gisa" jaso dezakete aldatu gabeko beste guraso batengandik. Beraz, gene-unitatea hautsi dezagun Herentziaren lege mendeliarrakgene nagusien erdia guraso baten ondorengoei doala esaten duena. Laburbilduz, horrek, azkenean, kasuan kasuko genearen aldaera populazio osora hedatzea ekarriko du.

Stanford Unibertsitateko biologoa Christina Smolke, 2016an ingeniaritza genetikoaren inguruko panel batean itzulita, mekanismo horrek ondorio kaltegarriak eta, muturreko kasuetan, izugarriak izan ditzakeela ohartarazi zuen. Gene-unitatea belaunaldiz belaunaldi igaro ahala mutatzeko gai da eta hemofilia edo hemofilia bezalako nahaste genetikoak sor ditzake.

Riverside Kaliforniako Unibertsitateko ikertzaileek Nature Reviews aldizkarian argitaratutako artikulu batean irakurri dugunez, nahiz eta unitate batek organismo baten populazio batean nahi bezala funtzionatzen duen, herentziazko ezaugarri bera kaltegarria izan daiteke beste populazio batean nolabait sartzen bada. . itxura bera.

Zientzialariek ate itxietan eta parekideen berrikuspenik gabe gene unitateak sortzeko arriskua ere badago. Norbaitek nahita edo nahi gabe gene-bultzada kaltegarri bat sartzen badu giza genoman, adibidez, gure gripearen aurkako erresistentzia suntsitzen duena, homo sapiens espeziearen amaiera ere esan lezake...

Zaintza kapitalismoa

Zientzia-fikziozko idazle ohiek nekez imajinatuko zuten distopiaren bertsio bat Interneten, eta batez ere sare sozialen errealitatea da, jendearen pribatutasuna, harremanak eta osotasun psikologikoa suntsitzen dituen bere adar guztiekin.

Mundu hau arte-emanaldi berriagoetan bakarrik margotzen da, esaterako, 2016ko "The Diving" atalean (4) Black Mirror seriean ikusi ahal izan genuena. Shoshana Zuboff, Harvardeko ekonomialari batek, errealitate horri erabateko autoafirmazio sozialaren menpekoa eta guztiz "despribatua" deitzen dio. zaintza kapitalismoa (), eta, aldi berean, Google eta Facebooken koroa lana.

4. "Black Mirror"-ko eszena - "Diving" atala

Zuboff-en arabera, Google da lehen asmatzailea. Horrez gain, etengabe hedatzen ari da bere zaintza jarduerak, adibidez errugabeak diruditen "hiri adimendunen" proiektuen bidez. Adibide bat Sidewalk Labs-ek Google-ren filiala duen World's Most Innovative Neighborhood proiektua da. kaia Toronton.

Google-k ur-ertzeko biztanleen bizitzari, haien mugimenduari eta baita arnasketari buruzko datu txikienak biltzeko asmoa du, nonahiko monitorizazio-sentsoreen laguntzaz.

Zaila da, gainera, Facebook-en zalantzan dagoen Interneteko distopia bat hautatzea. Zaintza kapitalismoa Googlek asmatu zuen, baina Facebook izan zen maila berri batera eraman zuena. Hau mekanismo biral sozial eta emozionalen bidez eta Zuckerberg plataformaren erabiltzaile ez direnen aurkako jazarpen errukigabearen bidez egin zen.

AI babestua, errealitate birtualean murgilduta, UBIrekin bizi

Futurista askoren arabera, munduaren eta teknologiaren etorkizuna bost laburdurak adierazten dute: AI, AR, VR, BC eta UBI.

"MT"ren irakurleek ziurrenik ondo dakite zer diren eta zertan datzan lehenengo hirurak. Ezaguna ere laugarrena izaten da, "BC", zertaz ari den ulertzen dugunean. Eta bosgarrena? UBD kontzeptuaren laburdura da, hau da, "oinarrizko errenta unibertsala» (5). Onura publikoa da, noizean behin postulatzen dena, beste teknologia batzuk garatzen diren heinean lanetik aske utzitako pertsona guztiei emango zaiena, batez ere AI.

5. Oinarrizko Errenta Unibertsala - UBI

Suitzak iaz ere erreferendum batera jarri zuen ideia, baina bertako herritarrek ezezkoa eman zioten, diru-sarrerak bermatzeko errenta ezartzeak etorkin uholdea ekarriko zuenaren beldur. UBIk beste hainbat arrisku ere dakar berekin, besteak beste, dauden desberdintasun sozialak iraunarazteko arriskua.

Akronimoaren atzean dauden iraultza teknologiko bakoitzak (ikusi ere:) - espero den norabidean hedatzen eta garatzen bada - sekulako ondorioak ditu gizateriaren eta gure munduan, distopia dosi handi bat barne, noski. Esaterako, lau urteko hauteskunde-zikloak ordezkatu eta hamaika gairi buruzko erreferendumak eragin ditzakeela uste da.

Errealitate birtuala, berriz, gizateriaren zati bat mundu errealetik "baztertzeko" gai da. Gertatu zen bezala, adibidez, Jang Ji Sung korearrarekin, zeinak, 2016an bere alaba sendaezina den gaixotasun baten ondorioz hil ondoren, bere avatarra VRn ezagutu baitu. Espazio birtualak arazo mota berriak ere sortzen ditu, edo ezagutzen diren arazo zahar guztiak mundu "berrira" edo beste mundu askotara transferitzen ditu. Neurri batean, sare sozialetan dagoeneko ikus dezakegu hori, non gertatzen den argitalpenetan atsegin gutxi izateak depresioa eta suizidioa eragiten duela.

Ipuin profetikoak gutxi-asko

Azken finean, ikuspegi distopikoen sorreraren historiak zuhurtziaz ere irakasten du iragarpenak formulatzeko.

6. "Islands in the Net" lanaren azala

Iaz filmatu zen Ridley Scotten zientzia-fikziozko maisulan ospetsuaandroid ehiztaria» 1982tik. Elementu zehatz askoren betetzeaz edo ez eztabaidatzea posible da, baina eztabaidaezina da gure garaian androide adimentsu eta humanoideen existentziari buruzko profezia garrantzitsuena, zentzu askotan gizakiak baino goragokoak, ez dela oraindik errealitate bihurtu.

Prest egongo ginateke hainbat hit profetiko gehiago jasateko».Neuromanteak»alegia, nobelak William Gibson 1984az geroztik, "ziberespazio" kontzeptua ezagun egin zuen.

Hamarkada horretan, ordea, apur bat ezezaguna den liburu bat agertu zen (gure herrian ia erabat, polonierara itzuli ez zelako), gaurko ordua askoz zehatzago iragartzen zuena. Erromantizismoaz ari naizUharteak sarean"(6) Bruce Sterling 1988az geroztik, 2023an ezarria. Interneten antzeko zerbaitetan murgilduta dagoen mundu bat aurkezten du, “web” bezala ezagutzen dena. Nazioarteko korporazio handiek kontrolatzen dute. "Sarean uharteak" nabarmenak dira, ustez doako Interneten kontrola, zaintza eta monopolizazioa ematen baitute.

Interesgarria da, halaber, lineako pirata/terroristen aurka tripulaziorik gabeko aireko ibilgailuak (droneak) erabiliz egindako borroka operazioak aurreikustea. Milaka kilometrora dauden operadoreak mahaigain seguruekin - nola dakigu hori? Liburua ez da terrorismo islamikoarekiko gatazka amaigabeaz, globalizazioaren aurka dauden indarren aurkako borrokaz baizik. Islands in the Net-en mundua erloju adimendunen eta kirol-oinetako adimendunen antza duten kontsumo-gailuz ere beteta dago.

Bada 80ko hamarkadako beste liburu bat, gertakari batzuk fantastikoagoak badirudi ere, gure egungo beldur distopikoak ilustratzeko lan ona egiten duena. Hau"Georadar softwarea", Historia Rudy Rooker2020an ezarria. Munduak, gizartearen egoerak eta bere gatazkei izugarri antzekoak dirudite gaur egun aurrean dugunarekin. Bopper izenez ezagutzen diren robotak ere badaude, autokontzientzia hartu eta ilargiko hirietara ihes egin dutenak. Elementu hori oraindik ez da gauzatu, baina makinen matxinada iragarpen beltzen etengabeko estribillo bilakatzen ari da.

Liburuetan gure garaiko ikuspegiak ere oso zehatzak dira zentzu askotan. Octavia Butler, batez ereEreilearen parabolak» (1993). Ekintza 2024an hasten da Los Angelesen eta Kalifornian gertatzen da, klima aldaketak eragindako uholdeek, ekaitzak eta lehorteek suntsituta. Ertain eta langile klaseko familiak komunitate itxietan elkartzen dira, kanpoko mundutik ihes egiten saiatzen diren drogak eta errealitate birtualeko kitekin. Erlijio eta konspirazio teoria berriak sortzen ari dira. Errefuxiatu karabana iparralderantz doa kolapso ekologiko eta soziala saihesteko. "Make America Great Again" kanpaina leloa erabiltzen duen presidente bat helduko da boterera (hau da Donald Trumpen leloa) ...

Butlerren bigarren liburua, "Talentuen parabolakontatzen du kultu erlijioso berri bateko kideek Lurra espazio-ontzi batean nola uzten duten Alpha Centauri kolonizatzeko.

***

Zein da gure eguneroko bizitzari buruz duela hainbat hamarkada eginiko iragarpen eta ikuspenen inkesta zabal honen ikasgaia?

Seguruenik, kontua da distopiak askotan gertatzen direla, baina gehienetan partzialki bakarrik.