20. gaia · Gogamena, gorputza eta adimen artifiziala
Gure gorputzaren antza izango luketen makinak baleude eta gure ekintzak antzeratuko balituzte moralki ahal deneraino, guk, horregatik, bi bide oso ziurrak izango genituzkeela ezagutzeko ez direla benetako gizakiak: lehena da ezingo luketela sekula ez hitzik ez beste zeinurik erabili eurak konbinatuz, guk besteei gure pentsamenduak adierazteko egiten dugun legez.
—René Descartes, Metodoari buruzko diskurtsoa, V · Arregiren itzulpena (Klasikoak, 1997)
Onar bekit soilik materia antolatua higidura-printzipio batez hornitua dagoela, eta aski da substantzien enigma eta gizakiarena asmatzeko: ikusten da unibertsoan ez dagoela bat besterik, eta gizakia dela perfektuena.
—Julien Offray de La Mettrie, L’Homme Machine (Gizaki-makina) · Clauderen itzulpena, frantsesetik
Gogamen-gorputz auzia landu genuen jada antropologiaz aritzean, gizakiaren gaineko ikusmolde filosofikoetan (§30). Hara igortzen zaitut, errepasa dezazun eta kontuan izan dezazun. Hau da: azterketan ere sartzen dela. Hemen berriro heltzen diogu, baina beste toki batetik eta beste galdera batekin.
§75 · Gogamen-gorputz auzia, orain auzi metafisiko gisa
Antropologiatik metafisikara. Han galdera zer garen gu zen: gorputz bat, arimadun gorputz bat ala propietate arraroak dituen gorputz bat. Hemen beste bat da, eta zabalagoa: zer gauza mota kabitzen diren munduan. Atomoez, eremuez eta galaxiez gain pentsamenduak, minak eta erabakiak ere badaude, orduan erreala denaren inbentarioak bi sail oso desberdin ditu, eta azaldu beharra dago nola konpontzen diren elkarrekin. Eta ez badaude —zure minak, besterik gabe, zure neuronen jarduera jakin bat badira—, azaldu beharra dago zergatik iruditzen zaizun hain argi zerbait gehiago badagoela. Ez dizut eskatzen lau jarrerak errepasatzeko: eskatzen dizudana da ikusteko lauetako batek ere gainetik kentzen ez duen arazoa.
Kausazio mentala. Besoa altxatzea erabakitzen duzu, eta besoa altxatu egiten da. Honaino, ezer berririk ez. Baina konta ezazu orain istorioa beste aldetik: deskarga bat kortex motorrean, nerbioan behera doan bulkada bat, uzkurtzen den muskulu-zuntz bat. Kate hori osoa da, eta katebegi bakar batean ere ez da fisikoa ez den ezer gehitu beharrik hurrengoa gerta dadin. Zer lan egin du, orduan, zure erabakiak? Edo ez du batere egin —eta zure desirak prozesuari lagun egiten dion aparra lirateke, hura bultzatu gabe—, edo besoaren mugimendu bakar horrek bi kausa ditu, bakoitza bere kabuz nahikoa, eta hori zure ekintza guzti-guztietan gertatuko litzateke; eta hori irensten zaila da. Jaegwon Kimek (1934-2019) susmo hori bete-beteko argudio bihurtu zuen, bazterketa-argudioa delakoa: efektu fisiko orok baldin badu jada kausa fisiko nahikoa bat, eta efektu berak baldin ez baditu bi kausa nahiko, mentala denari ez zaio gelditzen nondik jardun1. Eta errepara iezaiozu argudioak nori egiten dion hozka, hori baita interesgarriena: ez dualistari bakarrik, baizik eta mentala dena, eusten dion fisikoa baino, zerbait gehiago izatea nahi duen edonori.
Superbenientzia. Ezer erabaki aurretik, komeni da pieza bat mahai gainean jartzea, ia mundu guztiak onartzen baitu eta besteak neurtzeko balio baitu. Honela dio: ez dago alde mentalik alde fisikorik gabe. Hau da, bi izaki azken atomoraino berdin-berdinak badira, ezin daitekeela izan bata sufritzen aritzea eta bestea ez. Irakur ezazu astiro, dirudiena baino gutxiago baieztatzen baitu: ez du esaten mentala dena fisikoa denik, ezta hartara murrizten denik ere; hartaz mendekoa dela baino ez, ez dabilela bere kabuz flotatzen. Eztabaidatzen dena, eta gogor eztabaidatu ere, «ezin daiteke» hori noraino iristen den da: imajina daitekeen edozein mundutan den ezinezkoa, ala gurea gobernatzen duten legeak emanda bakarrik. Fisikalistak lehenengoari eusten dio. Zu bezalako izaki fisikoki berdin-berdin bat, barrutik argiak itzalita dituena, existi litekeela uste duenak —zonbi filosofikoa deitzen diote— bigarrenarekin gelditzen da, eta, horrekin, mentala dena zerbait gehiago dela defendatzen du2.
Funtzionalismoa, eta zergatik kontatzen dizudan hemen. Hilary Putnamek (1926-2016) proposatu zuen, eta Jerry Fodorrek (1935-2017) garatu: egoera mental bat ez da identifikatzen zerez eginda dagoen, baizik eta zer egiten duen: sartzen denaren, barruan dagoeneko dagoenaren eta ateratzen denaren artean betetzen duen paperagatik. Mina litzateke ehunetako kalteak eragiten duen hura eta, aldi berean, keinuak eta kexuak eragiten dituena, eta eskua baztertzera zaramatzana. Beti erabiltzen den analogia ordenagailuarena da: programa bera makina oso desberdinetan dabil, eta programa definitzen duena ez da silizioa, datuekin egiten duena baizik. Hortik ateratzen da gauzagarritasun anizkoitza delakoa: mina paper bat bada, eta ez material bat, zure neuronek joka lezakete paper hori, olagarro batenek —haren nerbio-sistemak ez baitu zurearen antzik— edo, printzipioz, zirkuitu batek3.
Eta hor irekitzen da atea. Geldi zaitez une batez, hau ez baita xehetasun tekniko bat: gogamena izatea antolaketa kontua bada, eta ez materia kontua, makina batek pentsa ote dezakeen galderak zientzia-fikzioa izateari uzten dio, eta bete-beteko galdera metafisiko bihurtzen da. Alan Turingek (1912-1954) horrelaxe planteatua zuen jada 1950ean: pentsatzea zer den eztabaidatu beharrean, proba praktiko bat proposatu zuen —sistema batekin idatziz hizketan ari zarela ezin baduzu pertsona batetik bereizi, zer eskubiderekin ukatzen diozu hari aitortzen diozuna?—4. John Searlek (1932-2025) erantzun zuen batere ez zela, eta ezagutzea komeni zaizun pentsamendu-esperimentu batekin egin zuen. Imajina ezazu zeure burua gela batean itxita, gaztelaniazko eskuliburu batekin, zeinak esaten dizun, zirrikitu batetik sartzen den zeinu txinatarren errenkada bakoitzeko, zein beste errenkada itzuli behar duzun. Hain ondo egiten duzu, non kanpokoak ziur baitaude txineraz badakizula. Ba al dakizu? Ez duzu hitzik ere ulertzen: zeinuak beren formagatik darabiltzazu, sekula ez esanahiagatik. Searleren ondorioa lau hitzetan kabitzen da —sintaxia ez da semantika—, eta bai nahikoa programa on batek ulertuko lukeela dioen ideiaren aurka doa, bai hari eusten dion funtzionalismo konputazionalaren aurka, gogamena programa gisa tratatzen duen bertsioa baita; ez edozein funtzionalismoren aurka5.
Gorde itzazu bi gauzak —funtzionalismoak irekitzen duen atea eta Searleren ate-danbatekoa—, gaiaren gainerakoa ez baita erabat ulertzen haiek gabe.
§76 · Zer da adimen artifiziala?
Orain arte errealitateaz eta izateaz aritu gara hizketan, haiek irrealitatearen eta ez-izatearen aurrez aurre jarriz. Planteatu dugu izateko era eta gradu ugari daudela: era absolutu eta beharrezkoan, Jainkoa edo Forma platonikoak bezala; era erlatibo, partzial eta kontingentean, gu geu bezala. Are gehiago, iradoki dugu gure fikzioak ere, nolabait, zerbait direla. Aipatu dugu hautemateak eragin izugarria duela munduaz dugun ikuskeran, eta atea ireki diogu gogoetari: gertaerak nahitaez gertatzen ote diren, ala, gutxienez, askatasun apur batez hornituta ote gauden. Hau da, errealitatearen eta izatearen auziari gizakiaren ikuspuntutik heldu diogula.
2023az geroztik, ordea, asko hitz egiten da adimen artifizialaz (aurrerantzean, AA), zeina informatikari oso adituentzako kontu bat izatetik6 erabilera arrunteko termino izatera pasatu baita, ChatGPT 2022ko azaroaren 22an jendearentzat ireki zenetik.
Lehendik ere erabiltzen zenuen AA. AAren itxurazko berritasuna gorabehera, kontua da lehendik ere era askotan erabiltzen genuela: Googleren bilatzailea, Netflixen gomendio-sistemak, Alexa bezalako ahots-laguntzaileak eta auto autonomoak7 eguneroko adibideak dira.
AAk oso ondo jarritako izena du: sistema informatikoek, algoritmoez baliatuz, gizakiaren gaitasun kognitiboak eskuratzeko saioa da, hain zuzen.
AA ahula. Gaur egun duguna AA ahula da, zeregin zehatz eta mugatuak egiten saiatzen dena: hala nola ChatGPT, zeinak, ez hain harrigarriro, berriketan egiten baitu. DALL·Ek irudiak sortzen ditu, apunte hauen paperezko bertsioaren azala osatzen duena bezalakoak. Beste software batzuk gai dira xakean jokatzeko, musika sortzeko, poema bat ontzeko edo eguraldia iragartzeko.
AA orokorra eta singulartasuna. Ikerketak, ordea, giza adimena bere osoan imitatuko —eta gaindituko— duten AAk bilatzen ditu: AA orokorra (aurrerantzean, AAO). Noizbait ordenagailuek gizakiaren moduko eta mailako adimen bat eskuratuko balute, edo are gaindituko balute, singulartasun teknologiko baten aurrean geundeke. Ez dugu sekula topatu gizakiaren pareko adimenik. Orain arte, beste giza adimen bat —baina misteriotsuki desberdina— aurkitzeko gure esperantza eboluzioan aurretik ditugun espezieren bat klonatzean zetzan, Homo neanderthalensis esaterako. Kontuan izan, gainera, AAk etengabe hobe dezakeela bere burua.
Horregatik dago hainbeste jende kezkatuta gure kontroletik ihes egingo lukeen eta bere borondatea eta helburuak izango lituzkeen AA baten arriskuengatik.
§77 · Adimen artifizialaren galdera metafisikoak
AAOa sortzeko aukerak auzi metafisiko, filosofiko eta gizatiar izugarriak planteatzen dizkigu. Jarraian, horietako batzuk azalduko dizkizut.
Adimena. Zaila zaigu makina batean gizakiarena bezain adimen indartsua imajinatzea, baina beharbada iritsiko da. Hala gertatzen bada, arrazionala ote litzateke gure aldetik erabakiak hartzea hari lagatzea, gizakion ordez, kontu teknikoetarako —auto autonomoak, medikuntza— edo baita sozial eta politikoetarako ere —legeak egitea, zergei buruzko erabakiak—? AAk guk baino gehiago eta hobeto pentsatuko balu, hori eragoztea litzateke irrazionala.
Oraingoz, AAk gure alborapenak jaso ditu oinordetzan8. Azken batean, guk programatu dugu. Baina noizbait has daiteke pentsatzen ez bakarrik guk baino azkarrago, baita era desberdinean ere, bere arau, irizpide eta helburu propioekin.
AAOk gobernatutako mundu bat, utopikoa ala distopikoa litzateke? Eleberriek, filmek eta telesailek imajinatutako etorkizunek distopiara jotzen dute. Aurrerago aztertuko ditugu sakon (§141); oraingoz, erreparatu Black Mirrori9. Azken batean, gure garunak gehiago erreparatzen die albiste txarrei eta arriskuei, eragin handia baitute gure biziraupenean. Heriotzak eta zoritxarrek gehiago saltzen dute, komunikabideengatik ondo dakigunez. Etorkizuna hain beltza bada, makinak itzaltzeko unea ote da?
Etorkizun utopikoak bakanagoak dira: onak eta lasaitasunak aspertu egiten gaituzte, eta oso gaizki saltzen dira. Drama falta zaie. Baina posible da, halaber, etorkizunak imajinatzea non AAOk gizartea hobeto kudeatzen laguntzen digun, denontzat era justuago eta onuragarriagoan, lan duingabe gutxiagorekin eta pertsonen artean diru- eta eskubide-alde txikiagoekin.
Gure oraingo unetik, etorkizuna pentsaezina zaigu, ez jada epe luzera, epe laburrera baizik, AAk gizartean izango duen eragin izugarriagatik. Aurrerapen bakoitza aurrekoa baino azkarragoa eta indartsuagoa da, eta abiapuntuko egoera aldatzen du; horrek eragiten du ezin ditugula ikusi irekitzen diren aukerak. Etengabe adarkatzen den bide batean gaude, eta, bide bat hartzean, lehen ikusi ere ezin genituen adarkatze berriak irekitzen zaizkigu.
Kontzientzia. Ordenagailuen kalkulu-ahalmena izugarria da jada, eta esponentzialki hazten jarraituko du. Baliteke noizbait halakoa izatea, non kontzientzia sortuko baita makina batean edo ordenagailu-programa batean. Iritsiko ote dira makinak badirela jabetzera, eta zer diren planteatzera, gu bezala? Hala egingo balute, gureak ez bezalako galderak planteatuko ote lituzkete? Era desberdinean ebatziko ote lituzkete? Gai izango ote ginateke haien existentzia-arazoak ulertzeko?
Eta gure entzefaloko informazioa ordenagailu batera deskargatu ahal bagenu? Gure neuronen jardueraren emaitza baino ez bagara, eta gure garunaren konfigurazioa zerbitzari batera igo ahal bagenu, gure pertsonaren baliokide kloniko bat izango ote litzateke, gure oroitzapenekin?
Aukeramena eta kontzientzia morala. AAOk aukeramena izango ote luke, ala bere jatorrizko programazioak determinatuta egongo ote litzateke, itxuraz bere eboluzioan zenbat aldatuta ere? Makinek aukeramena eta kontzientzia morala balituzte, erantzukizun morala ere izango ote lukete? Eta (giza) eskubideak? Programatu ahal izango ote litzateke haiengan giza etika bat? Eta, hala balitz, zein litzateke?
Azken galdera horri erantzuteko saiorik ospetsuena ez zuen filosofo batek egin, eleberrigile batek baizik. 1942an, Runaround ipuinean, Isaac Asimovek (1920-1992) robotikaren hiru legeak enuntziatu zituen: robot batek ez dio kalterik egingo gizaki bati, ezta, ezer egin gabe, kalte hori jasaten utziko ere; robot batek gizakien aginduak beteko ditu, lehen legearekin talka egiten dutenak izan ezik; eta robot batek bere existentzia babestuko du, babes horrek aurreko biekin talka egiten ez duen bitartean. Irakur itzazu berriro, eta ikusiko duzu zergatik iraun duten laurogei urte: lehentasunez ordenatutako hiru betebehar dira, halako moldez non, bik talka egiten dutenean, esana baitago zeinek irabazten duen. Horixe da, hain zuzen, giza etika bati falta izan ohi zaiona. Eta ikusiko duzu, halaber, zergatik idatzi zituen Asimovek berrogei ipuin haiekin: ia guztien muina da aurkitzea zein egoeratan dakarten hirurek, hitzez hitz aplikatuta, hondamendia.
Metafisika eta birtualtasuna. Birtualtasuna izateko beste era bat ote da? Gizakiok beti izan dugu irudimena —existentzia fisikorik ez duten gauzak bistaratzeko gaitasuna—, eta (oraindik) gertatu ez diren egoerak proiektatu ahal izan ditugu10.
Orain gure arreta harrapatzen duten pantailei itsatsita bizi gara, etengabe irudiak eta soinua erakusten dizkigutenei. Badaude, are, errealitate birtualeko betaurrekoak ere, esperientzia murgilgarriagoa izan dadin. Baina AAOk, kontzientzia balu, mundu osoak sortu ahal izango ditu bere barruan, guk dugun bezalako gorputzik izan beharrik gabe. Zer errealitate mota izango da hori? Zer izate izango du, zer entitate? Iritsiko ote da unea errealitatea eta errealitate birtuala bereizi ezin izango ditugunean? Etengabe ingurune birtual batean murgilduta bizi ahal izango ote gara, The Matrixek edo, adeitsuago, WALL·Ek planteatzen duten bezala?
AAk planteatzen dituen galdera eta arazo guztiok zientzia-fikzioko egileen irudimen basatira mugatuta zeudela zirudien, baina AA gure bizitzen parte da jada, nahi ala ez. Beraz, haren aurrean jarrerarik onena hurbiltzea da, hura ezagutzeko, eta, horrela, ulertu eta gure bizitzetan duen eragina kontrolatu ahal izateko, ahal den neurrian. AA norantz lerratuko den gure esku dago —eta hori ezin txarragoa nahiz bikaina izan daiteke—, baina beharbada, luze gabe, AAOren esku ere egongo da. Ikusiko dugu.
Robb, D., Heil, J. eta Gibb, S. (2023). Mental Causation. In E. N. Zalta eta U. Nodelman (arg.), The Stanford Encyclopedia of Philosophy (Spring 2023 arg.). https://plato.stanford.edu/archives/spr2023/entries/mental-causation/↩︎
Kirk, R. (2023). Zombies. In E. N. Zalta eta U. Nodelman (arg.), The Stanford Encyclopedia of Philosophy (Fall 2023 arg.). https://plato.stanford.edu/archives/fall2023/entries/zombies/↩︎
Levin, J. (2023). Functionalism. In E. N. Zalta eta U. Nodelman (arg.), The Stanford Encyclopedia of Philosophy (Summer 2023 arg.). https://plato.stanford.edu/archives/sum2023/entries/functionalism/↩︎
Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433-460. Jatorrizkoa ez da kontatu ohi den «testa». Turing saloi-joko batetik abiatzen da: gizon bat, emakume bat eta, idatziz, nor nor den asmatu behar duen norbait. Eta lehenengo biak ez dabiltza joko berean, eta horixe da xehetasun ederra: gizona hura engainatzen saiatzen da, eta emakumea hari laguntzen. Gero baino ez du galdetzen Turingek zer gertatuko litzatekeen makina batek gizonaren lekua hartuko balu.↩︎
Cole, D. (2026). The Chinese Room Argument. In E. N. Zalta eta U. Nodelman (arg.), The Stanford Encyclopedia of Philosophy (Summer 2026 arg.). https://plato.stanford.edu/archives/sum2026/entries/chinese-room/. Erantzunik serioena sistemena da: txinera ulertzen ez duena gizona da, baina ulertuko luke haren, eskuliburuaren eta paperen multzoak. Searlek erantzuten du: buruz ikas dezala eskuliburua eta atera dadila aire librera; orduan bera da sistema osoa, eta ezer ulertu gabe jarraitzen du.↩︎
Diziplina bera 1956tik existitzen da, Dartmoutheko konferentzia egin zenetik; John McCarthyk aurreko urtean sortua zuen terminoa, konferentzia deitzen zuen proposamenean. Alan Turing izan zen haren aitzindaria.↩︎
Gutariko gehienontzat auto autonomo bat urrun dago oraindik, baina Roomba xurgagailu automatikoak berak ere baditu jada AAdun bertsioak.↩︎
Gogoratu alborapen kognitiboez hitz egin genuela pentsamenduaren erroreak lantzean (§59).↩︎
The Island filmak ere dilema etiko interesgarri asko planteatzen ditu. Gizakien aurka matxinatzen diren makina humanoide adimendunei dagokienez, hor duzu The Terminator saga. Edo 2001: A Space Odyssey klasikora jo dezakezu.↩︎
Gogoratu giza izaeraz hitz egitean landu genituen gizakien ezaugarri espezifikoak (§28).↩︎