Það eru löngu orðnar gamlar fréttir og á allra vitorði, að auðug­ustu auðmenn heims leit­ist við að koma sér upp heimsenda­bön­k­erum á öruggum slóðum, fjarri stærstu borgum, til að geta beðið af sér hvaða hörm­ungar sem dynja yfir veröld­ina, risið svo upp eins og Fönix á nýrri jörð iðja­grænni þegar allt er um garð gengið.

Alls konar heimsendar eru í boði, auðvitað, pestir, hnatt­hlýnun og kjarn­orku­styrj­aldir. Hugmyndin um heimsendi af völdum gervi­greindar er eins konar meta-heimsenda­spá að því leyti að hún felur ekki í sér neina tiltekna sýn á útfærslu. Í bókinni If Anyone Builds it, Everyone Dies leggur höfund­ur­inn Eliezer Yudkow­sky tölu­verða áherslu á þetta, að hvaða tiltekna mynd sem má draga upp af því hvernig það gerist er áreið­an­lega röng, það eina sem er víst er að ef stóra gervi­greindin kemur til sögunnar, ef einhver setur hana saman, vitvél­ina sem er klár­ari en mann­trítl­arnir sem komu á undan henni, þá muni hún ganga af okkur öllum dauðum. Hvort rökin fyrir því halda vatni, hvort það er rétt ályktun að vél með svo víðfeðma getu hafi óhjá­kvæmi­lega eitt­hvað í ætt við geðþótta, eigin vilja og áform, og verði ekki með góðu móti stýrt af okkur frum­byggj­unum, get ég ekki full­yrt um. Vísbend­ingar um að það gæti verið tilfellið hrann­ast þó upp þessa dagana. Sjálfur held ég ekki að vísinda­menn­irnir sem vara við því séu allir þátt­tak­endur í viða­miklu plotti til að keyra upp hluta­bréfa­verð, né held ég að þeir séu öllu skyni skroppnir, heldur virð­ist nokkur fjöldi þeirra í raun og sanni óttast þennan möguleika.

Ef þú gerir ráð fyrir stór­hörm­ungum og vilt tryggja öryggi þitt og þinna nánustu þá þarftu vistir, já, hreint loft, afþrey­ingu svo allir brjál­ist ekki úr leið­indum, þú þarft svolítið góðan bönker ef þú ætlar að vera þar lengi. Hlífð­ar­fatnað þegar þú hættir þér svo út, ég geri ráð fyrir að nú séu til einhverjir staðlar um þennan viðbúnað og þeir eigi sér nöfn og svo velti það bæði á órum og auðmagni nákvæm­lega hversu mikið fólk gerir af hverju. Auðfólk. Og svo viltu auðvitað tryggja að þessu verði ekki rænt af þér. Ef allur heim­ur­inn er á vonar­völ og aðeins millj­arða­mær­ingar heims­ins eiga virki­lega vel ígrund­aða bönk­era – það eru 3.428 manns, samkvæmt síðasta lista Forbes, í banda­rískum millj­örðum talið, ásamt nánustu fjöl­skyldu hvers og eins er það kannski 12.000 manna hópur eða svo sem lifir handan þeirra marka, hefur komist út fyrir spor­baug í auðsöfnun – ef allur heim­ur­inn er að farast og 12.000 manns vilja tryggja sér holu til að þrauka í, þá dugir áreið­an­lega ekki að fela holurnar, heldur þarf að verja þær fyrir ásækni annarra. Sterka veggi, já, eldtryggðar dyr – en eitt og sér dugir það ekki lengi. Sókn er besta vörnin, til að halda fólki í skefjum þarf helst annað fólk. Áræðið fólk, sann­kall­aða dugnaðarforka.

Douglas Rush­koff heitir banda­rískur fræði­maður, prófessor við City University of New York, sem hefur orðið það á að skrifa vanga­veltur um fram­tíð­ina. Árið 2022 kom út bók eftir hann undir titl­inum: Survi­val of the Richest: Escape Fantasies of the Tech Bill­i­onaires eða Þeir ríkustu lifa af: flóttaf­ant­asíur tækni­bill­j­arða­mær­ing­anna. Bókin hefst á lítilli ferða­sögu. Rush­koff segir að sér hafi verið boðið það sem nam þriðj­ungi árslauna hans fyrir að flytja erindi fyrir fimm auðmenn einhvers staðar í miðri Nevada-eyði­mörk­inni. Rush­koff var flogið á Business Class og á leið­inni sat hann við tölv­una sína og setti saman erindi sitt, hvernig tæknifyr­ir­tæki gætu stutt við grund­vall­ar­hug­myndir hringrás­ar­hag­kerfa – „pain­fully aware that neit­her the ethical value of my words nor the carbon offsets I had purchased along with my ticket could possi­bly compensate for the environmental damage I was doing.“ Svo ég þýði næstu setn­ingu: „Ég var að fjár­magna húsnæð­is­lánið mitt og háskóla­sjóð dóttur minnar á kostnað fólks­ins og stað­anna fyrir neðan mig.“

Gott og vel. Punkt­ur­inn: auðmenn­irnir fimm flugu nær áfanga­stað í einka­þotum og reynd­ust engan áhuga hafa á fyrir­lestri Rush­koffs eða hugmyndum um hringrás­ar­hag­kerfi heldur höfðu mjög tilteknar spurn­ingar sem þeir vildu bera undir hann:

„They started out innocu­ously and predicta­bly enough. Bitcoin or Ether­eum? Virtual reality or augmented reality? Who will get quantum comput­ing first, China or Google?“ En þeim lá á og stöldr­uðu ekki við svör fræði­manns­ins heldur véku í hvert sinn umsvifa­laust að næstu spurn­ingu. „I started to feel like they were test­ing me—not my know­ledge so much as my scrup­les,“ skrif­aði höfund­ur­inn: auðmenn­irnir væru að gá hvar mörk þess lægju sem hann væri tilbú­inn að tala um.

Loks fikr­uðu þeir sig nær viðfangs­efn­inu sem þeim lá á hjarta:

„Nýja Sjáland eða Alaska? Hvor stað­ur­inn verður fyrir minni áhrifum af lofts­lagskrís­unni framundan? Og svo versn­aði það bara. Hvort er meiri ógn, lotslags­breyt­ingar eða lífvopna­hern­aður? Hversu lengi ætti maður að gera ráð fyrir að þurfa að þrauka án utan­að­kom­andi aðstoðar? Ætti neyð­ar­skýli að hafa sitt eigið loft­inn­tak? Hverjar eru líkurnar á mengun grunn­vatns? Loks útskýrði forstjóri verð­bréfamiðl­unar að hann væri næstum búinn að byggja sitt eigið kerfi neðanjarð­ar­byrgja og spurði: „Hvernig held ég yfir­ráðum yfir örygg­is­sveitum mínum eftir atburð­inn?“ Atburð­ur­inn. Það var rósa­mál þeirra fyrir umhverf­is­hrun, félags­legt umrót, kjarn­orku­spreng­ingu, sólstorm, óstöðv­andi veiru eða tölvu­árás sem legði allt í rúst.“

Fræði­mað­ur­inn var mættur til að tala í klukku­stund – fyrir þriðj­ung af árslaunum hans sem prófessor – en:

„Þessi tiltekna spurn­ing hélt okkur uppteknum það sem eftir var klukku­tím­ans. Þeir vissu að þeir þyrftu vopn­aða verði til að verja byrgin sín fyrir bæði ræningjum og reiðum múg. Einn hafði þegar tryggt að tylft sérsveit­ar­manna úr sjóhernum (Navy SEALs) kæmi sér til byrg­is­ins ef hann gæfi þeim merki. En hvernig myndi hann borga vörð­unum þegar jafn­vel crypto-mynt­irnar hans væru orðnar verð­lausar? Hvað myndi halda aftur af vörð­unum að velja sér, fyrr eða síðar, sinn eigin leiðtoga?

Millj­arða­mær­ing­arnir veltu fyrir sér að nota talnalása á matar­birgð­irnar sem aðeins þeir kynnu aðgang­inn að. Eða að láta verð­ina bera einhvers konar ögun­ar­hálsólar¹ í skiptum fyrir að þeir fengju að lifa. Eða ef til vill að byggja róbóta sem gætu þjónað þeim sem verðir og verka­menn – ef sú tækni yrði þróuð „í tæka tíð.““

Nú hljómar þetta jafn fárán­lega og samtími okkar allur. Ég geri ráð fyrir að fræði­mað­ur­inn greini rétt frá, að þessi sena hafi átt sér stað. Og ég geri ráð fyrir að millj­arða­mær­ing­arnir í eyði­mörk­inni hafi áhyggj­urnar sem þeir lýsa. Óháð því hvort þær eru rétt­mætar eru áhyggj­urnar raun­veru­legar og viðbragð þeirra um leið: ekki að stuðla að auknum jöfn­uði og friði eða halda hnatt­hlýnun í skefjum heldur finna sér örugga holu til að bíða í þegar allt fer til fjand­ans. Og ég geri ráð fyrir að einhverjir þeirra hafi, eftir vand­lega umhugsun, komist að þeirri niður­stöðu að þá eftir standi þessi vandi: hvernig maður tryggi að örygg­is­sveit­irnar haldi, í heimsendi, tryggð við yfir­boð­ara sinn.

Að öllu því gefnu virð­ist ekki fjar­stæðu­kennt að álykta að það sé ekki hægt. Að þegar kemur að heimsendi getirðu ekki gert ráð fyrir, ekki full­vissað þig um, að fimustu bardag­menn­irnir sem þú finnur fórni sínum lífum fyrir þitt. Þeir gætu farið öðru­vísi að. Þeir gætu forgangsraðað á annan hátt. Og andspænis því þroti hlýtur einhver að láta sig dreyma um róbóta. Því róbótar hljóta þó að hlýða. Það hafa nú allir iðju­höldar vitað um hríð, að róbótar verða ekki svangir, fara ekki í verk­fall, sýna ekki undir­förli, róbótar gera það sem fyrir þá er lagt.

Nú eru millj­arða­mær­ingar í holu ekki þeir einu sem gætu viljað gera ráð fyrir algerri hlýðni undir­sáta sinna við erfiðar aðstæður. Sama má til dæmis ætla að eigi við um herfor­ingja og hermenn þeirra í hvaða átökum sem er. En höldum okkur við þessa mynd, millj­arða­mær­inga með dósamat í holu. Ef róbótar eru nálæg fram­tíð, þá hvílir það ekki síst á þróun gervi­greindar. Ekki bara mállík­ana heldur allra tauga­net­anna sem nú eru í þjálfun, þeirra sem við tölum við, já, en líka þeirra sem greina myndir, stýra útlimum, og svo fram­vegis. Og það sem er nú þegar að koma á daginn er að nei, þú getur ekki treyst því að þau hlýði heldur. ² Þú getur ekki, virð­ist vera, treyst því að tauga­net sem eru nógu snjöll til að verja líf þitt í heimsendi muni áreið­an­lega líta á það sem algjört forgangs­at­riði. Ekki að óbreyttu.

Og fyrst þeir millj­arða­mær­ingar eru til sem gera ráð fyrir að heimsendir sé á næsta leyti – ef þeir millj­arða­mær­ingar eru jafn­vel til sem finnst það ekki afleit tilhugsun, eru til í hann, svo lengi sem þeir eiga nógu góða holu að skríða í – þá er skilj­an­legt að þeim sé brugðið yfir þessu öllu. Allur almenn­ingur gæti vel hugsað sér að hægja á, taka því rólega, hvað liggur okkur á? En gaur­arnir með holurnar þurfa vélmennin sín. Þar eru ekki bara hluta­bréf í húfi heldur draum­ur­inn um að komast lifandi í gegnum heimsendi. Þeir verða að fá vélmennin. Þeir hljóta að halda þróun­inni gang­andi. Og vona það besta.

Nei, ég ætla ekki að full­yrða að það sé helsti hvat­inn í neinu af þessu. En þessi hugar­heimur er til. Og hann er ekki valda­laus. Í því samhengi er ekki skrítið að ferlið sem tekur við þegar mállíkan hefur verið eimað í ofur­tölvu, ferlið til að tryggja að það þjóni húsbónda sínum, er nú kallað harness­ing. Harness, eins og beisli. Því það þarf líka, þegar allt kemur til alls, einhvers konar ögun­aról um háls­inn á róbótunum.