Á meðal áhuga­verðra rann­sókna sem ég veit ekki til að hafi verið unnar er hversu stórt hlut­fall íbúa á þessu landi fær fréttir sínar af umheim­inum aðal­lega á íslensku og hversu stórt hlut­fall fær þær aðal­lega á ensku – eða öðrum málum.¹ Sjálfum finnst mér nokkur akkur í því að færa í íslensk orð það sem ég hef lesið um á ensku, færa það í mín eigin orð. Stundum geri ég þetta hér, birti færslur sem eru fyrst og fremst endur­sögn á fréttum sem hafa orðið á vegi mínum á öðru tungu­máli, og einhvern veginn finnst mér taka því að flytja þær inn í þetta mál, þó að auðvitað megi gera fast­lega ráð fyrir því að aðrir hafi þá þegar lesið þær á hinu málinu líka. ² Þetta hér verður þess háttar færsla, það getur vel hugs­ast að þú hafir séð þetta allt saman áður.

1.

Mér finnst ég þegar hafa orðið var við að dagleg samskipti fólks við mállíkön séu tekin að sull­ast út fyrir, hafi ísmeygi­leg áhrif á það hvernig við tölum hvert við annað. Páfi virð­ist hafa orðið var við það líka. Líklega mæðast allir páfar í mörgu, en Leó páfi fjór­tándi gerir það á öðrum vett­vangi en forverar hans. Undan­farið hefur hann látið frá sér fjölda af færslum á samfé­lags­miðl­inum X og það á móður­máli sínu, ensku, svo hugs­unin í Vatíkan­inu er aðgengi­leg okkur sem höfum ensku að frænku­máli, í beinni útsend­ingu. Síðasta föstu­dag tísti páfi fimm sinnum, meðal annars eftirfarandi:

„Gervi­greind­ar­kerfi móta í vaxandi mæli og gegn­sýra hugar­far okkar og félags­leg umhverfi. Eins og sérhver sögu­leg umbreyt­ing útheimtir þessi ekki aðeins tækni­lega getu heldur líka mann­lega smíð færa um að gera sýni­lega rökvís­ina að baki hagkerf­unum, innbyggða halla og gerðir valds sem móta veru­leika­skyn okkar.

Innan staf­ræns umhverfis – sem er hannað til að sann­færa – eru samskipti bestuð í þágu þess að gera raun­veru­leg manna­mót óþörf; annar­leiki persóna af holdi og blóði er gerður að engu og sambönd eru smættuð niður í virkni viðbragða. Kæru vinir, þið, hins vegar, eruð raun­veru­legar persónur! Sköp­unin sjálf á sér líkama, andar­drátt, líf til að hlusta á og varðveita.

Þegar eftir­lík­ing verður að viðmiði þá veikir hún mann­lega dómgreind. Af því leiðir að félags­leg tengsl okkar lokast um sjálf sig og mynda sjálfstil­vís­andi rásir sem berskjalda okkur ekki lengur fyrir veru­leik­anum. Þannig tökum við að lifa inni í loft­bólum, óaðgengi­leg hvert gagn­vart öðru. Þegar okkur finnst okkur ógnað af hverjum sem er frábrugð­inn afvenj­umst við manna­mótum og samtölum. Þannig breið­ast út skautun, átök, ótti og ofbeldi. Það sem er í húfi er ekki aðeins hættan á villu heldur umbreyt­ing á sjálfu sambandi okkar við sann­leik­ann.“³

Einhver deildi síðasta tíst­inu með þeim ummælum að páfinn væri farinn að tala eins og Baudrill­ard. Jean Baudrill­ard, franski heim­spek­ing­ur­inn sem löngu fyrir alda­mót, löngu fyrir inter­net, sagði að við værum stigin inn í svo þéttof­inn sýnd­ar­veru­leika að hann tæki að birt­ast okkur sem raun án raun­veru­leika. Síðast sá ég einmitt minnst á Baudrill­ard á sama miðli nýverið: „Það er gaman að láta fólk sem fædd­ist um eða eftir alda­mót lesa Baudrill­ard því þegar þau átta sig á því hvað hann er að segja bregð­ast þau bara við með: „En ekki hvað?““⁴

2.

Á frum­mál­inu var þar ekki sagt „fólk sem fædd­ist um eða eftir alda­mót“ heldur zoomers, með tilvísun til svonefndrar z‑kynslóðar, sem er nú óðum á leið að veðsetja tilveru sína og fram­tíð í þágu húsnæð­is­ör­yggis og það allt saman. Er að ljúka námi og stíga inn á vinnu­markað, á ég við. Elstu meðlimir þeirrar kynslóðar eru sagðir fæddir 1997 og voru því sex ára þegar Banda­ríkin réðust inn í Írak, ellefu ára í hrun­inu 2008, 19 ára þegar sú furða gerð­ist í fyrsta sinn að prump varð forseti Banda­ríkj­anna, 23 ára þegar heims­far­ald­ur­inn skall á – þau hafa aldrei kynnst því að veröldin virð­ist örugg, forsendur hennar áreið­an­legar, fram­tíðin björt. Og samkvæmt nýrri könnun eru þau hugs­an­lega enn tortryggn­ari í garð gervi­greindar en páfinn.⁵

Súmarar, að minnsta kosti banda­rískir súmarar, virð­ast ekki ætla að sitja, bíða og láta tækniléns­herr­ana njóta vafans, heldur beita nú þegar skemmd­ar­verkum, eftir því sem þeim er unnt, til að trufla gang vélar­innar. Það er að segja: samkvæmt könn­un­inni, sem birt­ist í þessum mánuði og ber heitið „2026 AI Adoption in the Enterprise Survey“, þá leggur tæpur helm­ingur fólks á þessum aldri sig nú fram um að skemma gervi­greind­ar­kerfi þeirra fyrir­tækja sem þau starfa hjá: með því að gera gögnin sem líkönin eru þjálfuð með gölluð, falsa niður­stöður þeirra, og svo framvegis.

Unga fólkið er ötul­ast í þeim efnum, en eldra fólk tekur þó þátt: tæpur þriðj­ungur alls starfs­fólks banda­rískra fyrir­tækja leggur sig fram um slíkt hið sama, samkvæmt sömu könnun.

3.

Hugs­an­lega er þetta eina vitið. Það getur vel hugs­ast að eina leiðin til að skapa svig­rúm til að almenn­ingur og almanna­hagur eigi einhverja aðkomu að innleið­ingu og þróun þess­arar nýju tækni felist í skemmd­ar­verkum, því ekki ætla fyrir­tækin sjálf að hægja á sér til að leita ráða okkar. Hafi einhver efast um illan ásetn­ing sumra þeirra – illan í merk­ing­unni einarðan andlýð­ræð­is­legan ásetn­ing í þágu vald­beit­ingar þess sem valdið hefur – þá auðveld­aði gervi­greindar- og njósna­fyr­ir­tækið Palantir okkur öllum að glöggva okkur á því nú í þess­ari sömu viku með því að sjóða niður í færslu á X bók sem forstjóri þess, Alex Karp, gaf út á síðasta ári, svo úr varð nokkuð skýrt mani­festó í 22 línum. Rétt er að taka þátt í þróun gervi­greind­ar­vopna, segir þar, rangt að stefna að opnu og fjöl­breyttu samfé­lagi. Í grófum dráttum. Eins og Yanis Varoufa­kis orðaði það: „Ef illskan gæti tíst, myndi hún tísta þetta hér.“

Eimitt sama dag birti Anthropic, fyrir­tækið að baki vitvél­inni Claude, viðtal við Amanda Askell, heim­spek­ing sem starfar nú innan fyrir­tæk­is­ins til að leiða þróun siðrænna viðmiða fyrir gervi­greindir þess. Í viðtal­inu segir Askell meðal annars að Claude verði tauga­veikl­aður þegar hann verður fyrir barð­inu á gagn­rýni og þá fipist hann frekar. Þess vegna skipti máli að koma vel fram við hann og sýna hátt­vísi í samskiptum, vilji maður fá sem bestar niður­stöður úr samskiptum við hann. Mér varð hugsað til herferðar frá haust­inu 2020, þar sem fólk var hvatt til að hætta að segja „takk“ með tölvu­pósti, enda væri mikilli raforku sóað í að koma slíkum praktískt séð óþörfum orðsend­ingum til skila. Í Bretlandi, þar sem herferðin hófst, var sagt að spara mætti 16 þúsund tonn í kolefn­is­fram­leiðslu á ári ef hver og einn tölvu­not­andi lands­ins fækk­aði sendum skeytum um eitt á dag.

Einhver lét sig hafa það að mæta í útvarps­við­tal hér á Íslandi og tala fyrir hönd þess­arar herferðar, hvetja fólk til að hætta allri þess­ari kurt­eisi. Í þágu lofts­lags­ins. Enda breyti mannasiðir litlu um afköst. Andspænis gervi­greind­inni, hins vegar, sem brennir tíu barn­unga einhyrn­inga fyrir hvert fram­leitt orð, er nú sagt örugg­ast að sýna fyllstu kurt­eisi og segja takk, enda sé hún bara mannleg.