Er einhver hér?
Júragaðurinn, tæknisvartsýni og hvað gerist þegar við töpum fjölbreytileika hugsunar?
Ég elska stórmót í fótbolta; þau eru frábær samræðuvettvangur fyrir fólk sem veit eitthvað um fótbolta, og fólk eins og mig sem getur rétt fálmað í gegnum fótboltasamtal með línum eins og „Þessi Erling Haaland kann sko að skora“ og „Þessi Messi, hann er bara ennþá að, ha“.
Ég hef reyndar held ég aldrei upplifað jafn litla stemmingu í kringum stórmót áður. Ég veit ekki af hverju. Kannski er það því mótið er haldið á dyraþrepi hruns vest-kapítalískrar siðmenningar í kringum áttræðisafmæli appelsínugula mannsins. Hver veit? En hvað sem því líður virðist okkar eigin appelsínuguli popúlisti samt vera orðinn gíraður miðað við Facebookpóstinn sem birtist algjörlega óumbeðið í algrímistímalínunni hjá mér.
Ég ætla svosem ekki að dvelja sérstaklega í nístandi kjánahrollinum sem smaug í gegnum hvert mitt bein þegar ég las þetta létt-aríska rembingsgrín, heldur staldraði ég aðeins við myndina sem fylgdi færslunni.
Það er reyndar engin ástæða til að dvelja við hana. Þetta er mjög kunnugleg nútíma-facebookfærlsa; mjög hefðbundin gervigreindardrulla með þessari sellófan plastáferð sem öskrar: „miðaldra maður sem slær allan texta inn með tveim vísifingrum póstaði mér.“
Við sjáum þúsund svona myndir í hverri viku við þúsund svona pósta.
Valdefling kynslóðar
Það er reyndar smá merkilegt að sjá hvað eldri kynslóðin hefur tekið gervigreindartæknibyltingunni opnum örmum, þegar viðtekni sannleikurinn er hið gagnstæða. Ég þekki þetta af persónulegri reynslu. Móðir mín átti í svipuðu sambandi við Apple TV fjarstýringuna sína og grandalaus farþegi við farþegaþotu sem er beðinn um að taka við stýrinu eftir að flugstjórinn missir meðvitund.
En þegar ég hugsa um það er það líklega vegna þess að, á yfirborðinu í það minnsta, eru þessi gervigreindar mállíkön valdeflandi, á meðan flestar aðrar neytenda-tæknibyltingar eru bæði útilokandi og smánandi. Rafræn skilríki eru smánandi, að borga með símanum en síminn þekkir ekki á þér andlitið því þú ert með nýjan hatt er smánandi. Sjálfsafgreiðslukassar eru smánandi, meira að segja fyrir fólk sem telur sig kunna að nota þá rétt. Svo stendur maður fyrir utan sjálfvirka hliðið í búðinni og veit ekki alveg hvort það á að opnast sjálft, eða hvort maður þurfi að gera eitthvað, þannig að maður veifar höndinni yfir rauða ljósið í von um að eitthvað gerist þangað til einhver hokinn unglingur, hvers eina starf er að aðstoða tæknismánað fólk, opnar fyrir manni. Það er smánandi.
En að nota mállíkan er valdeflandi; einn stærsti sölupunkturinn fyrir hinn almenna borgara er að geta kastað í það hálfkláruðum hugsunum og það snýtir á móti úr sér yfirborðsfögrum og heilsteyptum texta. Það er ekki lengur hindrun að svara tölvupóstum eða rætnum facebook-athugasemdum, eða almennt koma hugsunum á blað. Það er vafalítið valdeflandi þegar það er kannski ekki hæfni sem maður ólst upp við.
Tæknibjartsýni hægrisins
Ef það er einhver sem elskar þessa tæknibyltingu meira en gamla fólkið, þá er það hægrið. Það er kannski líka eðlilegt. Það virðist fylgja bjargfastri trú á einkaframtakið einhverskonar bjargföst trú á að tækni geti leyst allar áskoranir framtíðarinnar. Við þurfum ekki Borgarlínu því sjálfkeyrandi bílar eru rétt handan við hornið, við þurfum ekki íþyngjandi loftslagsaðgerðir því að grænorkubyltingin sér um það sjálf. Það er því eðlilegt að loforðið um skilvirknivæðingu gervigreindar hljómi eins og fullkomin framtíðarsýn.
Þetta er auðvitað í grunninn atvinnulífsmiðuð hugsun. Þessi hugmynd um að æðsti tilgangur tækni sé skilvirknivæðing. Að það sé hægt að draga úr kostnaði, auka framleiðni.
Við erum strax farin að sjá þetta raungerast. Störf eru lögð niður þar sem gervigreind á að dekka stöðugildin. Fyrirtæki eru farin að auglýsa eftir AI-sérfræðingum eða „prompturum“. Gervigreindarsérfræðingar spretta upp eins og gorkúlur. Allir vilja vera með. Enginn vill verða skilinn eftir. Sjálfstæðisflokkurinn í Reykjavík lofaði að nýta gervigreind í auknu mæli til þess að „auka skilvirkni“ borginni í samgöngum, byggingaþróun og allir stafrænni þróun.
Tækni í þessu samhengi virðist nefnilega oftast vera einhverskonar andsvar við innviðum. Andsvar við opinberum rekstri. Í raun er tæknin andsvar við fólki, því fólk er dýrt.
Velkomin í Júragarðinn
“The commercialization of molecular biology is the most stunning ethical event in the history of science, and it has happened with astonishing speed. For four hundred years since Galileo, science has always proceeded as a free and open inquiry into the workings of nature. Scientists have always ignored national boundaries, holding themselves above the transitory concerns of politics and even wars. Suddenly it seemed as if everyone wanted to become rich. New companies were announced almost weekly, and scientists flocked to exploit genetic research. There are very few molecular biologists and very few research institutions without commercial affiliations. The old days are gone. Genetic research continues, at a more furious pace than ever. But it is done in secret, and in haste, and for profit.”
― Michael Crichton, Jurassic Park
Sumarlesturinn minn í ár er Michael Crichton katalógurinn. Þetta eru ekki heimsbókmenntir, en Chrichton var samt ótrúlega naskur að greina það hvernig fólk nálgast nýja og byltingarkennda tækni. Raunar mætti segja að hann hafi verið fullkominn tækni-pessimisti. Flestar bækurnar hafa sömu premísuna: einhver ótrúleg tækni er annaðhvort fundin upp eða uppgötvuð og svo fer restin af bókinni í að útlista hvernig græðgi og vanhæfni mannsins klúðrar henni með hrikalegum afleiðingum.
Þegar ég var 9 ára sýktist ég af Júragarðssturlun. Ég var á ferð með móður minni á Írlandi og einhvern veginn var menningarleg borgarferð ekki að fanga ímyndunarafl mitt. Það mest spennandi sem hafði gerst var að sjá skeggjaða nunnu í strætó. Þannig að mamma dróg mig í bíó á Júragarðinn. Til að gera langa sögu stutta þá sá ég hana 7 sinnum í bíó eftir það og svona hundrað sinnum á spólu. Ég gerði ekkert nema teikna grameðlur og ímynda mér að ég væri Alan Grant að glima við snareðlur. Þetta gekk svo langt að ég keypti meira að segja bókina sem hún var byggð á og þrælaði mér í gegnum allar 400 síðurnar, sem voru augljóslega alls ekki skrifaðar fyrir 9 ára gamalt barn.
Það var því merkilegt að lesa bókina aftur núna þremur áratugum síðar. Á meðan kvikmyndin um Júragarðinn er fyrst og fremst ævintýramynd með léttum andkapítalískum undirtónum, þá er bókin grímulaus hrollvekja. Ég ætla ekki að reifa söguþráðinn í Júragarðinum, en það sem kemur skýrast fram í bókinni er að það er ekki bara hroki vísindamannsins að þykjast geta beislað náttúruna sem er vandamálið, heldur er það hrokinn í bland við græðgina og ofurtrúin á að tæknin geti leyst allt.
Í kvikmyndinni er John Hammond vinalegur gamall karl. Barnalegur ídealisti sem vildi ekkert frekar en að búa til eitthvað ótrúlegt til að gleðja börn heimsins. Í bókinni er hann fyrst og fremst farandsölumaður og svikahrappur. Hann rambar niður á þessa ótrúlegu tækni, en það eina sem skiptir hann máli er hvernig er hægt að hagnast á henni sem hraðast og fyrir sem minnstan tilkostnað. Engir öryggisverðir eða starfsfólk, því það er svo dýrt í rekstri. Bara sjálfvirkni. Engin vopn, því það væri of freistandi að nota þau á risaeðlurnar, og þær eru of verðmætar til að vera drepnar. Allt gert eins ódýrt og hægt er. Ekkert er hugsað til enda. Allt undirboðið og unnið fyrir lægsta samnefnara. En svarið var alltaf að tæknin myndi leysa öll vandamálin. Sem endar auðvitað með því að meira og minna allir eru ristir á hol og étnir lifandi af mismunandi risaeðlum.
Eyjaskeggjarnir á Norður-Sentínel
Ég er samt ekki að reyna að vera einhver tækni-pessimisti. Gervigreindarbyltingin mun með tíma vafalítið valda jákvæðum straumhvörfum í læknisfræði, eðlisfræði, verkfræði. Maður stöðvar ekki framþróun frekar en eyjaskeggjar á Norður-Sentínel að skjóta örvum í áttina að spíttbátum nútímans sem nálgast þau óboðnir.
En það er margt sammerkt með risaeðlunum í Júragarðinum og tæknibyltingu nútímans. Það er ekki tæknin sjálf sem er vandamálið heldur innleiðingin. Þessi algjöri skortur á sameiginlegri sýn. Það er enginn að hugsa um afleiðingarnar; hvað gerist þegar við hleypum einhverju sem við erum rétt að byrja að skilja inn í alla þætti lífs okkar. Samfélagið er rétt byrjað að hugsa um langtímaafleiðingarnar á það hvernig við vinnum hvernig við sköpum, samskipti okkar á milli, upplýsingaóreiðu og fjölmiðlalæsi – en sú umræða er rétt að eltast við skuggann af raunveruleikanum, sem er að það er búið að pakka þessu inn og selja öllum þeim sem vilja kaupa, í öllum þrepum samfélagsins. Vinnustaðir hafa fæstir skapað sér neinar vinnureglur í kringum notkun mállíkana og gervigreindartóla, hvað þá siðareglur. En allir eru komnir með fyrirtækja áskrift að ChatGPT, Claude, Gemini. Spurðu tjattarann. Hentu þessu í gegnum tjattarann.
Það er risastórum fúndímental spurningum spurningum ósvarað; spurningar sem stjórnvöld, fyrirtæki, menntakerfið og vinnumarkaðurinn þurfa að takast á við. Getur gervigreind framkvæmt vinnu? Getur hún átt verkefni? Getur mállíkan skapað eitthvað? Hver er réttur einstaklings gagnvart gervigreind? Þarf gervigreind að sýna fram á hæfni, eða bara vera ódýr og nógu góð?
En sem samfélag náum við aldrei að eiga þetta samtal því tæknin étur okkur áður en við getum byrjað. Hún smýgur inn í alla þætti tilveru okkur, og við hleypum henni inn. Við leyfðum Facebook að éta upp allt líf okkar, þannig að það er ekki hægt að eiga barn lengur án þess að vera virkur í fjórum facebookhópum og átta hópspjöllum. Hver tæknibylting er hraðari en sú síðasta og við sífellt fjarri því að ná utan um eitthvað samhengi. Allt er bara komið og við sitjum eftir eins og gamalmenni með AppleTV fjarstýringu. Stundum vildi ég að ég gæti bara hlaupið út í flæðarmálið og dritað örvum í átt að hinu óumflýjanlega. Kaupa mér smá meiri tíma.
Eyðimerkurganga hugsunar
“In the information society, nobody thinks. We expected to banish paper, but we actually banished thought.” - Ian Malcolm
Mér finnst þetta allt merkilegar og áleitnar spurningar, en líka frekar boring og óáþreifanlegar. Það sem mér finnst áhugaverðara, og í raun miklu meira ógnvekjandi, er hvernig þessi tækni birtist í dag, hjá okkur venjulegu fólki.
Eins og ég sagði í upphafi þá er þessi tækni fyrst og fremst aðgengileg. Í raun svo aðgengileg að hún er nánast eins og töfrar; einfaldur textagluggi sem maður getur spurt af öllum heimsins spurningum. Hin raunverulega Grænjaxlahandbók.
Og ég hef notað hana sem slíka; hún kenndi mér að flísa eldhúsvegg, bera saman mismunandi tegundir af pressu-kæliboxum, lét hana reikna mismunandi tegundir af húsnæðislánum. Hvernig ég geri tælenska marineringu fyrir kjúklingalæri og laga brakið í IKEA Sundvik barnarúmi. Allt er þetta ótrúlega þægilegt og gagnlegt. Svo þægilegt að ég er farinn að standa sjálfa mig að því að slá hluti þarna inn áður en ég byrja einu sinni á því að reyna að leysa vandamálið sjálfur. Af hverju að hugsa of lengi? Þvílík tímasóun þegar einhver annar er löngu búinn að því fyrir mig.
Ég finn það hjá sjálfum mér að ég fæ meira óþol fyrir því að marinera mig (eins tælenskt kjúklingalæri) í eigin hugsunum. Ég sæki strax í dópamínskot upplýsingarinnar. Og það versta er að það er ekki einu sinni víst að vélin segi manni satt. Kannski er hún bara að segja manni eitthvað. Fylla inn í eyðurnar (smá eins og froska-erfðaefnið sem var notað til að fylla inn í DNA eyðurnar hjá risaeðlunum í Jurassic Park og varð til þess að þær gátu skipt um kyn og fjölgað sér…erum við enn í þessari samlíkingu).
Og þetta er ekki bara ég að vera sköllóttur miðaldra maður að garga út í tómið. Rannsókn sem var gerð hjá MIT þar sem fólki var skipt í þrjá hópa og þau látin skrifa ritgerðir. Einn hópur fékk enga aðstoð, einn notaði hefðbundnar leitarvélar og þriðji notfærði sér ChatGPT. Niðurstöðurnar sýnd fram á að hópurinn sem notaði gervigreind sýndi stöðugt fram á minni heilavirkni við skrifin, varð sífellt latari við hverja ritgerð og upplifði minna eignarhald yfir efninu. Hann mundi verr hvað hafði verið skrifað og átti erfitt með að ræða um efnið eða rökstyðja það.
Ég er enginn MIT vísindamaður, en það getur varla verið gott að kerfisbundið forheimska sjálfan sig, hvað þá þegar heilabilun er sífellt algengara og alvarlegra vandamál fyrr á lífsleiðinni. Það er ekki nóg að gera bara Sudoku og Orðlu dagsins.
Óþægindadalurinn
“Straight linearity, which we have come to take for granted in everything from physics to fiction, simply does not exist. Linearity is an artificial way of viewing the world. Real life isn't a series of interconnected events occurring one after another like beads strung on a necklace. Life is actually a series of encounters in which one event may change those that follow in a wholly unpredictable, even devastating way. That's a deep truth about the structure of our universe. But, for some reason, we insist behaving as if it were not true.” - Ian Malcolm
Ég hef sjálfur aldrei leyft mér að nota þessa tækni til að skrifa fyrir mig. Ég er kannski heppinn að vera ágætlega ritfær og því ekki sama freistingin fyrir mig.
Þar finnst mér víglínan vera. Tölvur hafa auðvitað hjálpað okkur að skrifa síðan Friðrik Skúlason gaf út Villupúkann einhvern tímann á 9. áratugnum, en það er einhver fúndímental munur á því að leiðrétta texta og að skapa hann. Og fullskrifaður gervigreindartexti er farinn að spretta upp út um allt. Langir facebookpóstar, löng facebook-komment. Sífellt fleiri skoðanagreinir á Vísi eru augljóslega skrifaðar af gervigreind. Það sem angrar mig við þetta er að texti er hugsun formgerð. Textinn, hvort sem hann er áferðarfallegur eða knappur, er framlenging á þér. Og texti skrifaður af gervigreind, þótt að þú sem einstaklingur hafir „promptað“ hann er ekki framlenging á þér. Hann er ekki framlenging á neinu. Hann er ekkert öðruvísi en sellófan-víkingamyndin hans Sigmundar Davíðs.
Hann er næstum eins og manneskja hafi skrifað hann, en það er einhver slikja. Eitthvað ótrúlega óþægilegt við hann. Uncanny valley, eða óþægindadalurinn (þýðing sem ChatGPT stakk upp á, sem ég gúglaði og fann bara eina leitarniðurstöðu, sem var einhver Bifrastar ritgerð um gervigreind, þar sem höfundurinn hafði líklega spurt ChatGPT hvað væri góð þýðing á uncanny valley)…allavegana, óþægindadalurinn er hugtak sem lýsir tilfinningunni sem fólk upplifir eitthvað sem virðist næstum mannlegt, en er það ekki. Eins og mannleg húð sem hefur verið toguð yfir andlitið á vélmenni og látið brosa og vera kurteist.
Þannig upplifi ég gervigreindartexta. Það er oft ekki einu sinni því það sé neitt tæknilega að textanum, hann er bara ekki skrifaður af manneskju.
Þessi tækni mun líklega komast á þann stað eftir örfáa mánuði að hún geti skrifað sannfærandi texta út frá sjónarhorni einhvers. Einhvers. Ekki þínu sjónarhorni. Því það er þitt sjónarhorn og aðeins þú getur komið því í orð, þín orð. Þú munt aldrei búa í textanum sem gervigreind skrifar, sama hversu vel þú promptar hann.
Það eina sem við höfum er nefnilega okkar sjónarhorn, okkar eigin rödd. Hún er kannski ekki alltaf meitluð og hnyttin, en hún er framlenging af okkur. Texti eftir þig er einhvers virði, en hvers virði er texti eftir bara einhvern? Eða raunar, eitthvað. Hvers virði er mynd eftir eitthvað? Þessar vélar munu getað skrifað áferðarfallegan prósa um eitthvað sem lítur út eins og hugmyndir og tilfinningar, en hvers virði er ljóð sem er eftir ekkert, sem kemur ekki úr neinni lifaðri reynslu. Það er ekkert.
Og á örfáum mánuðum erum við komin þangað að gervigreindarsmíðuð komment eru farin að svara gervigreindarskrifuðum facebookpóstum sem voru smíðaðir í einhverjum confirmation-bias bergmálshelli meðvirks ChatGPT glugga. Og þegar upplýsingaóreiðan hefur aldrei verið meiri verður stöðugt erfiðara að gera greinarmun á því hvað er sannleikur, hvað er manneskja, hvað er samtal eða hvað eru bara vélmenni.
Kenningin um hið dauða internet segir að sífellt stærri hluti internetsins séu bara falsmenni að ræða við önnur falsmenni um falskar upplýsingar. Bara sjálfstýring. Svo kjögum við mannfólkið einstaka sinnum í gegnum eyðimörkina hrópandi „er einhver hér?“, en getum aldrei treyst því hvort svarið sé frá manneskju eða einhverju bergmáli.
En Krummi, þetta er ekki svona djúpt. Það er ekki allur texti prósi. Það er ekki allt sem maður skrifar einhver ótrúleg framlenging af sjálfinu. Raunar er nánast allt sem maður skrifar bara eitthvað. Óskilvirk samskipti. Allt of mikið áreiti sem krefst endalauss viðbragðs. Og ef maður þarf að svara 50 tölvupóstum, hvað er þá rangt við að nota tækni sem hjálpar manni að komast í gegnum daginn?
Kannski ekkert. En þá má líka byrja að spyrja sig spurninga um eðli vinnu og samskipta í nútímanum.
Ég las fyrir mörgum árum viðtal við þrívíddarhönnuð sem bjó til tæknibrellur fyrir kvikmyndir. Hann talaði um að þegar að tæknin komst á þann stað að geta búið til fullkomnar eftirmyndir hluta hafi óþægindadalurinn dýpkað enn meira. Fólk hafnaði því að þær væru raunverulegar. Það var ekki fyrr en ófullkomleika var bætt við myndirnar; sprungur í veggina, skít á gluggana, ófullkomnar hreyfingar á myndavélinni sem þeim tókst að selja fólki lygina. Gervigreindin mun reyna þetta líka. Bæta ófullkomleika í texta og myndir. En ég held að við munum alltaf sjá í gegnum það. Það er eitthvað í okkur sem skynjar manngerða hluti, að það sé eitthvað á bak við. Nánast trúarleg skilgreining. Þess vegna verður aldrei nokkurn tímann merkilegur texti skrifaður af vél. Bara ótal tilgangslausir tölvupóstar til að fylla upp í hið dauða internet.
Ef þú hataðir þessa grein ekki væri frábært ef þú mundir skrá þig á póstlistann. Það væri svo enn frábærara ef þú mundir deila eða senda á eins og einn vin. Þannig vex ég og dafna.
👏👏👏