Að greina gervi­greind

Mikið hefur verið rætt og ritað um háskólana á síðustu vikum og hefur hugvísindafólk minnt á stöðu þeirra sem sjálfstæðar stofnanir sem hafa það hlutverk að þróa nýja þekkingu í gegnum rannsóknarstarf. Má ætla að hér sé verið að bregðast við nýjum áherslum háskólaráðherra á STEAM greinarnar, þ.e. vísindi, tækni, verkfræði, listir og stærðfræði, og tengingu þeirra við atvinnulífið. Eðlilegt er að hugvísindafólk verði hugsi yfir þessum áherslum, þar sem lítið hefur verið fjallað um mikilvægi hugvísindanna. Ráðherra hefur þó bent á að það sé háskólanna að deila fjármunum sem ríkið veitir þeim og samkvæmt því er það innanhússmál skólanna hvernig fjármagn skiptist milli fræðasviða. En auðvitað hefur stefnumótun áhrif og hefur umræðan því snúist um grunngildi menntunar, hlutverk háskóla og hvort meta eigi gildi menntunar eftir reiknilíkönum sem snúast um atvinnulífið í þröngum skilningi eða með víðari skírskotunum til samfélagsins almennt.

Sjálfur er ég hugvísindamaður með annan fótinn í tækniþróun gervigreindar á sviði tónlistar og sköpunar. Í rannsóknum mínum fæst ég við að rannsaka gervigreind í gegnum listir, því að í listunum má nálgast hluti á annan hátt en í tölvuvísindum eða verkfræði. En í þessum pistli langar mig hinsvegar að beina linsunni á það hversvegna hugvísindin eru ekki eingöngu mikilvæg fyrir menningu okkar, listir og þjóðarsjálfsmynd, heldur algjörlega lífsnauðsynleg fyrir það tímabil stórkostlegra tæknibreytinga sem við erum að stíga inn í.

Sú gervigreind sem yfirleitt er vísað í þessa dagana er í stuttu máli byggð á gervitauganetum sem eru þjálfuð með gífurlegu magni af gögnum en byggjast ekki á reglum sem skrifaðar eru af forriturum. Arkitektúr og þjálfun þessara tauganeta (til dæmis af tegundunum Generative Pre-trained Transformer eða Generative Adversarial Networks) eru verkfræðilegt undur sem hefur komið helsta tölvuvísindafólki um allan heim í opna skjöldu. Þegar þessi tauganet eru þjálfuð búa þau til líkan úr þeim upplýsingum sem þau eru mötuð af. Það sem er svo sláandi í nýjustu gerðum taugalíkana, líkt og tungumálalíkansins GPT, er geta þeirra til að draga saman aðalatriði, eða setja svör upp í röklega punkta og tengja saman upplýsingar. Einnig þykir athyglisvert hversu mikla þjálfun chatGPT hefur fengið í siðferði, þar sem erfitt er að fá það til að segja nokkuð sem gæti sært eða móðgað. Her af kenýsku láglaunafólki vann við það að svæla alls kyns óværu úr þessum mállíkönum. Mörg þeirra þurfa nú áfallahjálp eftir hroðann sem þau þurftu að lesa til þess að hægt sé að hlífa okkur við honum.

Nú er ljóst að þessi nýju líkön eru farin að hjálpa vísindamönnum við störf sín, t.d. við að raða saman mögulegum efnasamböndum eða greina sjúkdóma. Þau geta forritað og fundið villur í kóða skrifuðum af mannlegum forriturum. Þau geta lært að spila leiki eins og skák eða Go, ekki með því að kenna þeim reglurnar, heldur mata þau á fyrri leikjum. Í slíkum leikjum geta þau komið með snjöll útspil, líkt og þegar AlphaGo vann heimsmeistarann í Go með frumlegum leik sem aldrei hafði áður sést og vakti undrun Go-samfélagsins. Eins og flestum er kunnugt þá getur þessi tegund af gervigreind búið til myndir í ólíkum stílum, blandað saman höfundareinkennum og tímabilum, gert hreyfimyndir og samið tónlist. Allt er þetta hægt því að líkanið hefur verið matað af gífurlegu magni af upplýsingum sem mynda „þekkingu“ líkansins.

Hinsvegar geta tauganetin ekki stundað rannsóknir, skapað frumlega list eða beitt gagnrýninni hugsun, þótt svo kunni að virðast. Þau geta hjálpað okkur þegar við höfum framkvæmt rannsóknirnar, þau geta dregið þær saman, og að því er virðist túlkað þær, en allt þó innan ákveðinna marka, því þekking gervigreindarinnar byggir á umfangi þess sem hún hefur lesið. Þannig er líklegt að við fáum nokkuð góð svör ef við spyrjum gervigreindina eitthvað um Beethoven, því gífurlega mikið hefur verið skrifað um hann, en líklegra væri að við fengjum tómt bull ef við spyrðum um Jón lærða. Ég gerði tilraun og spurði chatGPT sem sagði mér að Jón hefði verið uppi á 12. öld, sonur Guðmundar Arasonar og höfundur Jónsbókar. Hann hafi numið lögfræði, guðfræði og heimspeki. Þeir sem til þekkja vita að allt þetta er rangt og þannig er ekki að undra að chatGPT er stundum kallað „hrútskýrandi á sterum“.

En hvað hefur þetta með hugvísindi að gera? Það er ljóst að gervigreind mun ekki stunda neinar frumlegar rannsóknir í sagnfræði, tungumálum, mannfræði eða heimspeki. Hún getur dregið saman upplýsingar sem stundum eru réttar svo lengi sem nægt magn er fyrir hendi á því sviði sem spurt er um. Þannig að ef við viljum skilgreina okkur sem þjóð í samfélagi þjóða með því að skilja sögu okkar, rækta menningu og einstakt tungumál, þá þarf miklu fremur að styrkja hugvísindin. Í reiknilíkönum mætti setja það þannig upp að land sem á sér sterka sögu og menningu með tónlist, kvikmyndum, bókmenntum, sviðslistum, hönnun og myndlist sé meira spennandi áfangastaður fyrir ferðamenn og sérfræðinga í vísindum, tækni og nýsköpun en land sem hefur glatað menningu sinni (og þar með sjálfsmynd). Fólkið sem við viljum laða að til að starfa á sviðum menntunar, vísinda, tækni og nýsköpunar gerir að öllu jöfnu strangar kröfur hvað varðar menningu og listir þar sem það býr og því stendur ástand menningarlífs í beinu sambandi við líkurnar á atgervisflótta og atgervislokkun.

En hvernig getur gervigreindin stutt við menningu og gagnrýna hugsun? Hugvísindin eru byrjuð að nota gervigreind og eru virk í að þróa þá tækni í þverfaglegu samstarfi við tölvuvísindafólk. Þannig eru stafræn hugvísindi (e. digital humanities) nú að þróa verkfæri sem gera okkur kleift að lesa ógrynni texta sem við getum greint eftir ólíkri aðferðafræði hugvísindanna. Hér má til dæmis minnast á aðferð fjarlesturs (e. distance reading) þar sem gervigreindin getur greint mynstur í textum og tengt saman textabrot á hátt sem væru manneskjum ómögulegt að gera. Vel má vera að við fáum loks úr því skorið hver sé höfundur Njálu með þessari aðferð.

Hlutverk hugvísindanna er þó enn mikilvægara þegar litið er til þeirra áhrifa sem gervigreindin mun óhjákvæmilega hafa á okkar samfélag. Hugvísindin munu verða ómissandi ef við viljum ekki kremjast í tannhjólum tækninnar. Staðreyndin er sú að þessi nýja tegund gervigreindar er orðin að vissri ógn fyrir samfélög um allan heim. Gervigreindin er nú þegar farin að hafa áhrif á hvernig nemendur stunda nám, hún býr til upplýsingar sem rata á netið sem eru hreinlega rangar, hún breytir því hvernig við hugsum, vinnum úr upplýsingum og drögum ályktanir. Spurningin er hvernig við getum treyst gervigreindinni þar sem við getum ekki vitað nákvæmlega hvernig hún vinnur þær upplýsingar sem hún framleiðir (til er heilt rannsóknarsvið sem heitir XAI eða Explainable AI þar sem fengist er við að þróa aðferðir til að veita okkur skilning á hvernig gervigreindin „hugsar“). Þetta er orðið svo áríðandi að helstu frumkvöðlar á sviði gervigreindar hafa farið þess á leit að við hægjum á þróun hennar og Evrópusambandið er að vinna í lagasetningu á gervigreind með hugmyndir um traust, skilning og siðferði að leiðarljósi.

Hvernig getum við þá treyst gervigreindinni? Hér er endalaus vinna fyrir hugvísindin. Þegar fyrirtæki í Kaliforníu eru farin að skilgreina hvað er siðferðilega rétt og rangt í þjálfun tungumálalíkana þurfum við að staldra við og spyrja okkur hvaða siðferði það sé. Er þetta íslensk menning sem við upplifum í samtali við mállíkönin? Verðum við að aðlaga okkur að þessum stöðlum eða getum við þróað okkar eigin menningu í gervigreindinni? Hér kemur sagnfræði, þjóðfræði og heimspeki við sögu, sem dæmi. Við þurfum líka að spyrja okkur hvernig texti þetta er, hvaða bókmenntagrein er gervigreindin að þróa? Sama spurning á við um myndlist og tónlist. Hvernig virkar þessi miðill sem nú heldur innreið í okkar þekkingarsamfélag? Hvaða áhrif hefur þessi tækni á þekkingarfræði okkar? Hverjar eru rætur þekkingar okkar þegar við leitum ekki lengur í upprunaleg gögn og hvaða aðferðum beitum við til að sannreyna upplýsingarnar sem gervigreindin framreiðir? Tölvuvísindin fást alla jafna ekki við þessar spurningar og því er þörfin svo brýn á sjónarhorni hug- og félagsvísindanna. Nemendur í öllum skólum landsins eru nú að nota þessa tækni í verkefnaskilum sínum og ritgerðum. Hvernig munum við breyta menntun og námsmati í samræmi við þessa tækni? Blaðamenn eru farnir að nota tæknina við að skrifa greinar, en þó ekki nýjar fréttir enn sem komið er. Og á almennari nótum: hvernig skal bregðast við rit- og hugverkastuldi þar sem notandinn veit ekki hvaðan gervigreindin fær upplýsingarnar (vera má að hún vitni orðrétt í texta án þess að geta heimilda). Lögfræðin mun þurfa að leggja grunn að regluverki hugverka innan gervigreindar.

Svo eru það gögnin. Þjálfun tauganeta byggir á gögnum og það þarf að sækja og matreiðaþau gögn. Gagnafræði (e. data science) er að miklu leyti á sviði hugvísinda og hefur svið stafrænna hugvísinda þróað kenningar um notkun og túlkun gagna í gervigreind. Hvaðan koma þessi gögn og hvernig eru þau notuð? Hver sækir og hreinsar gögnin, hvaða atriði eru notuð til þjálfunar og hverju er sleppt? Þetta eru gífurlega mikilvægar spurningar sem hafa áhrif á það hvernig við hegðum okkur, hver fær vinnu eða lán í banka. Og það eru hug- og félagsvísindin sem hafa bestan skilning á allri þeirri mismunun sem er innbyggð í samfélag okkar, svo sem kynjamisrétti, nýlenduhyggju, kynþáttahyggju og réttindaskerðingu fólks með ólíka líkama og færni.

Loks munum við sennilega spyrja okkur spurninga eftir nokkur ár þegar við lesum inn erfðaefnið okkar og förum að breyta erfðavísum að hentisemi (til dæmis CRISPR). Þarna tekur vísindasiðfræðin við og hana þarf að efla til mikilla muna á komandi árum. Hvað gerist svo í sálarlífi okkar þegar við förum að tala við gervigreindina líkt og við vini okkar og ættingja? Þegar látnir forfeður og -mæður halda áfram að vera til (bæði sem rödd og persónuleiki) í tæki sem við getum spjallað við líkt og þau væru hér hjá okkur? Þessar spurningar eru verkefni fyrir til dæmis mannfræðinga, heimspekinga og sálfræðinga. Hvernig breytast hugsanaferli okkar þegar við getum tengst þessum gervitauganetum með hugaraflinu einu saman? Þegar sjálf hugsun okkar mun spretta úr sambandi heila og vélar, þar sem líkami og tækni renna saman í eitt? Svona mætti endalaust telja, en í þessari málsgrein hef ég haldið aftur af mér, því svo margt ótrúlegt er framundan að ef ég nefndi það hér, er hætt við að fólk tæki mig ekki alvarlega.

Það er ljóst að gervigreindin mun ekki aðeins breyta því hvernig við vinnum og túlkum upplýsingar (hvort sem það er í formi myndar, hljóðs eða texta), heldur mun hún breyta grunnhugmyndum okkar um siðferði, líf og dauða, aðgreiningu sjálfsins, atbeina véla, sambandi fólks og vélmenna, sjálfsskilning, og að endingu sjálfsvirðingu sem þjóðar. Við getum ekki treyst á tölvuvísindin og verkfræðina til að annast verkefni af þessu tagi. Einungis hug- og félagsvísindin hafa tækin og aðferðirnar til að greina gervigreindina út frá þessum sjónarmiðum.

Höfundur er prófessor við tónlistardeild Sussex háskóla og rannsóknarprófessor við Listaháskóla Íslands þar sem hann stýrir rannsóknarverkefninu Intelligent Instruments.