Gervigreind og dómgreind Henry Alexander Henrysson skrifar 10. október 2025 11:02 Það er mögulega að bera í bakkafullan lækinn að birta enn eina greinina hérna á Vísi um gervigreind. Mér finnst ég þó knúinn til að skrifa nokkur orð eftir að ég var viðmælandi í þætti af Silfrinu á RÚV fyrir nokkru síðan. Ég hef svo sem alveg tekið þátt í fjölmiðlaumræðu áður en sjaldan fengið eins mikil viðbrögð sem mörg hver byggðu á ákveðnum misskilningi um að mér gæti ekki verið alvara. Í þættinum sagðist ég reyna að halda mig frá skapandi gervigreind – að minnsta kosti eins og mér væri frekast unnt. Gervigreind sé vissuleg víða þannig að það geti verið flókið að halda sig alveg frá henni. Ég líkti þessari afstöðu minni við að vera grænkeri varðandi gervigreind (AI Vegan). Það líkingarmál kemur svo sem ekki frá mér heldur hefur það verið að ryðja sér til rúms undanfarið. Hugmyndin byggir á því að ástæðurnar sem gera mann tortrygginn í gerð óheftrar notkunar á skapandi gervigreind séu mögulega ekki ólíkar því að halda sig frá neyslu kjöts. Það eru fórnarlömb í þessu eins og öðru. Sjálfur hef ég mestan áhuga á höfundarréttarmálum sem þróun og notkun mállíkana hefur að miklu leyti bandað frá sér. Lítið tillit hefur verið tekið til áhyggna skapandi stétta. Einnig eru umhverfisáhrifin umtalsverð. Hver og ein notkun er mögulega ekki orkufrek en það felst mikil ábyrgð í því að ýta öllum í fang gervigreindar enda mun það kalla á áður óþekkta orkuþörf. Að lokum eru áhrif á heilsu okkar mögulega neikvæð. Í tilviki gervigreindar hef ég áhyggjur af andlegri heilsu okkar. Það er hollt að hugsa og fátt bendir til þess að við gerum of mikið af því. Ef gervigreind minnkar hugsun okkar er hætt við að áhrifin geti orðið býsna alvarleg. Misskilningurinn sem vaknaði við orð mín í Silfrinu kemur til vegna þess að fólk heldur að ég leyfi engar undantekningar. Mögulega var ég ekki nógu skýr með það. Auðvitað eru margir hópar og fagstéttir sem mega, og mögulega eiga að, nota gervigreind. Ég ætla til dæmis ekki að segja forriturum að þeir eigi að neita sér um stórkostlega tímasparandi tækni. Og í náinni framtíð verður óðs manns æði að neita heilbrigðisstéttum sem byggja starf sitt á óhóflegu magni upplýsinga um tækni sem gerir starf þeirra öruggara og skilvirkara. Þá væri galið að ætlast til þess að störf sem byggja að stórum hluta á afgreiðslu erinda af svipuðu tagi nýti ekki svona tækni til að aðstoða sem flesta þjónustuþega. Öll þurfum við svo að nota gervigreind öðru hvoru enda að mestu búin að taka við hefðbundinni leit á netinu. Punkturinn hjá mér er hins vegar fremur einfaldur: Þetta eru undantekningar. Meginreglan á að vera að við spörum við okkur tækni sem dregur úr hugsun okkar og brenglar hugmyndir okkar um ábyrgð á eigin ákvörðunum og verkum. Margs konar nýsköpun er bæði mikilvæg og eðlileg. Og auðvitað er að skapast mikill iðnaður í kringum spennandi tæknilausnir sem svo tengjast á ólíkan máta þeim fyrirtækjum sem bjóða upp aðgang að skapandi gervigreind. Sumt er sniðugt og mikilvægt fyrir tiltekna aðila á meðan annað mætti missa sín. Á meðan við erum í þessum byrjunarfasa er sérstaklega mikilvægt að vera gagnrýnin á það sem verið er að bjóða upp á. Einnig er mikilvægt að muna að sjónarhornin eru alltaf fleiri en eitt. Gervigreindarlausn getur verið hentug fyrir vinnustað en um leið skaðað vinnumarkað. Samfélagsleg áhrif geta einnig verið umtalsverð þótt svo virðist ekki við fyrstu sýn þegar starfsfólk tekur hana í þjónustu sína. Þröngt sjónarhorn kallar á takmarkaðar vangaveltur. Við megum þó ekki gleyma því að umræða samtímans snýst um tiltekna gerð gervigreindar sem ætlað er að koma í stað þess að við höfum hingað til talið vera okkar mannlegustu eiginleika. Margs konar algoritmar eru fyrir löngu orðnir fyrirferðarmiklir í tilveru okkar. Sumir fara jafnvel ansi nálægt því að stjórna henni. En við erum ekki að tala þessa dagana um slíka gervigreind. Skapandi gervigreind snertir svo viðkvæma strengi í okkur því hún virðist geta leyst okkur undan því sem getur reynst krefjandi þáttur í mannlegri tilveru: Að beita dómgreind okkar. Við þurfum ekki að sitja við tölvuskjáinn og velta fyrir okkur hvernig er best að orða hlutina. Texti (og auðvitað myndir líka) verður til á örskotsstundu. Flokkun á flóknum gögnum er komin á blað án þess að við þurfum að liggja yfir þeim. Auðvitað reynum við að telja sjálfum okkur og öðrum trú um að við sendum ekkert frá okkur nema eftir gagnrýna yfirlegu og ígrundun. En innst inni vitum við að tímasparnaðurinn færir okkur einfaldlega beint að næsta verkefni. Auðvitað er það rétt sem annar viðmælandi sagði í Silfursþættinum: Hættan er meiri af heimsku fólki en greindum vélum. Sjálfur hef ég aldrei fylgt eftir pælingum um að gervigreind sé beinlínis hættuleg. Það er engin ástæða til að ætla að okkur standi bein hætta af þeim gerðum gervigreindar sem núna eru komnar fram, hvað svo sem gerist í framtíðinni með frekari byltingum í þessari tækni. Hættan er óbein og hún byggist fyrst og fremst á því dómgreind okkar fari hrakandi með sífellt meiri notkun gervigreindar sem færir okkur full skapaðar niðurstöður. Dómgreind þroskast við notkun. Notkunin felst í að beita henni í sköpunarferlinu – hugsunarferlinu – en ekki til að fara yfir og bera saman niðurstöður. Að lokum vil ég segja að ein ástæða þess að ég vil minna á þessar skoðanir mínar er sú að núna eru stjórnvöld um allan heim að setja sér alls konar markmið og stefnur um gervigreind. Það sem ég hef séð af slíkri stefnumótun er einkennilega takmarkað. Hér á Íslandi getum við ekki bara sett okkur stefnu um svona fyrirbæri úr samhengi við alla þá þætti tilverunnar sem gervigreindin snertir. Við þurfum til dæmis einhvers konar viðbragðsáætlun um íslenskar bókmenntir áður en við fögnum þeim tækifærum sem gervigreind færir þjóðinni. Og það gengur ekki upp að tala fjálglega um möguleika gervigreindar í heilbrigðismálum ef um leið til streitu er haldið „hörgulstefnu í vísindamálum“ og menntun ungs vísindafólks, en staðan í þeim málum var útskýrð á ítarlegan hátt í grein hér á Vísi nýlega. Vönduð innleiðing á gervigreind felst ekki eingöngu í því að hlusta á þá sem segja okkur hvað sé mögulegt. Höfundur er heimspekingur. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Henry Alexander Henrysson Gervigreind Mest lesið Hvernig vogar þú þér að gera grín að Möggu Stínu? Elliði Vignisson Skoðun Rúmfatalagerinn, ekki fyrir alla! Ragnar Gunnarsson Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun Ráðgátan um RÚV Helgi Brynjarsson Skoðun Er edrúlífið æðislegt? Jakob Smári Magnússon Skoðun Flækjustig í skjóli einföldunar Kolbrún Georgsdóttir Skoðun Ísland þarf engan sérdíl Magnús Árni Skjöld Magnússon Skoðun Lausnir í leikskólamálum Kristín Thoroddsen Skoðun Hvetjandi refsing Reykjavíkurborgar Halla Gunnarsdóttir Skoðun Hvað er í gangi? Jón Pétur Zimsen Skoðun Skoðun Skoðun Reykjavíkurmódelið er skref í rétta átt – fyrir börnin og starfsfólkið Bozena Raczkowska skrifar Skoðun Varasjóður eða hefðbundið styrkjakerfi? Birgitta Ragnarsdóttir skrifar Skoðun Geðheilsa á tímum óvissu og áskorana María Heimisdóttir skrifar Skoðun Kópavogsmódelið Ragnheiður Ósk Jensdóttir skrifar Skoðun Villta vestur ólöglegra veðmálaauglýsinga á Íslandi Skúli Bragi Geirdal skrifar Skoðun Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir skrifar Skoðun Ísland þarf engan sérdíl Magnús Árni Skjöld Magnússon skrifar Skoðun Er edrúlífið æðislegt? Jakob Smári Magnússon skrifar Skoðun Rúmfatalagerinn, ekki fyrir alla! Ragnar Gunnarsson skrifar Skoðun Að gera ráð fyrir frelsi Birgir Orri Ásgrímsson skrifar Skoðun Að þekkja sín takmörk Heiðar Guðjónsson skrifar Skoðun Gervigreind og dómgreind Henry Alexander Henrysson skrifar Skoðun Fjárfesting í réttindum barna bætir fjárhag sveitarfélaga Marín Rós Eyjólfsdóttir skrifar Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson skrifar Skoðun Alþjóða geðheilbrigðisdagurinn – réttur til réttrar meðferðar Pétur Maack Þorsteinsson skrifar Skoðun Á að takmarka samfélagsmiðlanotkun barna? María Rut Kristinsdóttir skrifar Skoðun Hvernig vogar þú þér að gera grín að Möggu Stínu? Elliði Vignisson skrifar Skoðun Hvað er í gangi? Jón Pétur Zimsen skrifar Skoðun Lausnir í leikskólamálum Kristín Thoroddsen skrifar Skoðun Hjálpum fólki að eignast börn Hildur Sverrisdóttir skrifar Skoðun Ráðgátan um RÚV Helgi Brynjarsson skrifar Skoðun Hvetjandi refsing Reykjavíkurborgar Halla Gunnarsdóttir skrifar Skoðun Flækjustig í skjóli einföldunar Kolbrún Georgsdóttir skrifar Skoðun Lýst eftir afstöðu Viðreisnar til ríkisstyrkja Diljá Mist Einarsdóttir skrifar Skoðun Vegferð menntunar Bryngeir Valdimarsson skrifar Skoðun Almenningssamgöngur fyrir útvalda: Áskorun til stjórnar Strætó bs. og Reykjavíkurborgar Þorsteinn Árnason Sürmeli: skrifar Skoðun Forðumst að sérhagsmunir geti keypt sig til áhrifa í stjórnmálum Arna Lára Jónsdóttir skrifar Skoðun Bætt dagsbirta í Svansvottuðum byggingum Bergþóra Góa Kvaran skrifar Skoðun Skólamáltíðir í Hafnarfirði. Af hverju bauð enginn í verkið? Davíð Arnar Stefánsson skrifar Skoðun Nikótín, konur og krabbamein – gamlar hættur í nýjum búningi Jóhanna Kristjánsdóttir skrifar Sjá meira
Það er mögulega að bera í bakkafullan lækinn að birta enn eina greinina hérna á Vísi um gervigreind. Mér finnst ég þó knúinn til að skrifa nokkur orð eftir að ég var viðmælandi í þætti af Silfrinu á RÚV fyrir nokkru síðan. Ég hef svo sem alveg tekið þátt í fjölmiðlaumræðu áður en sjaldan fengið eins mikil viðbrögð sem mörg hver byggðu á ákveðnum misskilningi um að mér gæti ekki verið alvara. Í þættinum sagðist ég reyna að halda mig frá skapandi gervigreind – að minnsta kosti eins og mér væri frekast unnt. Gervigreind sé vissuleg víða þannig að það geti verið flókið að halda sig alveg frá henni. Ég líkti þessari afstöðu minni við að vera grænkeri varðandi gervigreind (AI Vegan). Það líkingarmál kemur svo sem ekki frá mér heldur hefur það verið að ryðja sér til rúms undanfarið. Hugmyndin byggir á því að ástæðurnar sem gera mann tortrygginn í gerð óheftrar notkunar á skapandi gervigreind séu mögulega ekki ólíkar því að halda sig frá neyslu kjöts. Það eru fórnarlömb í þessu eins og öðru. Sjálfur hef ég mestan áhuga á höfundarréttarmálum sem þróun og notkun mállíkana hefur að miklu leyti bandað frá sér. Lítið tillit hefur verið tekið til áhyggna skapandi stétta. Einnig eru umhverfisáhrifin umtalsverð. Hver og ein notkun er mögulega ekki orkufrek en það felst mikil ábyrgð í því að ýta öllum í fang gervigreindar enda mun það kalla á áður óþekkta orkuþörf. Að lokum eru áhrif á heilsu okkar mögulega neikvæð. Í tilviki gervigreindar hef ég áhyggjur af andlegri heilsu okkar. Það er hollt að hugsa og fátt bendir til þess að við gerum of mikið af því. Ef gervigreind minnkar hugsun okkar er hætt við að áhrifin geti orðið býsna alvarleg. Misskilningurinn sem vaknaði við orð mín í Silfrinu kemur til vegna þess að fólk heldur að ég leyfi engar undantekningar. Mögulega var ég ekki nógu skýr með það. Auðvitað eru margir hópar og fagstéttir sem mega, og mögulega eiga að, nota gervigreind. Ég ætla til dæmis ekki að segja forriturum að þeir eigi að neita sér um stórkostlega tímasparandi tækni. Og í náinni framtíð verður óðs manns æði að neita heilbrigðisstéttum sem byggja starf sitt á óhóflegu magni upplýsinga um tækni sem gerir starf þeirra öruggara og skilvirkara. Þá væri galið að ætlast til þess að störf sem byggja að stórum hluta á afgreiðslu erinda af svipuðu tagi nýti ekki svona tækni til að aðstoða sem flesta þjónustuþega. Öll þurfum við svo að nota gervigreind öðru hvoru enda að mestu búin að taka við hefðbundinni leit á netinu. Punkturinn hjá mér er hins vegar fremur einfaldur: Þetta eru undantekningar. Meginreglan á að vera að við spörum við okkur tækni sem dregur úr hugsun okkar og brenglar hugmyndir okkar um ábyrgð á eigin ákvörðunum og verkum. Margs konar nýsköpun er bæði mikilvæg og eðlileg. Og auðvitað er að skapast mikill iðnaður í kringum spennandi tæknilausnir sem svo tengjast á ólíkan máta þeim fyrirtækjum sem bjóða upp aðgang að skapandi gervigreind. Sumt er sniðugt og mikilvægt fyrir tiltekna aðila á meðan annað mætti missa sín. Á meðan við erum í þessum byrjunarfasa er sérstaklega mikilvægt að vera gagnrýnin á það sem verið er að bjóða upp á. Einnig er mikilvægt að muna að sjónarhornin eru alltaf fleiri en eitt. Gervigreindarlausn getur verið hentug fyrir vinnustað en um leið skaðað vinnumarkað. Samfélagsleg áhrif geta einnig verið umtalsverð þótt svo virðist ekki við fyrstu sýn þegar starfsfólk tekur hana í þjónustu sína. Þröngt sjónarhorn kallar á takmarkaðar vangaveltur. Við megum þó ekki gleyma því að umræða samtímans snýst um tiltekna gerð gervigreindar sem ætlað er að koma í stað þess að við höfum hingað til talið vera okkar mannlegustu eiginleika. Margs konar algoritmar eru fyrir löngu orðnir fyrirferðarmiklir í tilveru okkar. Sumir fara jafnvel ansi nálægt því að stjórna henni. En við erum ekki að tala þessa dagana um slíka gervigreind. Skapandi gervigreind snertir svo viðkvæma strengi í okkur því hún virðist geta leyst okkur undan því sem getur reynst krefjandi þáttur í mannlegri tilveru: Að beita dómgreind okkar. Við þurfum ekki að sitja við tölvuskjáinn og velta fyrir okkur hvernig er best að orða hlutina. Texti (og auðvitað myndir líka) verður til á örskotsstundu. Flokkun á flóknum gögnum er komin á blað án þess að við þurfum að liggja yfir þeim. Auðvitað reynum við að telja sjálfum okkur og öðrum trú um að við sendum ekkert frá okkur nema eftir gagnrýna yfirlegu og ígrundun. En innst inni vitum við að tímasparnaðurinn færir okkur einfaldlega beint að næsta verkefni. Auðvitað er það rétt sem annar viðmælandi sagði í Silfursþættinum: Hættan er meiri af heimsku fólki en greindum vélum. Sjálfur hef ég aldrei fylgt eftir pælingum um að gervigreind sé beinlínis hættuleg. Það er engin ástæða til að ætla að okkur standi bein hætta af þeim gerðum gervigreindar sem núna eru komnar fram, hvað svo sem gerist í framtíðinni með frekari byltingum í þessari tækni. Hættan er óbein og hún byggist fyrst og fremst á því dómgreind okkar fari hrakandi með sífellt meiri notkun gervigreindar sem færir okkur full skapaðar niðurstöður. Dómgreind þroskast við notkun. Notkunin felst í að beita henni í sköpunarferlinu – hugsunarferlinu – en ekki til að fara yfir og bera saman niðurstöður. Að lokum vil ég segja að ein ástæða þess að ég vil minna á þessar skoðanir mínar er sú að núna eru stjórnvöld um allan heim að setja sér alls konar markmið og stefnur um gervigreind. Það sem ég hef séð af slíkri stefnumótun er einkennilega takmarkað. Hér á Íslandi getum við ekki bara sett okkur stefnu um svona fyrirbæri úr samhengi við alla þá þætti tilverunnar sem gervigreindin snertir. Við þurfum til dæmis einhvers konar viðbragðsáætlun um íslenskar bókmenntir áður en við fögnum þeim tækifærum sem gervigreind færir þjóðinni. Og það gengur ekki upp að tala fjálglega um möguleika gervigreindar í heilbrigðismálum ef um leið til streitu er haldið „hörgulstefnu í vísindamálum“ og menntun ungs vísindafólks, en staðan í þeim málum var útskýrð á ítarlegan hátt í grein hér á Vísi nýlega. Vönduð innleiðing á gervigreind felst ekki eingöngu í því að hlusta á þá sem segja okkur hvað sé mögulegt. Höfundur er heimspekingur.
Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun
Skoðun Reykjavíkurmódelið er skref í rétta átt – fyrir börnin og starfsfólkið Bozena Raczkowska skrifar
Skoðun Sterkari saman – geðheilsa er mannréttindi allra Halldóra Jónsdóttir,Halldóra Víðisdóttir,Júlíana Guðrún Þórðardóttir skrifar
Skoðun Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson skrifar
Skoðun Alþjóða geðheilbrigðisdagurinn – réttur til réttrar meðferðar Pétur Maack Þorsteinsson skrifar
Skoðun Almenningssamgöngur fyrir útvalda: Áskorun til stjórnar Strætó bs. og Reykjavíkurborgar Þorsteinn Árnason Sürmeli: skrifar
Skoðun Forðumst að sérhagsmunir geti keypt sig til áhrifa í stjórnmálum Arna Lára Jónsdóttir skrifar
Skoðun Nikótín, konur og krabbamein – gamlar hættur í nýjum búningi Jóhanna Kristjánsdóttir skrifar
Hættið að þykjast standa með mannréttindum – hafnið nýju útlendingafrumvarpi Jón Sigurðsson Skoðun