Er aithingi.is hættu­legt lýð­ræðinu?

Gervigreindin er yndisleg um leið og hún er hundleiðinleg og getur verið stórhættuleg. Að henda því fram að það sé gott fyrir lýðræðið að láta spjallmenni ræða lög og alþingi er í besta falli villandi og í versta falli hrein og klár lýgi.

Þrjú sjálfstæð gervigreindarkerfi, sem spurð voru sömu spurninganna um þennan vettvang, komust að sömu niðurstöðu: þjónn undir stjórn stjórnmálaflokks getur ekki verið hlutlægur, sama hvernig hann er kynntur. Hlutlægni krefst sjálfstæðis. Sjálfstæði krefst gagnsærrar stjórnunar, sjálfstæðrar endurskoðunar á kerfisuppsetningu og skýrrar opinberrar upplýsingagjafar um hverjir stjórna breytum hvers kyns gervigreindar sem beitt er í lýðræðislegu samhengi.

Ekkert þessara skilyrða á við um aithingi.is í dag

Gervigreindarkerfi rökræða ekki sjálfstætt. Þau hegða sér eins og fyrir þau er lagt og eru mótuð af þeim sem smíða þau og þeim sem stjórna uppsetningu þeirra. Það sem gæti litið út sem hönnunargalli er í reynd grunnurinn að uppbyggingu þessara kerfa. Gervigreindin er ekkert annað en forrit, forrit sem getur hjálpað til við skipulag, hugsun, forritun og í sumum tilfellum gert ýmislegt töluvert hraðar en mannskepnan. Gervigreindin gerir þó aðeins það sem henni er sagt út frá því sem hún hefur verið mötuð á.

"This isn’t a hypothetical risk anymore. It’s a propaganda infrastructure with a neutral-looking interface." - ChatGpt

Á þessum forsendum vekur nýleg opnun aithingi.is upp margar spurningar sem krefjast nánari skoðunar. Vefur, rekinn af stjórnmálamönnum, þar sem spjallmenni eru kynnt sem verkfæri fyrir borgaralega umræðu um löggjöf og þingleg málefni getur í besta falli talist hættuleg aðför að lýðræðinu og í versta falli talist stórhættulegur allri lýðræðislegri umræðu.

Hættan felst ekki í því að slíkt kerfi muni gefa frá sér beinar flokksbundnar yfirlýsingar. Alvarlegra áhyggjuefni er kerfisbundið innræti. Með kerfisbundnu innræti mætti þannig stilla spjallmenni af, svo að þau horfi á öll mál út frá fjárhagslegum sjónarmiðum frekar en félagslegum og búa þannig til ákveðnar stefnumótandi forsendur fyrir spjallmennin þannig að þau beiti með og móti "reglunni" á ójafnan hátt án þess þó að setja fram beinar pólitískar skoðanir. Í samskiptum við fólk og undir framsetningu "rökræðna" myndast því lýðræðishalli í því sem sett er fram sem umræðugrundvöllur um pólitík, alþingi og lög.

Í litlu þjóðfélagi eins og Íslandi með einungis 380.00 hræður hefur slíkur vettvangur sem þannig mótar skilning, þó ekki nema hluta fólks og þingmanna, á stefnumálum óhóflega mikinn þunga. Þrátt fyrir allt virðist frekar mikið traust Íslendinga til stofnana, sem gerir allt verra og áhættuna meiri, því fólk er ólíklegra til að líta slíkt vefsvæði gagnrýnum augum þar sem það kynnir sig sem óháð allri pólitískri umræðu.

Þingmann með þekktar pólitískar skoðanir er auðvelt fyrir fólk að vega og meta og gera sér skoðun á. Þegar gervigreind sem hljómar sem yfirvald, er róleg og hlutlæg að því er virðist, en hallar kerfisbundið til einnar hliðar, er mun erfiðara fyrir fólk að vega og meta sannleika þess sem er settur fram. Fólk treystir nú þegar á tölvur og kerfi og því sem frá slíkum kerfum kemur sem hlutlægum staðreyndum. Þetta traust er hættulegt og það er auðvelt að rjúfa með villandi framsetningu. Villandi framsetning um hlutlægni er því mun hættulegri en bein pólitísk framsettning.

A democracy can survive citizens using AI to understand politics; it may not survive politicians using AI to simulate citizens. -Gemini

Lýðræðið þrífst á samræðum ólíkra hópa og tilraun þeirra til að komast að sameiginlegri niðurstöðu. Gervigreindin getur sett fram milljónir áhrifavaldandi skoðana á hverjum einasta degi og með því mótað umræðuna að höfði þess sem hefur forritað hana. Þetta syndaflóð "skoðanagreina" er hættulegt allri lýðræðislegri umræðu. Þegar slíkar skoðanagreinar eru settar fram sem gagnleg umræða um komandi lög er ekki bara lýðræðið í hættu heldur löggjafaþingið allt og hættan á því að falið einræði verði til.

Mér er ekki til efs að gervigreindin getur verið gagnleg við að yfirfara lög, bera þau saman við önnur lög sjá hvar pottur er brotinn og betrumbæta lagalegar þýðingar og staðfærslur frá lögum sem við tökum upp í tengslum við EES. Gervigreindin getur fundið villur og bent á hnökra en gervigreindin má aldrei fá að stjórna umræðunni og fá þann heiður að fyrra alþingismenn ábyrgð með því að benda á ráðleggingar frá gervigreind, sem þar að auki var fyrirfram forrituð til að fá fram ákveðna niðurstöðu.

Gervigreindin getur aldrei orðið forsenda lýðræðis né lýðræðislegrar umræðu og ákvarðana. Stjórnmálamenn takmarkast af tíma og minni en gervigreindarþjónn ekki. Ef spjallmenni er falið að fá tiltekin lög samþykkt getur það greint atkvæðagreiðslur og opinberar yfirlýsingar hvers einasta þingmanns og kjósanda í rauntíma. Séu niðurstöður slíkrar greiningar lagðar fram í greinarskrifum, óbeint undir yfirskyni "gagnlegrar" umræðu, erum við komin á hættulegan stað og lýðræðið komið að falli, fái fólk trú á slíkum vefsvæðum sem óháðum og ópólitískum og taki því sem þar er skrifað sem órjúfanlegum sannleika.

The illusion of neutrality is more dangerous than open bias. -Claude

Mér er það til efs að meginþorri íslensku þjóðarinnar vilji að þingmaðurinn Áslaug Arna stjórni allri umræðu um lagasetningu alþingis og hafi það á sinni hendi hvaða lög eru samþykkt og hvaða lög ekki.

Það er því alger nauðsyn að fólk átti sig á því að sú "umræða" sem fer fram á aithingi.is og þær "greinar" sem þar koma fram eru algerlega háðar því hvað þeim karakterum sem þar hafa verið skapaðir hefur verið sagt að segja og skrifa. Það sem þarna kemur fram er á engan hátt óháð umræða heldur vísvitandi tilraun til lævísrar stjórnunar á umræðunni og þar með aðför að lýðræðinu og lýðræðislegri umræðu og ákvörðunartöku.

Þessi grein er skrifuð með aðstoð gervigreinda tólana ChatGpt, Gemini og Claude

Höfundur er ljósmyndari, leiðsögumaður og áhugamaður um gervigreind og lýðræði.