Gervigreindin beisluð Hanna Kristín Skaftadóttir og Helga Sigrún Harðardóttir skrifa 9. júlí 2025 07:01 Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Helga Sigrún Harðardóttir Gervigreind Tækni Evrópusambandið Mest lesið Halldór 27.03.2024 Halldór Yfirgangur, yfirlæti og endastöð Strætó Axel Hall Skoðun Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir Skoðun Við viljum tala íslensku, en hvernig Ólafur Guðsteinn Kristjánsson Skoðun Háskólinn á Bifröst – Öflugur og sjálfstæður fjarnámsskóli Sólveig Hallsteinsdóttir Skoðun Tímamót í sjálfsvígsforvörnum Ingibjörg Isaksen Skoðun Umbúðir en ekkert innihald í Hafnarfirði Einar Geir Þorsteinsson Skoðun Hættur heimsins virða engin landamæri Tótla I. Sæmundsdóttir Skoðun Það eru fleiri fiskar í sjónum og fleiri sjónarmið í hafstjórn Guðbjörg Ásta Ólafsdóttir Skoðun Þúsundir kusu Sönnu Anna Bentína Hermansen Einarsdóttir,Ármann Hákon Gunnarsson,Baldvin Björgvinsson,Brynja Guðnadóttir,Haraldur Ingi Haraldsson,Jón Hallur Haraldsson,Kolbrún Erna Pétursdóttir,Ólafur H. Ólafsson,Rakel Hildardóttir,Sigrún Jónsdóttir Skoðun Skoðun Skoðun Umbúðir en ekkert innihald í Hafnarfirði Einar Geir Þorsteinsson skrifar Skoðun Við viljum tala íslensku, en hvernig Ólafur Guðsteinn Kristjánsson skrifar Skoðun Mansalsmál á Íslandi Kristján Þórður Snæbjarnarson skrifar Skoðun Hættur heimsins virða engin landamæri Tótla I. Sæmundsdóttir skrifar Skoðun Tímamót í sjálfsvígsforvörnum Ingibjörg Isaksen skrifar Skoðun Yfirgangur, yfirlæti og endastöð Strætó Axel Hall skrifar Skoðun Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir skrifar Skoðun Háskólinn á Bifröst – Öflugur og sjálfstæður fjarnámsskóli Sólveig Hallsteinsdóttir skrifar Skoðun Það eru fleiri fiskar í sjónum og fleiri sjónarmið í hafstjórn Guðbjörg Ásta Ólafsdóttir skrifar Skoðun Skapandi menntun skilar raunverulegum árangri Bryngeir Valdimarsson skrifar Skoðun Sex ára sáttmáli Davíð Þorláksson skrifar Skoðun Af hverju kynjafræði? Og hvaða greinar hafa fengið svipaðar mótbárur í gegnum tíðina? Guðrún Elísa Friðbjargardóttir Sævarsdóttir skrifar Skoðun Stjórnendur sem mega ekki stjórna Stefán Vagn Stefánsson skrifar Skoðun Stokkhólmseinkenni sem við ættum að forðast Aðalsteinn Júlíus Magnússon skrifar Skoðun Eflum iðnlöggjöfina og stöðvum brotin Hilmar Harðarson skrifar Skoðun Pjattkratar taka til Þorsteinn Sæmundsson skrifar Skoðun Sumt er bara ekki hægt að rökræða Ása Lind Finnbogadóttir skrifar Skoðun Vaxtamunarviðskipti láta aftur á sér kræla Jökull Sólberg Auðunsson skrifar Skoðun Áskorun til ríkisstjórnarinnar: Innleiðum birgðaskyldu á eldsneyti Halla Hrund Logadóttir skrifar Skoðun Rétt skal vera rétt um gatnamót við Höfðabakka og Bæjarháls Dóra Björt Guðjónsdóttir skrifar Skoðun Háskólasamfélagið geri skyldu sína strax, stjórnvöld hafa brugðist Auður Magndís Auðardóttir,Elí Hörpu og Önundar,Eyrún Ólöf Sigurðardóttir,Helga Ögmundardóttir,Íris Ellenberger,Inga Björk Margrétar Bjarnadóttir,Katrín Pálmad. Þorgerðardóttir skrifar Skoðun Þúsundir kusu Sönnu Anna Bentína Hermansen Einarsdóttir,Ármann Hákon Gunnarsson,Baldvin Björgvinsson,Brynja Guðnadóttir,Haraldur Ingi Haraldsson,Jón Hallur Haraldsson,Kolbrún Erna Pétursdóttir,Ólafur H. Ólafsson,Rakel Hildardóttir,Sigrún Jónsdóttir skrifar Skoðun NATO riðar til falls en hvað þýðir það fyrir skilnaðarbarnið Ísland? Steinunn Ólína Þorsteinsdóttir skrifar Skoðun Græðgin í forgrunni Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Greiningar eða lausnir – hvort vegur þyngra? Sigurður Árni Reynisson skrifar Skoðun Sterk staða Hafnarfjarðar Orri Björnsson skrifar Skoðun Bless bless jafnlaunavottun Sigríður Margrét Oddsdóttir skrifar Skoðun Miðstýrt skólakerfi eða fjölbreytni með samræmdu gæðamati? Bogi Ragnarsson skrifar Skoðun Heiðursgestur Viðreisnar vill heimsveldi Hjörtur J. Guðmundsson skrifar Skoðun Veðmál barna – hættulegur leikur sem hægt er að stöðva Jóhann Steinar Ingimundarson skrifar Sjá meira
Gervigreind (AI) er orðin snar þáttur í nútíma atvinnulífi og samfélagi og mun hafa enn meiri áhrif á fyrirtæki og atvinnulíf bæði hér heima og á heimsvísu. Í skýrslu World Economic Forum (WEF) er því spáð að um 170 milljónir nýrra starfa muni skapast á heimsvísu fram til 2030 en um 92 milljónir starfa muni hverfa á sama tíma. Þetta samsvarar hreinni aukningu um 78 milljónir starfa (um 2% af heildarstörfum) ef spár ganga eftir. Slík umbylting kallar á gagngera endurskoðun á vinnumarkaði og menntun; raunar gera atvinnurekendur ráð fyrir að um 39% af helstu hæfniþáttum starfsmanna þurfi að breytast fram til ársins 2030. Þetta útheimtir markvissa endurmenntun og uppbyggingu nýrrar hæfni svo ekki myndist gjá milli þess sem tæknin krefst og þess sem mannauðurinn hefur fram að færa. Með hraðri innreið gervigreindar vaknar svo samhliða því þörf fyrir skýran ramma og samræmdar leikreglur. Stöðlun skiptir lykilmáli til að tryggja samræmi, öryggi og traust í notkun gervigreindarkerfa. Þekking á stöðlum er eitt af því sem þarf að fræða og mennta aðila vinnumarkaðarins um. Brýn þörf er fyrir styrka stjórnun og skorður við hönnun og þróun gervigreindarkerfa og -lausna til að tryggja öryggi okkar og grundvallar réttindi. Evrópusambandið hefur þegar reist fjölda girðinga með gervigreindarlögunum (EU AI Act) sem tóku gildi 2024. Megininntak þeirra er að skýrar reglur, samhæfðir staðlar og varnaglar í kringum gervigreind eru forsenda þess að fyrirtæki og stofnanir geti notið þess besta sem tæknin býður án þess að eitthvað fari úrskeiðis eða valdi hættu. Evrópusambandið hefur nýtt stöðlun talsvert í gegnum tíðina með góðum árangri, til að útfæra tæknilegar kröfur löggjafar og segja til um hvernig hlutir skulu hannaðir, framleiddir, prófaðir og hvernig þeir eiga að virka. Fyrst og fremst hefur það átt við um áþreifanlega hluti eins og leikföng, lækningatæki og byggingarvörur til að tryggja öryggi fólks, heilsu- og umhverfisvernd auk gæða og virkni. Nú er hins vegar búið er að setja í gang umfangsmikla stöðlun sem á að segja til um útfærslur gervigreindarlaganna til að auðvelda hönnuðum og þróunaraðilum að búa til gervigreindarkerfi sem tryggja öryggi okkar og koma í veg fyrir slys, mismunun, falsfréttir og rangar ákvarðanir og tryggja persónuvernd og ábyrgð þeirra sem hanna slík kerfi. Löggjöfin hefur þegar tekið gildi í Evrópu þó gildistöku nokkurra ákvæða hafi verið frestað til 2025 og 2026, Löggjöfin snýst í grunninn um að meta áhættur, forgangsraða þeim og bregðast við þeim með viðeigandi hætti. Áhættu sem metin er óásættanleg þarf að útrýma. Þar er átt við t.d. sjálfvirka líffræðilega auðkenningu og flokkun fólks, andlitsgreiningu á almannafæri og verkfæri sem leitt geta til stjórnunar eða blekkingar viðkvæmra hópa s.s. raddstýrð leikföng barna. Kerfi sem teljast með háa áhættu s.s. greiningarkerfi í heilbrigðisþjónustu, öryggiskerfi í iðnaði og flugi, gervigreind sem notuð er af stjórnvöldum til ákvarðanatöku eða hefur áhrif á lífsviðurværi fólks, þurfa að uppfylla strangar kröfur. Slíkum kerfum þarf að gæða- og áhættustýra og gerð er krafa um mannlega yfirumsjón þar sem hægt er að grípa inn í og stöðva kerfi hvenær sem er. Notendur slíkra kerfa verða líka að skilja þau og mata þau á gögnum sem eru laus við hlutdrægni eða skekkju sem valdið getur mismunun. Þá þarf að merkja sérstaklega og veita upplýsingar um kerfi með takmarkaðri áhættu, s.s. að merkja myndefni og deep-fake efni sem slíkt og fólk þarf að vita þegar það er í samskiptum við spjallmenni en ekki lifandi fólk. Allt ofangreint eru kröfur sem gerðar eru til hönnuða og þróunaraðila gervigreindarkerfa og -lausna í Evrópu og verða innleiddar á Íslandi innan tíðar. Kröfurnar eru settar og útfærðar með samhæfðum stöðlum til að tryggja að framleiðendur og þróunaraðilar, dreifendur gervigreindarkerfa og notendur þeirra fylgi ströngum reglum með einsleitum hætti en reglunum er ætlað að vernda almenning, velferðar- og lýðræðissamfélög. Íslensk fyrirtæki og atvinnulíf munu þurfa að fylgja þessari þróun og aðlaga sig að þeirri stöðlun og gæðamerkingum sem eru framundan. Sömu öryggis- og gæðaviðmið munu þá gilda hér og í öðrum Evrópulöndum. Þetta mun auka öryggi notenda og býður íslenskum fyrirtækjum að keppa á jöfnum grundvelli. Jafnframt getur þetta kallað á gagngerar breytingar á mörgum ferlum og hæfniskröfum hérlendis – til dæmis þarf að mennta starfsfólk til að nota gervigreindartækni á ábyrgan hátt og laga stjórnkerfi fyrirtækja að nýjum veruleika. Ábyrg notkun gervigreindar krefst þess að fyrir hendi séu traustir staðlar og skýrar leikreglur. Jafnframt verður atvinnulífið að laga sig að þessum nýju kröfum og tækifærum sem gervigreindin felur í sér, þar sem bæði samkeppnishæfni og öryggi eru í húfi. Þegar upp er staðið er ljóst að ábyrg notkun gervigreindar krefst bæði öflugrar stöðlunar og gagngerrar aðlögunar atvinnulífsins að nýjum leikreglum. Hanna Kristín Skaftadóttir, fagstjóri viðskiptagreindar, Háskólanum á Bifröst. Helga Sigrún Harðardóttir, framkvæmdastjóri Staðlaráðs Íslands.
Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir Skoðun
Þúsundir kusu Sönnu Anna Bentína Hermansen Einarsdóttir,Ármann Hákon Gunnarsson,Baldvin Björgvinsson,Brynja Guðnadóttir,Haraldur Ingi Haraldsson,Jón Hallur Haraldsson,Kolbrún Erna Pétursdóttir,Ólafur H. Ólafsson,Rakel Hildardóttir,Sigrún Jónsdóttir Skoðun
Skoðun Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir skrifar
Skoðun Háskólinn á Bifröst – Öflugur og sjálfstæður fjarnámsskóli Sólveig Hallsteinsdóttir skrifar
Skoðun Það eru fleiri fiskar í sjónum og fleiri sjónarmið í hafstjórn Guðbjörg Ásta Ólafsdóttir skrifar
Skoðun Af hverju kynjafræði? Og hvaða greinar hafa fengið svipaðar mótbárur í gegnum tíðina? Guðrún Elísa Friðbjargardóttir Sævarsdóttir skrifar
Skoðun Áskorun til ríkisstjórnarinnar: Innleiðum birgðaskyldu á eldsneyti Halla Hrund Logadóttir skrifar
Skoðun Rétt skal vera rétt um gatnamót við Höfðabakka og Bæjarháls Dóra Björt Guðjónsdóttir skrifar
Skoðun Háskólasamfélagið geri skyldu sína strax, stjórnvöld hafa brugðist Auður Magndís Auðardóttir,Elí Hörpu og Önundar,Eyrún Ólöf Sigurðardóttir,Helga Ögmundardóttir,Íris Ellenberger,Inga Björk Margrétar Bjarnadóttir,Katrín Pálmad. Þorgerðardóttir skrifar
Skoðun Þúsundir kusu Sönnu Anna Bentína Hermansen Einarsdóttir,Ármann Hákon Gunnarsson,Baldvin Björgvinsson,Brynja Guðnadóttir,Haraldur Ingi Haraldsson,Jón Hallur Haraldsson,Kolbrún Erna Pétursdóttir,Ólafur H. Ólafsson,Rakel Hildardóttir,Sigrún Jónsdóttir skrifar
Skoðun NATO riðar til falls en hvað þýðir það fyrir skilnaðarbarnið Ísland? Steinunn Ólína Þorsteinsdóttir skrifar
Hugsum fíknivanda upp á nýtt - Ný nálgun í meðhöndlun fíknivanda og áhættuhegðunar Svala Jóhannesdóttir,Lilja Sif Þorsteinsdóttir Skoðun
Þúsundir kusu Sönnu Anna Bentína Hermansen Einarsdóttir,Ármann Hákon Gunnarsson,Baldvin Björgvinsson,Brynja Guðnadóttir,Haraldur Ingi Haraldsson,Jón Hallur Haraldsson,Kolbrún Erna Pétursdóttir,Ólafur H. Ólafsson,Rakel Hildardóttir,Sigrún Jónsdóttir Skoðun