Gervi­greind í námi: 5 lykilskref fyrir öryggi nem­enda

Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum.

Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt.

Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið

Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum?

Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin.

Skref 2: Þverfaglegt teymi – öryggisnet nemandans

Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera:

• Kennari sem skilur raunveruleikann í kennslustofunni.
• Skólastjórnandi sem þekkir rekstrarumhverfið.
• Persónuverndarfulltrúi sem þekkir lögin.
• Tæknistjóri sem skilur tæknilegu áskoranirnar.
• Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri.

Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist.

Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur

Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum:

• Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR?
• Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál?
• Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind?
• Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað?

Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var.

Skref 4: Kennarar þurfa meira en tækninámskeið

Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir:

• Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar.
• Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg?
• Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni?

Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei

Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat:

• Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur?
• Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu?
• Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn?

Fimm lykilatriði ábyrgrar innleiðingar:

Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið.

Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum.

Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi.

Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar.

Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega.

Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana.

Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða.

Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra.

Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum.

Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind.