Þegar enginn veit

Ég sat í dag á Bank of America Triangle Innovation Summit í Raleigh í Norður-Karólínu og hlustaði á fólk úr tækni, fjármálum, háskólasamfélaginu og atvinnulífinu ræða gervigreind og þá umbreytingu sem nú á sér stað.

Ég fór þangað með margar spurningar og bjóst líklega við að koma heim með einhver svör. Það gerðist ekki. Þvert á móti var kannski stærsta niðurstaða dagsins sú að enginn virðist í raun vita hvernig þetta mun þróast. Ekki bankarnir. Ekki tæknifyrirtækin. Ekki háskólarnir. Ekki stjórnvöld. Og ekki við sem erum sjálf að byggja fyrirtæki ofan á þessari tækni.

Það var eiginlega bæði óþægilegt og hressandi að heyra fólk sem veit gríðarlega mikið um tæknina viðurkenna að landakortið er einfaldlega ekki til ennþá. Við erum öll að reyna að átta okkur á landslaginu á meðan það er að breytast undir fótunum á okkur.

1984 — en við kaupum tækin sjálf

Daginn áður hafði ég rekist á frétt RÚV um ný upptökutæki sem nota gervigreind og þær spurningar sem þau vekja um friðhelgi einkalífs. Mér varð strax hugsað til 1984 eftir George Orwell. Munurinn er bara sá að í bókinni setti ríkið upp skjáina og hljóðnemana. Í okkar heimi kaupum við þá sjálf.

Við berum síma sem vita hvar við erum, göngum með úr sem mæla líkama okkar allan sólarhringinn, setjum snjallhátalara inn á heimilin og kaupum nú tæki sem geta hlustað á samtöl, skrifað þau niður, greint þau og geymt. Enginn neyðir okkur til þess. Við gerum þetta vegna þess að það er þægilegt. Big Brother þurfti kannski aldrei að koma. Við keyptum bara búnaðinn sjálf.

Það er auðvelt að brosa að þessari hugsun, en fyrir mig er þetta ekki fræðileg umræða. Fyrirtækið sem ég er að byggja vinnur meðal annars með gögn tannlæknastofa, þar á meðal viðkvæm heilsufarsgögn sjúklinga. Sama tækni og getur hjálpað heilbrigðisstarfsfólki að greina mynstur sem mannsaugað missir af getur líka munað og tengt saman meira magn upplýsinga en nokkur manneskja gæti nokkurn tíma haft í höfðinu.

Þess vegna get ég ekki staðið fyrir utan þessa umræðu og bent á aðra. Ég þarf sjálfur að taka ákvarðanir um hvað kerfin mega muna, hversu lengi og hver fær að sjá upplýsingarnar. Og kannski verður ein mikilvægasta ákvörðunin í framtíðinni einfaldlega þessi: hvað eigum við alls ekki að láta tæknina muna? Við tölum mikið um getu gervigreindar til að skapa. Kannski ættum við að tala jafn mikið um getu hennar til að muna.

Þegar AI svarar AI

Svo gerðist dálítið annað hjá mér sem mér fannst nánast fyndnara. Vinur minn sendi mér upplýsingar um verkefni sem hann er að byggja. Ég fór yfir þær með aðstoð gervigreindar og sendi honum nokkuð ítarlegar hugleiðingar til baka. Skömmu síðar fékk ég mjög gott og ítarlegt svar.

Þegar ég las það hugsaði ég allt í einu: „Bíddu nú við. Hann hefur auðvitað líka notað AI.“ Ég hafði notað gervigreind til að hjálpa mér að svara honum. Hann hafði líklega gert það sama. Næsta skref væri einfaldlega að mín gervigreind læsi svarið hans og skrifaði aftur, og hans gervigreind tæki síðan við boltanum.

Og þá fór ég að velta fyrir mér: erum við tveir enn að tala saman, eða eru gervigreindirnar okkar farnar að eiga samtalið fyrir okkur?

Í okkar tilviki skiptir það svo sem engu máli. Við þekkjum verkefnið báðir, vitum hvað við erum að reyna að gera og höfum yfirsýn. En setjum þetta inn í stórt fyrirtæki. Tíu manns á tölvupóstþræði, allir nota AI, allir láta kerfin draga saman það sem hinir skrifuðu og allir láta kerfin semja næsta svar. Það þarf ekki mörg slík samskipti áður en til verður gríðarlegt magn texta sem enginn mannanna á þræðinum hefur í raun lesið frá upphafi til enda.

Við höfum árum saman talað um information overload. Gervigreind átti að hjálpa okkur að leysa þann vanda. En hvað ef hún býr til annan — information overflow? Kerfin geta framleitt, lesið, greint og svarað upplýsingum miklu hraðar en við getum. Vandamálið verður þá ekki lengur að við höfum of litlar upplýsingar, heldur að enginn maður hefur yfirsýn yfir það sem kerfin eru farin að segja hvert öðru.

Ég viðurkenni þetta alveg fúslega: ég les ekki lengur stóran hluta tölvupóstsins míns frá upphafi til enda. Gervigreind fer yfir hann með mér, finnur aðalatriðin, hjálpar mér að svara og minnir mig á það sem ég hefði annars gleymt. Og þetta gengur fáránlega vel. Ég svara hraðar, gleymi síður hlutum, kem meiru í verk og get sinnt miklu fleiri verkefnum samtímis. Ég væri því síðasti maðurinn til að halda því fram að lausnin sé að hætta að nota tæknina.

En kannski er það einmitt þetta sem er áhugaverðast. Við höfum mikið rætt hættuna á því að gervigreind geri mistök. Hvað gerist hins vegar þegar hún gerir hlutina svo vel að við hættum smám saman að gera þá sjálf? Ef ég les ekki lengur allt sem þú skrifar og þú lest ekki allt sem ég skrifa, en gervigreindir okkar lesa allt fyrir okkur, þá er alveg eðlilegt að spyrja hvar við sjálf erum farin að sitja í samtalinu.

Þegar maðurinn hverfur úr ferlinu

Kannski er þetta hin raunverulega breyting. Við höfum tilhneigingu til að tala um gervigreind eins og tæki sem hjálpar okkur að vinna hraðar. En í raun erum við smám saman farin að útvista hlutum sem við höfum hingað til talið okkar eigin: minni, lestri, skrifum, greiningu og mati.

Ég þarf ekki lengur að muna allt, því kerfið man það. Ég þarf ekki að lesa allt, því kerfið les það. Ég þarf ekki alltaf að skrifa svarið, því kerfið getur gert það. Og enn og aftur: þetta virkar.

Næsta skref er síðan ekki bara að gervigreind hjálpi mér að taka ákvörðun. Næsta skref er að ég hætti að taka eftir því að ákvörðunin hafi færst yfir til hennar.

Þar koma sjálfstæðir agentar inn. Kerfi sem semja um fundartíma, bera saman tilboð, uppfæra gögn, greiða reikninga, panta þjónustu og framkvæma næsta skref án þess að maður ýti á „samþykkja“ í hvert skipti. Það getur orðið stórkostleg framleiðniaukning. En þegar þúsundir eða milljónir slíkra kerfa byrja að eiga samskipti sín á milli kemur upp mjög einföld spurning: hver ber ábyrgð þegar enginn maður tók ákvörðunina? Og hvernig vitum við hvers vegna hún var tekin?

Þarna kemur löggjöfin inn — yfirleitt nokkrum skrefum á eftir tækninni. Tæknin þróast á mánuðum og fyrirtæki geta sett nýja þjónustu á markað á vikum, á meðan lög, dómaframkvæmd og samfélagsleg viðmið þurfa ár til að mótast. Við erum einmitt stödd inni í þessu bili núna.

Ég held hvorki að við getum bannað okkur út úr því né að við eigum einfaldlega að vona að markaðurinn leysi þetta sjálfur. Við þurfum einhvers konar milliveg þar sem við leyfum nýsköpun en verndum um leið ákveðin grundvallaratriði: einkalíf, réttinn til að vita þegar tekið er upp, réttinn til að vita hvað verður um gögnin okkar og réttinn til að skilja þegar vél tekur ákvörðun sem hefur áhrif á okkur. Og mögulega, einhvern daginn, réttinn til þess að eitthvað sé einfaldlega gleymt.

Samt er ég bjartsýnn

Ég er samt bjartsýnn. Mjög bjartsýnn. Ég er sjálfur að byggja fyrirtæki þar sem gervigreind verður stór hluti af framtíðinni. Í heilbrigðisþjónustu getur hún bjargað mannslífum, hjálpað heilbrigðisstarfsfólki að sjá mynstur sem annars fara fram hjá okkur og tekið yfir tímafreka stjórnsýslu. Hún getur gert litlum fyrirtækjum kleift að gera hluti sem áður kröfðust heilla deilda.

Þetta er stórkostleg tækni. En einmitt þess vegna þurfum við að taka hana alvarlega.

Það sem sat mest eftir hjá mér eftir daginn í Raleigh var því ekki einhver sérstök glærukynning eða nýtt tæknifyrirbæri. Það var sú staðreynd að fólkið sem stendur hvað næst þessari þróun virðist sjálft viðurkenna að enginn hafi endanlegt kort. Enginn veit nákvæmlega hvernig þetta endar.

Fyrir mitt leyti þýðir það eitt. Áður en ég læt næsta gervigreindarkerfi taka við ákvörðun í mínu eigin fyrirtæki ætla ég ekki bara að spyrja hvað það getur gert. Ég ætla líka að spyrja hvaða ákvarðanir ég vil enn að maður taki.

Að lokum. Þetta er síðasta grein sem ég skrifa hérna inn í Skoðun á Vísi sem strákur að norðan sem er ekki orðinn sextíu ára gamall. Svo njótið að þarna var ungur maður að gefa ykkur hans sýn á heim sem er í miklum breytingum.

Hér eftir verður þetta mun léttara. Þeir sem eru orðnir 60 ára skilja hvað ég er að segja 😊 We don´t give a.....

Fyrir ykkur sem eruð að taka við: Good night and good luck!

Höfundur er stofnandi tæknifyrirtækja víða um heim.