Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Leyfum mennskunni að sigra Anna Hildur Hildibrandsdóttir Skoðun Sjómenn til hamingju! Lilja Rafney Magnúsdóttir Skoðun Landbúnaður á tímamótum – Við þurfum nýja stefnu Guðjón Sigurbjartsson Skoðun Fjölskyldan fyrst Hólmfríður Jennýjar Árnadóttir Skoðun Um spretthóp og lestrarkennslu. Hvatning til mennta- og barnamálaráðherra um faglega starfshætti Auður Soffíu Björgvinsdóttir Skoðun Hvað er markaðsverð á fiski? Sverrir Haraldsson Skoðun Á uppgjör frá TR að koma eldri borgurum á óvart? Björn Snæbjörnsson Skoðun Frá, frá, frá. Fúsa liggur á Eiríkur Hjálmarsson Skoðun Borgarlína, barnleysi og bíllaus lífstíll – hentar það Kópavogi? Einar Jóhannes Guðnason Skoðun Við eigum allt. Af hverju finnst okkur samt vanta eitthvað? Valentina Klaas Skoðun Skoðun Skoðun Landbúnaður á tímamótum – Við þurfum nýja stefnu Guðjón Sigurbjartsson skrifar Skoðun Sjómenn til hamingju! Lilja Rafney Magnúsdóttir skrifar Skoðun Leyfum mennskunni að sigra Anna Hildur Hildibrandsdóttir skrifar Skoðun Fjölskyldan fyrst Hólmfríður Jennýjar Árnadóttir skrifar Skoðun Hvað er markaðsverð á fiski? Sverrir Haraldsson skrifar Skoðun Tími til kerfisbundinna breytinga í samfélagstúlkun – ákall til stjórnvalda Anna Karen Svövudóttir skrifar Skoðun Fæðing Ísraels - Líkum misþyrmt BIrgir Dýrfjörð skrifar Skoðun Við eigum allt. Af hverju finnst okkur samt vanta eitthvað? Valentina Klaas skrifar Skoðun Um spretthóp og lestrarkennslu. Hvatning til mennta- og barnamálaráðherra um faglega starfshætti Auður Soffíu Björgvinsdóttir skrifar Skoðun Tíðaheilbrigði er lykilatriði í jafnrétti kynjanna Berit Mueller skrifar Skoðun Þjóðarmorð – frá orðfræðilegu sjónarmiði Eiríkur Rögnvaldsson skrifar Skoðun Borgarlína, barnleysi og bíllaus lífstíll – hentar það Kópavogi? Einar Jóhannes Guðnason skrifar Skoðun Þakkir til starfsfólk Janusar Sigrún Ósk Bergmann skrifar Skoðun Mun gervigreindin senda konur heim? Björgmundur Örn Guðmundsson skrifar Skoðun Frá, frá, frá. Fúsa liggur á Eiríkur Hjálmarsson skrifar Skoðun Nokkur orð um stöðuna Dögg Þrastardóttir skrifar Skoðun Kynbundinn munur í tekjum á efri árum Sigríður Ingibjörg Ingadóttir,Steinunn Bragadóttir skrifar Skoðun #blessmeta – þriðja grein Guðrún Hrefna Guðmundsdóttir skrifar Skoðun Hvernig tryggir þú stærstu fjárfestingu lífins? Berglind Halla Elíasdóttir skrifar Skoðun Ritunarramminn - verkfæri fyrir kennara! Katrín Ósk Þráinsdóttir skrifar Skoðun Hvalveiðar eru ekki mannréttindi. Þetta er atvinnugrein sem hefur mistekist Ed Goodall skrifar Skoðun Feluleikur Þorgerðar Katrínar Hjörtur J. Guðmundsson skrifar Skoðun Ráðalaus ráðherra Högni Elfar Gylfason skrifar Skoðun Spólum til baka Snævar Ingi Sveinsson skrifar Skoðun Sögulegur dómur Hæstaréttar – staðfestir sjálfstæði Alþingis Erna Bjarnadóttir skrifar Skoðun Að vera fatlaður á Íslandi er full vinna Birna Ösp Traustadóttir skrifar Skoðun Sæluríkið Ísland Einar Helgason skrifar Skoðun Áskorun til Alþingis: Tryggið almannahagsmuni - afnemið samkeppnisundanþágu afurðastöðvanna Benedikt S. Benediktsson,Breki Karlsson,Halla Gunnarsdóttir,Ólafur Stephensen skrifar Skoðun Stormurinn gegn stóðhryssunni Hallgerður Ljósynja Hauksdóttir skrifar Skoðun Kallið þið þetta fjölbreytni? Hermann Borgar Jakobsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Um spretthóp og lestrarkennslu. Hvatning til mennta- og barnamálaráðherra um faglega starfshætti Auður Soffíu Björgvinsdóttir Skoðun
Skoðun Tími til kerfisbundinna breytinga í samfélagstúlkun – ákall til stjórnvalda Anna Karen Svövudóttir skrifar
Skoðun Um spretthóp og lestrarkennslu. Hvatning til mennta- og barnamálaráðherra um faglega starfshætti Auður Soffíu Björgvinsdóttir skrifar
Skoðun Borgarlína, barnleysi og bíllaus lífstíll – hentar það Kópavogi? Einar Jóhannes Guðnason skrifar
Skoðun Kynbundinn munur í tekjum á efri árum Sigríður Ingibjörg Ingadóttir,Steinunn Bragadóttir skrifar
Skoðun Hvalveiðar eru ekki mannréttindi. Þetta er atvinnugrein sem hefur mistekist Ed Goodall skrifar
Skoðun Áskorun til Alþingis: Tryggið almannahagsmuni - afnemið samkeppnisundanþágu afurðastöðvanna Benedikt S. Benediktsson,Breki Karlsson,Halla Gunnarsdóttir,Ólafur Stephensen skrifar
Um spretthóp og lestrarkennslu. Hvatning til mennta- og barnamálaráðherra um faglega starfshætti Auður Soffíu Björgvinsdóttir Skoðun