Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Bein útsending: Konur streyma á Arnarhól Innlent Sættir sig ekki við sýknu tálbeitunnar Innlent Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Erlent Meinað að taka þátt þar sem hún þurfti að hafa barnið með sér Innlent Blöskrar „vælið“ vegna Norðuráls Innlent Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Innlent „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Innlent Íslendingar meðal sakborninga en enginn í varðhaldi Innlent Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Innlent Vara við vafasömum Excel-skjölum í umferð „bókstaflega út um allt“ Innlent Fleiri fréttir Slepptu kynferðisbrotamanni fyrir mistök Fangelsaðir vegna íkveikju fyrir Wagner Vinstrikona gegn ESB og NATO líklegur næsti forseti Írlands Ætlar að flýta hernaðaruppbyggingu í Japan Musk kallar ráðherra heimskan og homma „Við ætlum að drepa þá. Þeir verða, sko, dauðir“ Kvennaverkfall að hefjast og breytingar á lánum Landsbankans Náðaði rafmyntamógúl sem hefur hjálpað rafmyntaveldi Trump Vilja að þunguðum konum verði líka heimilt að deyja Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Trump slaufar öllum viðræðum við Kanada út af sjónvarpsauglýsingu sem fór fyrir brjóstið á honum Villur í dómum sömdum með aðstoð gervigreindar Belgar komu í veg fyrir samþykkt um nýtingu rússneskra eigna Verja kjarnorkuvopn sín á norðurslóðum með leynilegu eftirlitskerfi Sýknaður af öllum ákærum vegna „blóðuga sunnudagsins“ „Ísrael mun missa allan stuðning“ Annað safn rænt í Frakklandi um helgina Rannsaka „glæfraleg“ svikabrigsl fyrir andlát skákmeistarans unga Hafði varað við því að árásamaðurinn væri í lögreglubúning Gera ráð fyrir tugþúsundum á kosningafundum í Búdapest Mikill hiti í síðustu kappræðunum fyrir kosningar Leggur viðskiptaþvinganir á rússneska olíurisa Hafa drepið 34 í árásum á meinta smyglara Myndavélar sneru í ranga átt er gripunum var stolið Rannsaka jákvæð áhrif covid-bóluefnis á krabbameinssjúklinga Gerðu árás á leikskóla í Karkív Hegseth bannar nú samskipti við þingið Trump gæti veitt sjálfum sér tugi milljarða í bætur frá eigin stjórn Vísindamenn segja mikilvægt að vanda valið á þunglyndislyfjum Sextíu og þrír látnir eftir umferðarslys í Úganda Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Bein útsending: Konur streyma á Arnarhól Innlent Sættir sig ekki við sýknu tálbeitunnar Innlent Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Erlent Meinað að taka þátt þar sem hún þurfti að hafa barnið með sér Innlent Blöskrar „vælið“ vegna Norðuráls Innlent Allt að áttatíu þúsund mæti í miðbæinn og götulokanir í gildi Innlent „Fyrst og fremst erum við að biðja um að fá að vera skráð í okkar hús“ Innlent Íslendingar meðal sakborninga en enginn í varðhaldi Innlent Þjóðin klofin í afstöðu til þess hvort jafnrétti kynjanna hafi verið náð Innlent Vara við vafasömum Excel-skjölum í umferð „bókstaflega út um allt“ Innlent Fleiri fréttir Slepptu kynferðisbrotamanni fyrir mistök Fangelsaðir vegna íkveikju fyrir Wagner Vinstrikona gegn ESB og NATO líklegur næsti forseti Írlands Ætlar að flýta hernaðaruppbyggingu í Japan Musk kallar ráðherra heimskan og homma „Við ætlum að drepa þá. Þeir verða, sko, dauðir“ Kvennaverkfall að hefjast og breytingar á lánum Landsbankans Náðaði rafmyntamógúl sem hefur hjálpað rafmyntaveldi Trump Vilja að þunguðum konum verði líka heimilt að deyja Rýnt í stöðuna í Úkraínu: Trump stendur loks við stóru orðin Trump slaufar öllum viðræðum við Kanada út af sjónvarpsauglýsingu sem fór fyrir brjóstið á honum Villur í dómum sömdum með aðstoð gervigreindar Belgar komu í veg fyrir samþykkt um nýtingu rússneskra eigna Verja kjarnorkuvopn sín á norðurslóðum með leynilegu eftirlitskerfi Sýknaður af öllum ákærum vegna „blóðuga sunnudagsins“ „Ísrael mun missa allan stuðning“ Annað safn rænt í Frakklandi um helgina Rannsaka „glæfraleg“ svikabrigsl fyrir andlát skákmeistarans unga Hafði varað við því að árásamaðurinn væri í lögreglubúning Gera ráð fyrir tugþúsundum á kosningafundum í Búdapest Mikill hiti í síðustu kappræðunum fyrir kosningar Leggur viðskiptaþvinganir á rússneska olíurisa Hafa drepið 34 í árásum á meinta smyglara Myndavélar sneru í ranga átt er gripunum var stolið Rannsaka jákvæð áhrif covid-bóluefnis á krabbameinssjúklinga Gerðu árás á leikskóla í Karkív Hegseth bannar nú samskipti við þingið Trump gæti veitt sjálfum sér tugi milljarða í bætur frá eigin stjórn Vísindamenn segja mikilvægt að vanda valið á þunglyndislyfjum Sextíu og þrír látnir eftir umferðarslys í Úganda Sjá meira