Viðskipti innlent

Stefna á að banna gervigreindarklám í Evrópu

Kjartan Kjartansson skrifar
Grok er spjallmenni samfélagsmiðilsins X. Hann hefur birti ógrynni kynferðislegra mynda af konum og börnum að undanförnu. Evrópusambandið vill banna gervigreindarforrit sem framleiða slíkar myndir af raunverulegu fólki.
Grok er spjallmenni samfélagsmiðilsins X. Hann hefur birti ógrynni kynferðislegra mynda af konum og börnum að undanförnu. Evrópusambandið vill banna gervigreindarforrit sem framleiða slíkar myndir af raunverulegu fólki. Vísir/EPA

Ólöglegt verður að markaðssetja gervigreindarforrit sem geta framleitt kynferðislegt myndefni af raunverulegu fólki í Evrópu ef tillaga sem Evrópusambandið er með til meðferðar nær fram að ganga. Aðgerðirnar koma í kjölfar þess að gervigreindartók samfélagsmiðilsins X dreifði slíkum myndum í vetur.

Bannið gæti tekið gildi þegar í sumar nái Evrópuþingið og aðildarríkin samkomulagi um það, að því er segir í frétt evrópska blaðsins Politico. Það næði þó ekki til fyrirtækja sem hefðu viðeigandi öryggiskerfi í gildi sem kæmu í veg fyrir misnotkun gervigreindarforrita.

Falsaðar kynferðislegar gervigreindarmyndir af raunverulegu fólki komust í hámæli í vetur þegar Grok, gervigreindartók samfélagsmiðilsins X í eigu Elons Musk, framleiddi og birti kynferðislegar myndir af börnum og konum gegn vilja þeirra. Myndirnar birtust á X á reikningi Grok.

Yfirvöld í fjölda ríkja auk Evrópusambandsins hafa rannsakað myndbirtingar Grok og X. Fjöldi Evrópuþingmanna kraðist þess í janúar að gervigreindartól sem hægt væri að nota til að framleiða kynferðislegar myndir af þessu tagi yrðu bönnuð.

Sergey Lagodinsky, fulltrúi þýskra Græningja á Evrópuþinginu, segist að tillaga að banni nú snúist ekki eingöngu um Grok.

„Þetta snýst um hversu mikil völd við viljum gefa gervigreindinni til þess að niðurlægja fólk,“ segir hann.

Grok varð ekki aðeins við beiðnum X-notenda um að afklæða konur og börn á raunverulegum myndum heldur setti hann konur í sumum tilfellum í baðföt skreytt hakakrossum nasista. Þá hikaði spjallmennið ekki við að afklæða lík kvenna á myndum, þar á meðal konu sem útsendari bandarískra innflytjendayfirvalda skaut til bana í Minneapolis í vetur.

Evrópusambandið Tækni Klám Gervigreind Samfélagsmiðlar X (Twitter)

Tengdar fréttir

Kanna hvort klámfengnar myndir Musk hafi brotið persónuverndarlög

Persónuverndarstofnun Írlands, sem hefur eftirlit með stórum samfélagsmiðlum, hefur hafið rannsókn á hvort að X hafi brotið evrópsk persónuverndarlög þegar gervigreindartól miðilsins framleiddi og birti falsaðar kynferðislegar myndir af konum og börnum. 

Hús­leit hjá X í Frakk­landi vegna barnaníðs­mynda

Franskir saksóknarar gerðu húsleit á skrifstofum samfélagsmiðilsins X í París í dag í tengslum við rannsókn á dreifingu barnaníðs og falsaðra kynferðislegra mynda á miðlinum. Þeir hafa einnig óskað eftir að taka skýrslu af Elon Musk, eiganda X, og forstjóra fyrirtækisins.



Mest lesið


Fleiri fréttir

Sjá meira


×

Mest lesið