Tölvuforrit frá Amazon ruglar saman þingmönnum og eftirlýstum glæpamönnum Gunnar Hrafn Jónsson skrifar 26. júlí 2018 16:28 Forritið virðist hafa innbyggða fordóma gagnvart þeldökku fólki. Vísir/Getty 28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn. Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið „Þetta er auðvitað stórhættulegt“ Innlent Langtímarannsóknir skorti á áhrifum kreatíns Innlent Fjórir látnir eftir skotárás á Manhattan Erlent Ungir menn staðnir að því að skjóta gelkúlum á vegfarendur Innlent Fundaði með Guterres: Tveggja ríkja lausnin sé eina lausnin Innlent Trump segir „alvöru hungursneyð“ ríkja á Gasa Erlent Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Erlent Styttist í háþróuð gervigreindarsvindl á íslensku Innlent Bílar fullir af bensínbrúsum séu úti um alla borg Innlent Sagði sig úr þingmannahóp: „Ég læt ekki nota mig í slíkum tilgangi“ Innlent Fleiri fréttir Maxwell biðlar til Hæstaréttar Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Trump segir „alvöru hungursneyð“ ríkja á Gasa Fjórir látnir eftir skotárás á Manhattan Vill að skýrslutaka Murdochs fari fram eins fljótt og hægt er Tóku tugi af lífi eftir að hafa fengið lausnarfé Elsti Gallagher-bróðirinn ákærður fyrir nauðgun Krísa yfirvofandi: Þurr svæði stækka og þorna hraðar Fækkar dögunum sem hann gaf Pútín: „Ég held ég viti þegar svarið“ Vara við hópeitrunum af völdum THC eftir atvik í fyrra Þrír látnir eftir að lest fór af sporinu Ætla að breyta heræfingum eftir skammir frá systur Kims Semja um vopnahlé 64 prósent myndu þiggja gjaldfrjáls þyngdarstjórnunarlyf Skotárás í Bangkok: Skaut fimm til bana og fyrirfór sér Deilur Repúblikana um Epstein-skjölin magnast enn Gera tíu klukkustunda „mannúðarhlé“ á árásum Segir nýjan viðskiptasamning þann „stærsta í sögunni“ Ísraelsher stöðvaði aðra skútu með vistum Stal 73 rauðvínsflöskum og rúllaði burt á þríhjóli Forsætisráðherra segir að átökin gætu færst nær stríði Biðst afsökunar en segist hvorki þuklari, flassari né dónakarl „Góðu fréttirnar eru að það sem hann segir skiptir engu máli“ „Tími til kominn að ljúka stríðinu á Gasa“ Lýsa yfir herlögum í Taílandi Ísraelsþing ályktar um innlimun Vesturbakkans Jeremy Corbyn leiðir nýja stjórnmálahreyfingu Þrýstingur eykst á Starmer að hann fari sömu leið og Frakkar Samninganefndir ræða fund leiðtoganna Karlmaður á fertugsaldri handtekinn fyrir sprengjuhótunina Sjá meira
28 bandarískir þingmenn eru eftirlýstir af lögreglunni ef marka má niðurstöður úr nýju forriti frá tæknirisanum Amazon. Forritið ber saman andlit fólks við upplýsingar úr gagnagrunni lögreglu til að bera kennsl á glæpamenn. Vandamálið er að það virðist ekki vera mikið að marka niðurstöður forritsins enn sem komið er. American Civil Liberties Union (ACLU) eru félagasamtök sem berjast fyrir borgaralegum réttindum. Þau gerðu tilraunir með forritið sem fólust í að mata það á ljósmyndum af öllum núverandi þingmönnum. Eins og fyrr segir vildi forritið meina að 28 þeirra væru á flótta undan réttvísinni. Talsmaður ACLU segir þetta sýna hversu hættulegt það sé að treysta á tölvuforrit í þessum tilgangi. Formælandi Amazon segir hins vegar að með því að breyta stillingum forritsins sé auðvelt að auka nákvæmni þess og koma í veg fyrir þessar fölsku niðurstöður. Amazon notar sama forrit í margvíslegum tilgangi. Það hefur verið notað til að flokka myndir af frægu fólki, bera kennsl á óviðeigandi myndefni og margt fleira. Amazon er nú að vinna með lögreglu vestanhafs til að innleiða notkun forritsins í löggæslustörfum. ACLU segir það stórhættulega þróun og bendir á að forritið hafi innbyggða fordóma þeirra sem hönnuðu það. Af þeim sem voru ranglega sagðir glæpamenn af forritinu voru 40% blökkumenn. Það virðist því tvöfalt líklegra til að rugla dökkleitu fólki saman við glæpamenn.
Tækni Tengdar fréttir Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05 Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03 Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33 Mest lesið „Þetta er auðvitað stórhættulegt“ Innlent Langtímarannsóknir skorti á áhrifum kreatíns Innlent Fjórir látnir eftir skotárás á Manhattan Erlent Ungir menn staðnir að því að skjóta gelkúlum á vegfarendur Innlent Fundaði með Guterres: Tveggja ríkja lausnin sé eina lausnin Innlent Trump segir „alvöru hungursneyð“ ríkja á Gasa Erlent Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Erlent Styttist í háþróuð gervigreindarsvindl á íslensku Innlent Bílar fullir af bensínbrúsum séu úti um alla borg Innlent Sagði sig úr þingmannahóp: „Ég læt ekki nota mig í slíkum tilgangi“ Innlent Fleiri fréttir Maxwell biðlar til Hæstaréttar Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Trump segir „alvöru hungursneyð“ ríkja á Gasa Fjórir látnir eftir skotárás á Manhattan Vill að skýrslutaka Murdochs fari fram eins fljótt og hægt er Tóku tugi af lífi eftir að hafa fengið lausnarfé Elsti Gallagher-bróðirinn ákærður fyrir nauðgun Krísa yfirvofandi: Þurr svæði stækka og þorna hraðar Fækkar dögunum sem hann gaf Pútín: „Ég held ég viti þegar svarið“ Vara við hópeitrunum af völdum THC eftir atvik í fyrra Þrír látnir eftir að lest fór af sporinu Ætla að breyta heræfingum eftir skammir frá systur Kims Semja um vopnahlé 64 prósent myndu þiggja gjaldfrjáls þyngdarstjórnunarlyf Skotárás í Bangkok: Skaut fimm til bana og fyrirfór sér Deilur Repúblikana um Epstein-skjölin magnast enn Gera tíu klukkustunda „mannúðarhlé“ á árásum Segir nýjan viðskiptasamning þann „stærsta í sögunni“ Ísraelsher stöðvaði aðra skútu með vistum Stal 73 rauðvínsflöskum og rúllaði burt á þríhjóli Forsætisráðherra segir að átökin gætu færst nær stríði Biðst afsökunar en segist hvorki þuklari, flassari né dónakarl „Góðu fréttirnar eru að það sem hann segir skiptir engu máli“ „Tími til kominn að ljúka stríðinu á Gasa“ Lýsa yfir herlögum í Taílandi Ísraelsþing ályktar um innlimun Vesturbakkans Jeremy Corbyn leiðir nýja stjórnmálahreyfingu Þrýstingur eykst á Starmer að hann fari sömu leið og Frakkar Samninganefndir ræða fund leiðtoganna Karlmaður á fertugsaldri handtekinn fyrir sprengjuhótunina Sjá meira
Netflix og Amazon þurfa að fjármagna evrópskt efni Breytingar á evrópskum útvarpslögum þýða að stórar efnisveitur gætu þurft að sinna innlendri dagskrárgerð í þeim löndum sem þær selja þjónustu sína í Evrópu. 26. apríl 2018 16:05
Alexa hljóðritaði samtal hjóna og sendi vinum þeirra í tölvupósti Talsmaður netverslunarfyrirtækisins Amazon segir ótrúlega röð tilviljana hafa valdið því að raddstýrða tækið Alexa tók upp samtal hjóna og sendi upptökuna til manns á vinalista þeirra. 25. maí 2018 13:03
Hinn samansaumaði Jeff Bezos varð ríkasti maður nútímasögunnar í dag Stofnandi Amazon sagður fremur nískur, annað en keppinautur hans á listanum Bill Gates. 16. júlí 2018 20:33