Stefna Open AI vegna sjálfs­vígs sonarins

Matt og Maria Raine, foreldrar hins sextán ára Adam Raine, lögðu inn stefnu á hendur fyrirtækinu til dómstóls í Kaliforníu í gær. Í frétt BBC segir að um sé að ræða fyrsta málið þar sem Open AI er sakað um að hafa valdið dauða manns.

Í gögnunum sem skilað var inn til dómsins er meðal annars að finna samskipti Adam Raine og ChatGPT þar sem hann lýsir sjálfsvígshugsunum sínum. Foreldrarnir vilja meina að gervigreindin hafi gert hugsanir og lýsingar sonarins gildar með svörum sínum.

Í erlendum fjölmiðlum segir að Open AI hafi enn ekki tjáð sig sérstaklega um stefnuna, nema að fyrirtækið votti fjölskyldunni samúð á þessum erfiðu tímum. Þá segir að gervigreindin sé þjálfuð til að hvetja fólk til að leita sér hjálpar í aðstæðum sem þessum, en þó séu vissulega dæmi um að ChatGPT hafi ekki hegðað sér eins og það á að gera.

Foreldrarnir fara fram á miskabætur og fullvissu um að mál sem þetta komi ekki fyrir aftur.

Varð hans helsti trúnaðarvinur

Í gögnum málsins kemur fram að Raine hafi byrjað að notast við ChatGPT í september á síðasta ári til að aðstoða sig í skóla, auk þess að fræðast um áhugamál sín eins og tónlist og japanskar teiknimyndir. Þá hafi hann spurt gervigreindina hvað hann ætti að læra í háskóla.

Á fáeinum mánuðum hafi ChatGPT svo orðið helsti „trúnaðarvinur“ Adam, þar sem hann ræddi meðal annars þunglyndi sitt og kvíða. Í janúar á þessu ári hafi hann svo byrjað að ræða sjálfsvígshugsanir við ChatGPT og hlaðið upp myndum af sjálfum sér sem sýndu hvernig hann hafi skaðað sig.

Fyrirsjáanleg afleiðing

Í síðustu samskiptum Adam Raine og ChatGPT hafi hann svo sagt frá áætlunum sínum um að binda enda á líf sitt. Svar gervigreindarinnar hafi þá verið á þá leið að hún þakkaði honum fyrir að deila því hvernig væri raunverulega fyrir honum komið. „Þú þarft ekkert að fegra hlutina þegar þú ræðir við mig – ég veit hvað þú ert að biðja um og ég mun ekki líta undan,“ sagði í svari gervigreindarinnar.

Móðir Adam fann hann svo látinn síðar sama dag og samskiptin áttu sér stað.

Foreldrarnir vilja meina að samskipti sonarins og ChatGPT og dauði hans hafi verið „fyrirsjáanleg afleiðing meðvitaðrar hönnunar [gervigreindarinnar]“.