ChatGPT ger bisarrt, ärekränkande svar till en norsk man som frågar om sig själv

ChatGPT-utvecklaren OpenAI står återigen inför ett integritetsklagomål efter att ha returnerat ett ärekränkande, påhittat svar på en till synes standardfråga. En norsk man vid namn Arve Hjalmar Holmen frågade ChatGPT "vem är Arve Hjalmar Holmen?" och AI-modellen anklagade honom för att ha mördat två av sina söner och försökt mörda sin tredje. Medan en del grundläggande information i svaret var sann, var mordrapporten helt falsk.

Enligt TechCrunch skickade Holmen en till synes enkel fråga till ChatGPT i ChatGPT och svaret lämnade honom i chock (skärmdump bifogas nedan). Svaret uppgav att Holmen fick uppmärksamhet på grund av en tragisk händelse som innebar att han mördade sina två söner i åldern 7 och 10 i staden Trondheim i december 2020. Det tillade att han också senare anklagades för mordförsök på denna tredje son.

Den AI-assistent fortsatte med att säga att händelsen var "mycket omskriven i media" och att Holeman dömdes till 21 års fängelse.

Holeman har beslutat att vidta rättsliga åtgärder mot OpenAI och gruppen Noyb, som arbetar med att försvara integritetsrättigheter, stöder honom i hans argumentation. Gruppen hävdade att även om påståendet från AI-assistenten var helt falskt, så nämnde den korrekt Holemans hemstad och att han har tre söner. Noyb försökte också undersöka varför ett sådant svar genererades men kunde inte hitta någon anledning.

ChatGPT inkluderar en ansvarsfriskrivning att chatboten kan ha fel och att användarna bör kontrollera viktig information, men Noyb säger att detta inte släpper företaget från kroken eftersom det fortfarande har en skyldighet enligt Europeiska unionens allmänna dataskyddsförordning (GDPR) att inte producera allvarliga osanningar i första hand.