Een rechter uit de Amerikaanse staat Arizona heeft een AI-versie van een vermoorde man laten 'spreken' namens het slachtoffer. Voor zover bekend gebeurde dat nog niet eerder. De AI-toespraak was geen onderdeel van de daadwerkelijke bewijsvoering.
De toespraak werd gedaan door een AI-versie van het slachtoffer, Christopher Pelkey, die met Stable Diffusion en een low-rank adaptation verwezenlijkt werd. Pelkey werd na een verkeersincident doodgeschoten. De zus van Pelkey maakte de avatar en mocht een filmpje van de deepfake en echte beelden van hem namens de slachtoffers en nabestaanden tonen in de rechtszaal, zo schrijft 404 Media.
Dit wordt in de VS een victim impact statement genoemd, een moment tijdens de strafbepaling waarop de slachtoffers mogen verklaren wat het misdrijf met hen doet. Volgens de advocaat van de nabestaanden mogen zij dit recht in een format naar keuze uitoefenen, dus ook in de vorm van een AI-gegenereerd filmpje.
In de video benadrukt de Pelkey-familie namens het slachtoffer dat hij de dader vergeeft. "Aan Gabriel Horcasitas, de man die me doodschoot, het is jammer dat we elkaar op die dag en onder die omstandigheden troffen. In een ander leven hadden we wellicht vrienden kunnen zijn", aldus de deepfake.
De dader werd schuldig bevonden aan doodslag en kreeg de maximale straf voor die omstandigheden, namelijk 10,5 jaar, terwijl de aanklagers volgens 404 Media maar 9 jaar eisten. De rechter die over de zaak besliste, Todd Lang, was naar eigen zeggen onder de indruk van het statement van de AI-versie van Pelkey. Hij benadrukt dat hij Pelkey in tegenstelling tot de gebruikelijke formaliteit van een rechtszaal bij de voornaam noemt 'omdat hij hem heeft leren kennen' dankzij de AI-video.