A Stanford Universiteit “expert op het gebied van desinformatie” is ervan beschuldigd gebruik te hebben gemaakt kunstmatige intelligentie (AI) om getuigenissen te vervaardigen die later door de procureur-generaal van Minnesota, Keith Ellison, werden gebruikt in een politiek geladen zaak.
Jeff Hancock, hoogleraar communicatie en oprichter van het Social Media Lab van de veelgeprezen school, legde een deskundigenverklaring af in een zaak waarbij een satirisch conservatieve YouTuber betrokken was, genaamd Christopher Kohls. De rechtszaak gaat over het recente verbod in Minnesota op politieke deepfakes, wat volgens de aanklagers een aanval is op de vrijheid van meningsuiting.
De getuigenis van Hancock werd aan de rechtbank voorgelegd door Ellison, die voor de wet pleit. Hancock staat “bekend om zijn onderzoek naar hoe mensen bedrog gebruiken met technologie, van het verzenden van sms-berichten en e-mails tot het detecteren van valse online recensies”, aldus de website van Stanford.
Maar de advocaten van de aanklager hebben de federale rechter in Minnesota die de zaak behandelt, gevraagd de getuigenis af te wijzen, met de beschuldiging dat Hancock een neponderzoek aanhaalde.
WAT IS KUNSTMATIGE INTELLIGENTIE (AI)?
Een Stanford-professor wordt ervan beschuldigd een AI-taalmodel te gebruiken om een deskundigenverklaring te schrijven. (Getty-afbeeldingen)
“(De) Verklaring van Prof. Jeff Hancock citeert een onderzoek dat niet bestaat”, betoogden advocaten in een recent memo van 36 pagina’s. “Er bestaat geen artikel met de titel.”
De ‘studie’ heette ‘De invloed van deepfake-video’s op politieke attitudes en gedrag’ en werd naar verluidt gepubliceerd in de Tijdschrift voor informatietechnologie en politiek. De 16 november indiening merkt op dat het tijdschrift authentiek is, maar nog nooit een onderzoek met die naam heeft gepubliceerd.
“De publicatie bestaat, maar de geciteerde pagina’s behoren tot niet-gerelateerde artikelen”, betoogden de advocaten. “Waarschijnlijk was het onderzoek een ‘hallucinatie’, veroorzaakt door een AI groot taalmodel zoals ChatGPT.”
“Eisers weten niet hoe deze hallucinatie in de verklaring van Hancock terecht is gekomen, maar het zet het hele document in twijfel, vooral wanneer een groot deel van het commentaar geen enkele methodologie of analytische logica bevat.”
Het document noemt ook Ellison, met het argument dat “de conclusies waar Ellison het meest op vertrouwt geen methodologie achter zich hebben en volledig bestaan uit de mening van deskundigen.”
“Hancock had een echt onderzoek kunnen aanhalen dat vergelijkbaar is met het voorstel in paragraaf 21”, aldus de memo. “Maar het bestaan van een fictief citaat nam Hancock (of zijn assistenten) niet eens de moeite om op oproepen te klikken die de kwaliteit en waarheidsgetrouwheid van de hele verklaring in twijfel trokken.”
BIDEN EXECUTIVE ORDER VOOR ‘WAKKE’ KUNSTMATIGE INTELLIGENTIE GENOEMD ‘SOCIALE KANKER’
Microsoft Bing Chat en ChatGPT AI-chatapplicaties zijn te zien op een mobiel apparaat in deze fotoillustratie in Warschau, Polen, op 21 juli 2023. (Jaap Arriens/NurPhoto via Getty Images)
Het memorandum verdubbelt ook de bewering dat het citaat nep is, waarbij wordt gewezen op de vele huiszoekingen die advocaten hebben uitgevoerd om te proberen het onderzoek te lokaliseren.
“De titel van het vermeende artikel, en zelfs een fragment ervan, verschijnt nergens op internet zoals geïndexeerd door Google en Bing, de meest gebruikte zoekmachines”, aldus het document. “Zoeken op Google Scholar, een gespecialiseerde zoekmachine voor academische artikelen en patentpublicaties, levert geen artikelen op die overeenkomen met de beschrijving van het citaat geschreven door ‘Hwang’ (de vermeende auteur) waarin de term ‘deepfake’ voorkomt.”
“Misschien was dit gewoon een kopieer-plakfout? Dat is het niet”, stelt het dossier later botweg. “Het artikel bestaat niet.”
De advocaten concludeerden dat, als de verklaring gedeeltelijk verzonnen zou zijn, deze volkomen onbetrouwbaar is en buiten beschouwing moet worden gelaten door de rechtbank.
“De verklaring van prof. Hancock moet in zijn geheel worden uitgesloten omdat tenminste een deel ervan gebaseerd is op verzonnen materiaal dat waarschijnlijk door een AI-model is gegenereerd, wat de sluitende beweringen in twijfel trekt”, concludeerde het document. “De rechtbank kan onderzoek doen naar de bron van de verzinsels en aanvullende actie kan gerechtvaardigd zijn.”
Procureur-generaal van Minnesota, Keith Ellison, arriveert om op het podium te spreken tijdens de derde dag van de Democratische Nationale Conventie in het United Center op 21 augustus 2024 in Chicago, Illinois. (Getty-afbeeldingen)
KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN
Fox News Digital nam contact op met Ellison, Hancock en Stanford University voor commentaar.
