Politiske deepfakes og manipuleret indhold har potentialet til at påvirke demokratiske valg og ændre vilkårene for den offentlige debat online – også i Danmark. Det viser flere eksempler fra demokratiske valg i det store valgår 2024, hvor misinformation har spredt sig på tech-giganternes platforme under valgkampe. Derfor følger Center for sociale medier, tech og demokrati udviklingen tæt og har i forbindelse med valget til Europa-Parlamentet den 9. juni 2024 undersøgt spredningen af politiske deepfakes og deres betydning for den demokratiske samtale i Danmark.
Undersøgelsen viser bl.a., at deepfake-begrebet bliver brugt til at udtrykke mistillid til indhold og aktører på sociale medier. Beskyldninger om manipuleret indhold forekommer faktisk hyppigere end den egentlige spredning af deepfakes og lignende.
Frem mod valget til Europa-Parlamentet fandt undersøgelsen således 20 eksempler på, at politikeres opslag, fx valgvideoer, bliver mistænkt for at sprede ’fake news’, og 69 eksempler på, at mediers nyhedshistorier mistænkes eller beskyldes for at være fake news og dele deepfakes.
I tråd med eksisterende forskning på området viser analysen, at deepfake-teknologien udfordrer tilliden til både politikere, medier og borgere i online-debatten.
Undersøgelsen viser også, at de mindre teknologisk sofistikerede ’cheapfakes’, hvor billeder og videoer af danske politikere tydeligt er manipuleret fx på en satirisk eller nedgørende måde, var mere udbredte end politiske deepfakes i den demokratiske debat online under valgkampen. Det fund peger på, at der derfor er behov for mere viden om, hvordan spredningen af manipulerede billeder og videoer i den offentlige debat i Danmark bidrager til at forværre tonen og ikke blot som et middel til at ”snyde” modtageren og sprede mis- og desinformation.
Mads Bramsen, chef for Center for sociale medier, tech og demokrati, siger:
”Med analysen, som vi fremlægger her, ser vi tydelige indikationer på, at deepfakes udfordrer tilliden til det indhold, brugere møder online. Vi kan se, at selvom den enkelte politiske deepfake ser ud til at have en begrænset effekt alene, så kan den samlede effekt af udbredelsen af deepfakes påvirke den grundlæggende tillid til, hvad der er sandt, såvel som troværdigheden af centrale demokratiske institutioner.
Den mistillid, som i særdeleshed rettes mod politiske kandidater og traditionelle medier, peger på et behov for, at man som aktør i debatten søger for at være gennemsigtig med, hvordan og hvornår kunstig intelligens benyttes, for at modvirke at tilliden daler.
2024 var et stort valgår og her har vi set, at information kan manipuleres og spredes på tech-giganternes platforme, hvilket i flere tilfælde ser ud til at have haft indflydelse på demokratiske valg. Vi forventer samtidig, at udbredelsen og realismen af politiske deepfakes vil stige i de kommende år. Derfor følger vi fortsat udviklingen på området tæt.”
Om undersøgelsen
Common Consultancy og Analyse & Tal har for Center for sociale medier, tech og demokrati foretaget en monitorering af spredningen af politiske deepfakes under EP-valget i Danmark på fire store sociale medier: Facebook, X, YouTube og TikTok. Monitoreringen er foretaget op til og under valgkampen i perioden fra og med d. 5. maj 2024 til og med d. 9. juni 2024.
De fire sociale medier er udvalgt pga. deres omfattende udbredelse blandt danskere, deres offentlige karakter, der muliggør, at den demokratiske samtale kan udspille sig på netop disse sociale medier, samt deres fokus på lyd og billedbaseret indhold, der gør dem særligt velegnede til at sprede deepfakes.
Hvad er ”deepfakes” og ”cheapfakes”?
Deepfakes anvendes ofte som et paraplybegreb til at betegne forskellige typer af manipuleret indhold, der er produceret ved hjælp af kunstig intelligens. Ofte er der tale om billeder, video eller lydklip, hvor ansigter, kroppe eller stemmer på personer er manipuleret til at vise noget, der aldrig er sket. Derfor kan deepfakes bruges til at misinformere modtageren, som foranlediges til at tro, at det manipulerede materiale er ægte. Til sammenligning er formålet med cheapfakes, som er deepfakens mere håndholdte og mindre teknologisk sofistikerede lillebror, ikke nødvendigvis at ”snyde” modtageren, men at sprede fx satiriske eller nedgørende billeder og videoer i den politiske debat.
|
Yderligere oplysninger
Presse- og kommunikationsrådgiver Camilla Severin Madsen, mail: csm@digmin.dk og tlf. 22466470