Er sosiale medier klare for deepfake-bølgen?

Bilde: Skjermdump X/YouTube

Digitale etterligninger av ekte mennesker blir stadig både vanligere og mer troverdige. Nå går den ekstremt populære YouTuberen MrBeast hardt ut mot fenomenet på X, og får støtte fra flere hold. Les mer om dette og andre saker i ukens Bits & Bytes.

– Masse folk har fått denne deepfake-svindelen som bruker mitt ansikt … er sosiale medie-plattformer klare for å håndtere veksten til KI-genererte deepfakes? Dette er et seriøst problem.

Dette skrev Jimmy Donaldson, bedre kjent som MrBeast, på X (tidligere Twitter) etter at en video der han angivelig ga bort 10.000 iPhone 15 Pro-enheter gikk viralt. Han la også ved videoen i innlegget, og om man ikke kjenner til konteksten fremstår svindelen svært troverdig.

I videoen spres følgende budskap:

– Om du ser denne videoen, så er du en av de 10.000 heldige menneskene som vil motta en iPhone 15 Pro for bare 20 kroner. Jeg er MrBeast, og jeg gjennomfører verdens største iPhone 15-utdeling. Klikk på lenken under for å motta din enhet nå.

En deepfake er kort og greit en etterligning av en faktisk person, generert av kunstig intelligens (KI). I klippet etterlignes Donaldsons stemme, klær, fakter og ansikt nesten helt perfekt – ja, foruten et litt monotont stemmeleie fremstår det i det hele tatt svært ekte. 

Ifølge Medium leder lenken i svindel-klippet til en nettside som etterligner en post fra Donaldsons Instagram-konto, der iPhone-utdelingen promoteres. Det er dessuten en nedtelling der antallet tilgjengelige iPhoner stadig går ned – og brukeranmeldelser fra «fornøyde kunder».

Kjendisers ansikt misbrukes stadig oftere

Problemstillingen Donaldson løfter frem er noe mange andre også har begynt å bekymre seg for i det siste, og det er mange eksempler innen kjendisenes verden. Deepfakes og kunstig intelligens var et brennhett tema i den amerikanske skuespillerforeningen SAG-AFTRAs nylige streik, som lammet film- og serieproduksjon verden over. 

Tom Hanks advarte nylig om at hans person misbrukes på nett – og den avdøde skuespilleren Robin Williams’ datter var forferdet over at farens ansikt dukket opp på nett igjen med nye utsagn. For å nevne noe. Kort og godt: mulighetene for misbruk, og selvsagt også svindel, er enorme. 

Klarer X, Facebook, Instagram, TikTok og andre sosiale medier å luke ut svindler som dette? Og er de i det hele tatt villige – eller i stand – til å gjøre det?

– Terskelen blir lavere og lavere

I Donaldsons tilfelle har TikTok, der videoen først spredte seg, allerede handlet og tatt den ned – men ønsker ikke å uttale seg om saken. De viser til retningslinjene sine, der alt innhold generert av KI må merkes tydelig.

Likevel er det neppe mer enn et spørsmål om tid før flere videoer genereres og spres. Algoritmene bak KI-maskineriet kan jobbe langt raskere enn det menneskelig moderering kan.

Andre nettkjendiser har også uttalt seg i kjølvannet av MrBeast-klippet, og løfter frem sine bekymringer. Ludwig Ahgren, en av verdens største YouTube-personligheter, sier at problemet vil vokse seg større og større de neste årene:

– Teknologien har hatt en enorm utvikling på bare et par år. For to år siden var deepfakes som dette helt utenkelig. I dag er det faktum, sier Ahgren.

– Dette er ikke noen eventyrfortelling om at KI en gang i fremtiden vil greie å imitere folk perfekt, og at terskelen for å benytte teknologien til å gjøre dette vil være veldig lav. Dette er virkeligheten vi lever i.

Tror ikke teknologigigantene vil ta ansvar

Ahgren sier at teknologigiantene som står bak plattformene, som Google og Meta, må ta ansvar og bygge inn forsvarsmekanismer som fanger opp KI-generert innhold.

Han får støtte fra en annen stor YouTuber og Twitch-strømmer, Asmongold (Zack Hoyt), som samtidig også sier at han har liten tro på at slik regulering faktisk vil skje:

– YouTube greier ikke engang å følge opp og bruke sine egne forsvarsmekanismer i dag. Og de har ingen grunn til å gjøre det heller – folk kommer til å bruke tjenesten uansett. Så det gir ingen mening for dem å regulere eller bry seg om dette, sier Hoyt.

Finn ut mer om deepfake-svindelen hos Medium, NBC og på YouTube – og ta en titt på andre spennende KI-saker fra uken som har gått:

(Artikkelen fortsetter nedenfor).

Gratis kurs: Lær å snakke trygt og effektivt med ChatGPT

Introkurs

Lær prompting med språkmodeller som ChatGPT

Slik snakker du trygt og effektivt med kunstig intelligente verktøy  med bruk av prompt engineering.

10 min7 Moduler0% Fullført

Nye Meta- og Musk-kontroverser:

Teknologi og arbeidsplasser er ikke bare bare:

Teknologigigantene har også saker på gang:

Sikkerhet på nett er viktig – men mange nordmenn går i fella:

Vil du lære noe nytt? Ta et av våre gratis kurs:

Service

Digitale kurs

Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.