Frykter tsunami av KI-generert desinformasjon før valget i USA

En amerikansk president skal velges i en tid hvor KI-generert innhold er enkelt å lage og vanskelig å oppdage. Les om hvorfor det bekymrer eksperter og mer i årets første Bits & Bytes.

Det føles lenge siden et amerikansk presidentvalg ikke ble preget av kaos, falske nyheter og forsøk på å påvirke velgere. Både i 2016 og 2020 fikk sosiale medier mye av skylden.

Mye tyder nå på at 2024 blir året hvor kunstig intelligens seiler opp som digital syndebukk og demokratisk trussel.

Generative KI-verktøy har gjort det enklere, raskere og billigere å produsere desinformasjon. I dag kan nær sagt hvem som helst lage realistiske deepfakes, manipulert lyd og falske bilder.

Samtidig nedprioriterer sosiale medier-plattformene, der innholdet spres, å slå ned på falske nyheter.

– Jeg forventer en tsunami av desinformasjon, sier Oren Etizoni, KI-ekspert og professor ved University of Washington til Fortune.

Han er ikke alene. En undersøkelse gjort av Associated Press viser at nesten 60 prosent av voksne amerikanere tror kunstig intelligens vil føre til en økning av desinformasjon under presidentvalget.

– Du kan se at Joe Biden hastes inn på et sykehus, eller kandidater si ting han eller hun aldri egentlig har sagt. Du kan se storming av banker. Du kan se bombeangrep og vold som aldri har skjedd, legger Etizoni til.

«Et teknologidrevet Armageddon»

Bekymringene er berettiget, for kunstig intelligens har blitt brukt til å påvirke en rekke valg rundt omkring i verden den siste tiden.

Kun dager før valget i Slovakia i fjor høst dukket det opp KI-genererte lydklipp av en kandidat som diskuterte hvordan de kunne manipulere valget (og øke prisene på øl i samme slengen).

I Argentina, hvor den kontroversielle ytre høyre-figuren Javier Milei gikk seirende ut, har valget blitt beskrevet som tidenes første «KI-valg» av The New York Times – etter utstrakt bruk av deepfakes og KI-genererte bilder i forbindelse med både selvpromotering og svertekampanjer.

Den filippinske journalisten og fredsprisvinneren Maria Ressa kalte utfordringene generativ KI utsetter oss for et «teknologidrevet Armageddon» og hevdet under et pressearrangement i Washington i fjor høst at vi innen utgangen av 2024 vil vite om demokratiet vil leve videre eller dø.

Bekymrer også i Europa

Men det er ikke bare USA som skal til valgurnene i 2024. Til sammen skal omtrent halvparten av verdens befolkning stemme i et valg i år. Blant annet i India, Mexico, Sør-Afrika og bortimot alle europeiske land.

I Europa bekymrer også eksperter seg for hvordan KI kan påvirke utfallet av demokratiske prosesser. Særlig med tanke på det som beskrives som en høyre-bølge inn mot EUs parlamentsvalg i juni:

– Euroskeptiske partier har tradisjonelt gjennomført svertekampanjer mot EU-eliter og eurofile motstandere. Det er uunngåelig at KI vil fasilitere produksjonen av slikt innhold, og få det til å se mer ekte ut ettersom teknologien utvikler seg, sier Andrea Pirro, professor ved University of Bologna til Euronews.

Synes du dette var en dyster start på teknologiåret 2024? Da kan du heller kose deg med disse gladsakene: