Politiske dype forfalskninger er hovedbruken av ondsinnet kunstig intelligens

Deepfakes kommer i mange forskjellige former, men deres vanligste misbruk er å etterligne politikere og kjendiser, ifølge en ny studie fra DeepMind og Google Jigsaw.

Som Financial Times rapporterer, disse falske digitale kjendisene er mer vanlig enn bruken av AI for å lette nettangrep. For det andre, bruken av AI chatbots for å generere desinformasjon.

Forskere studerte omtrent 200 tilfeller av overgrep mellom januar 2023 og mars 2024.

Med dype forfalskninger av kjendiser og politikere, sier Jigsaw at målet er å påvirke opinionen, og det alene står for 27% av ondsinnet AI-bruk. Andre vanlige misbruk av kunstig intelligens inkluderer ærekrenkelse, uredelige kjendisreklamer, trakassering, spredning av propaganda og parodi.

Gitt antallet valg som er planlagt i 2024, bør det ikke komme som noen overraskelse at dype forfalskninger av politikere er allestedsnærværende. I USA har noen selskaper forbudt chatbotene deres å generere innhold om valg, mens regulatorer jobber for å kreve avsløring av AI-generert innhold i valgannonser.

Vi hadde allerede en høyprofilert sak om valgrelatert dypfalsk svindel. I forkant av New Hampshires president-primær, oppfordret en falsk robocall fra «President Biden» demokratene til å holde seg hjemme. Det ble senere avslørt at en konsulent for en av Bidens presidentutfordrere hadde orkestrert svindelen; han har blitt siktet for mer enn et dusin forbrytelser og forseelser og står overfor en bot på 6 millioner dollar fra FCC.

I april advarte Microsoft om at en obskur gruppe med bånd til den kinesiske regjeringen ville forsøke å påvirke det amerikanske valget ved å bruke AI-generert innhold. En gruppe kalt «Storm-1376» har blitt oppdaget ved å bruke falske sosiale medier-kontoer og AI-generert innhold for å skape splittelse i USA og Taiwan via AI-genererte videoer, memer og lydklipp.