Et teknisk tips: hvordan oppdage dypfalske bilder generert av kunstig intelligens

LONDON – Forfalskning av kunstig intelligens er raskt i ferd med å bli et av de største problemene vi står overfor på nettet. Villedende bilder, videoer og lyd sprer seg på grunn av fremveksten og misbruket av generative AI-verktøy.

Med AI-deepfakes som dukker opp nesten hver dag, som viser alle fra Taylor Swift til Donald Trump til Katy Perry som deltar på Meta Gala, er det stadig vanskeligere å skille hva som er ekte fra hva som ikke er det. Video- og bildegeneratorer som DALL-E, Midjourney og OpenAIs Sora gjør det enkelt for folk uten tekniske ferdigheter å lage deepfakes: bare skriv inn en forespørsel og systemet spytter den ut.

Disse falske bildene kan virke harmløse. Men de kan brukes til å utføre svindel og identitetstyveri eller propaganda og valgmanipulasjon.

Slik unngår du å bli lurt av deepfakes:

HVORDAN FØLGE DU EN DEEPFAKE

I de tidlige dagene med deepfakes var teknologien langt fra perfekt og etterlot ofte tydelige tegn på manipulasjon. Faktasjekkere fremhevet bilder med åpenbare feil, for eksempel hender med seks fingre eller briller med forskjellig formede linser.

Men etter hvert som AI har blitt bedre, har det blitt mye vanskeligere. Noen utbredte råd – som å lete etter unaturlige blunkmønstre blant folk i dypfalske videoer – gjelder ikke lenger, sa Henry Ajder, grunnlegger av konsulentselskapet Latent Space Advisory og en ledende ekspert på generativ kunstig intelligens.

Det er imidlertid noen ting å se etter, sa han.

Mange AI dypfalske bilder, spesielt bilder av mennesker, har en elektronisk glans, «en slags estetisk utjevningseffekt» som etterlater huden «utrolig glatt,» sa Ajder.

Han advarte imidlertid om at kreativ tilskyndelse noen ganger kan eliminere dette og mange andre tegn på AI-manipulasjon.

Kontroller konsistensen til skyggene og belysningen. Ofte er motivet i skarpt fokus og virker realistisk overbevisende, men bakgrunnselementer er kanskje ikke like realistiske eller raffinerte.

SE PÅ ANSIKTENE

Ansiktsbytte er en av de vanligste deepfake-metodene. Eksperter anbefaler å se nøye på kantene av ansiktet. Tilsvarer hudtonen i ansiktet resten av hodet eller kroppen? Er kantene på ansiktet skarpe eller uskarpe?

Hvis du mistenker at en video av en person som snakker har blitt behandlet, se på munnen deres. Passer leppebevegelsene perfekt til lyden?

Ajder foreslår å se på tennene dine. Er de klare eller er de uklare og noe inkonsistente med hvordan de fremstår i det virkelige liv?

Nettsikkerhetsfirmaet Norton sier at algoritmene ennå ikke er sofistikerte nok til å generere individuelle tenner, så mangelen på konturer for individuelle tenner kan være en pekepinn.

TENK PÅ DET STØRRE BILDET

Noen ganger er konteksten viktig. Ta en pause for å vurdere om det du ser er plausibelt.

Journalistikknettstedet Poynter advarer om at hvis du ser en offentlig person gjøre noe som virker «overdrevet, urealistisk eller ute av karakter», kan det være en forfalskning.

Ville for eksempel paven virkelig ha på seg en luksuriøs dunjakke, som vist på et beryktet falskt bilde? Hvis det gjorde det, ville det ikke vært flere bilder eller videoer lagt ut av legitime kilder?

På Met Gala var poenget de overdådige kostymene, noe som økte forvirringen. Men slike kjente hendelser dekkes vanligvis av offisielt akkrediterte fotografer som produserer mange bilder som kan hjelpe med verifisering. En anelse om at Perrys bilde var falsk er teppet på trappen, som noen ørneøyne brukere av sosiale medier påpekte var fra 2018-arrangementet.

BRUKER AI FOR Å FINNE FAKER

En annen tilnærming er å bruke AI for å bekjempe AI.

OpenAI sa tirsdag at de vil gi ut et verktøy for å oppdage innhold laget med DALL-E 3, den nyeste versjonen av AI-bildegeneratoren. Microsoft har utviklet et autentiseringsverktøy som kan analysere bilder eller videoer for å gi en sikkerhetsscore på om de har blitt manipulert. Chipmaker Intels FakeCatcher bruker algoritmer for å analysere pikslene i et bilde for å finne ut om det er ekte eller falskt.

Det finnes verktøy på nettet som lover å oppdage forfalskninger hvis du laster opp en fil eller limer inn en lenke til mistenkelig materiale. Men noen, som OpenAI-verktøyet og Microsofts autentisering, er kun tilgjengelig for utvalgte partnere og ikke for publikum. Dette er delvis fordi forskere ikke ønsker å varsle dårlige skuespillere og gi dem en større fordel i det dype falske våpenkappløpet.

Åpen tilgang til sanseverktøy kan også gi folk inntrykk av at de er «guddommelige teknologier som kan sette ut kritisk tenkning for oss» når vi faktisk trenger å være klar over deres begrensninger, sa Ajder.

HINDRINGENE FOR Å FINNE FAKER

Når det er sagt, går AI frem i en rasende hastighet, og AI-modeller blir trent på internettdata for å produsere innhold av stadig høyere kvalitet med færre defekter.

Dette betyr at det ikke er noen garanti for at dette rådet fortsatt vil være gyldig selv om et år.

Eksperter sier at det til og med kan være farlig å legge plikten på vanlige mennesker til å bli digitale Sherlocks fordi det kan gi dem en falsk følelse av selvtillit ettersom det blir stadig vanskeligere, selv for trente øyne, å oppdage deepfakes.

___

Swenson rapporterte fra New York.

___

Associated Press mottar støtte fra flere private stiftelser for å forbedre sin forklarende dekning av valg og demokrati. Lær mer om APs demokratiske initiativ her. AP er eneansvarlig for alt innhold.