Deepfakes for lyd er billigere å lage enn video, og kan være vanskeligere å avkrefte. Det har allerede vært flere tilfeller av forsøk på innblanding i valg rundt om i verden.
Mens AI deepfakes skaper kaos i andre valg, advarer eksperter om at britiske politikere må være forberedt.
«Bare fortell meg hva du spiste til frokost,» sier ControlAIs Mike Narouei, og spiller inn på den bærbare datamaskinen. Jeg snakker i omtrent 15 sekunder om ristet brød, kaffen min og turen til kontoret deres.
I løpet av sekunder hører jeg min egen stemme som sier noe helt annet.
Følg de siste oppdateringene om valget
I dette tilfellet skrev jeg: «Deepfakes kan være ekstremt realistiske og ha kapasitet til å forstyrre vår politikk og skade vår tillit til den demokratiske prosessen. »
Vi brukte åpen kildekode, det krevde ingen avanserte tekniske ferdigheter og det tok veldig kort tid.
Det er en lyddeepfake – videoer krever mer innsats å produsere – og i tillegg til å bli distribuert av svindlere av alle slag, skaper det dyp bekymring, i et år da rundt to milliarder mennesker går til valgurnene, i USA, India og dusinvis av andre land, inkludert Storbritannia, om deres innvirkning på valg.
Sir Keir Starmer opplevde dette på fjorårets Arbeiderpartikonferanse, angivelig om at han fornærmet ansatte. Den ble raskt avslørt som en falsk. Identiteten til personen som laget den har aldri blitt oppdaget.
Sadiq Khan, borgermester i London var også målrettet i år, med falsk lyd av ham som kommer med provoserende bemerkninger om minnehelgen og ber om at pro-palestinske marsjer går viralt på et anspent tidspunkt for lokalsamfunn. Han sa at det var behov for nye lover for å stoppe dem.
Ciaran Martin, tidligere direktør for Storbritannias National Cyber Security Centre, fortalte Sky News at dyre videoforfalskninger kan være mindre effektive og lettere å avkrefte enn lyd.
«Jeg er spesielt bekymret for lyd akkurat nå, fordi lyddypfalsk er utrolig enkelt å lage, urovekkende enkelt,» sa han. «Og hvis de distribueres intelligent, kan de ha en innvirkning.»
Ifølge ham er de som har vært mest skadelige dypfalsk lyd av president Bidensendt til velgerne under primærvalget i New Hampshire i januar i år.
En «robocall» med presidentens stemme ba velgerne om å holde seg hjemme og «spare» stemmene sine til presidentvalget i november. En politisk konsulent tok senere på seg ansvaret og ble siktet og bøtelagt 6 millioner dollar (4,7 millioner pund).
Lære mer:
Digitalt valg i India
Tiden renner ut for regulatorer til å takle AI-trusselen
Biden vil avsløre omfattende AI-forskrifter
Mr Martin, nå professor ved Blavatnik School of Government ved Oxford University, sa: «Det var en veldig troverdig imitasjon av stemmen hans og anekdotiske bevis tyder på at noen mennesker ble villedet av den.
«Spesielt fordi det ikke var en e-post de kunne gi videre til noen andre å se på, eller på TV hvor mange så på. Det var en oppfordring hjem som de mer eller mindre måtte bedømme på egenhånd.
«Spesielt målrettet lyd er sannsynligvis den største trusselen akkurat nå, og det er ingen generell løsning, det er ingen knapp du bare kan trykke på og få dette til å forsvinne hvis du er villig til å betale for det eller vedta de riktige lovene.
«Det du trenger, og USA gjorde dette veldig bra i 2020, er en serie ansvarlige, kunnskapsrike øyne og ører i forskjellige deler av valgsystemet for å begrense og redusere skade.»
Han mener det er en risiko for å overdrive trusselen om deepfakes, når de ennå ikke har forårsaket massive valgskader.
Han sier at et falsk russisk-produsert ukrainsk TV-program med en ukrainsk tjenestemann som tok ansvar for et terrorangrep i Moskva ganske enkelt «ikke ble trodd», til tross for at det ble produsert dyrt.
Den britiske regjeringen har vedtatt en nasjonal sikkerhetslov som åpner for nye lovbrudd om utenlandsk innblanding i landets demokratiske prosesser.
Nettsikkerhetsloven pålegger teknologiselskaper å fjerne slikt innhold, og møter holdes jevnlig med sosiale medieselskaper i perioden før valget.
Demokratiaktivister frykter at dype forfalskninger ikke bare kan brukes av fiendtlige utenlandske aktører eller ensomme individer som ønsker å forstyrre prosessen, men også av politiske partier selv.
Polly Curtis er administrerende direktør i tenketanken Demos, som har bedt partene om å bli enige om et sett med retningslinjer for bruk av AI.
Hun sa: «Risikoen er at det er utenlandske aktører, politiske partier, vanlige folk på gaten som lager innhold og bare blander sammen hva som er sant og ikke.
«Vi vil at de skal komme sammen og bli enige om hvordan de skal bruke disse verktøyene i valget. Vi vil at de skal bli enige om ikke å lage generative verktøy.» AI eller forsterk den og merk den når den brukes.
«Denne teknologien er så ny, og det er så mange valg på gang, at det kan være en stor feilinformasjonsbegivenhet i en valgkamp som vil begynne å påvirke folks tillit til informasjonen de har.»
Deepfakes har allerede vært mål i store valg.
I fjor, timer før valglokalene stengte i det slovakiske presidentvalget, gikk en falsk lyd av en av kandidatene som hevdet å ha rigget valget viralt. Han ble tungt beseiret og hans pro-russiske motstander vant.
Den britiske regjeringen etablerte en felles valgsikkerhetsberedskapsenhet tidligere i år – med Whitehall-tjenestemenn som jobber med politi og sikkerhetsbyråer – for å svare på trusler etter hvert som de dukker opp.
En talsperson for den britiske regjeringen sa: «Sikkerhet er viktigst, og vi er godt forberedt på å sikre integriteten til valg med robuste systemer på plass for å beskytte mot enhver potensiell forstyrrelse.
«Den nasjonale sikkerhetsloven inneholder verktøy for å bekjempe dype valgtrusler, og sosiale medieplattformer bør også ta proaktive tiltak mot statsstøttet innhold rettet mot å forstyrre valg.»
En Labour-talsperson sa: «Vårt demokrati er sterkt, og vi kan ikke og vil ikke tillate noe forsøk på å undergrave integriteten til valget vårt.
«Men det raske tempoet i AI-teknologi betyr at regjeringen nå alltid må være ett skritt foran dårlige aktører som er fast bestemt på å bruke dype forfalskninger og desinformasjon for å undergrave tilliten til vårt demokratiske system.
«Labour vil jobbe utrettelig for å motvirke disse truslene.»
«Kaffeaholic. Livslang alkoholfanatiker. Typisk reiseekspert. Utsatt for apatianfall. Internett-banebryter.»