Den 16. januar sendte CTV News Ottawa historien om et pensjonert Ottawa-par som ble svindlet og tvunget til å bruke kredittgrensen sin til å kjøpe kryptovaluta gjennom en «finansiell rådgiver».
To uker senere dukket en uredelig versjon av den historien, laget med dypfalske AI, opp på Facebook.
Den bearbeidede videoen viser CTVs Graham Richardson og Patricia Boal, samt det pensjonerte ekteparet, snakke om et «program som hjelper kanadiere å oppnå økonomisk uavhengighet.»
Svindlerne hadde tatt den originale advarende historien og, i en dypt ironisk vri, brukt den i et forsøk på å lure flere mennesker til å falle for investeringssvindel tilsvarende den som hadde lurt Doug og Victoria Lloyd.
«Disse verktøyene blir mye kraftigere, mye mer pålitelige, mye mer praktiske, mye enklere å bruke, og befinner seg i økende grad i hendene på opportunistiske nettkriminelle,» sa teknologianalytiker Carmi Levy.
«Dette er dessverre raskt i ferd med å bli vår tids teknologiske pest.»
En talsperson for Meta, morselskapet til Facebook, Instagram, Threads og WhatsApp, sier til CTV News at selskapet investerer penger for å løse denne typen problemer.
Siden som la ut videoen er også fjernet fra plattformen.
«I et forsøk på å forhindre uredelig aktivitet som kan skade mennesker eller virksomheter, fjerner vi sider og innhold som med vilje bedrager, bevisst gir uriktige fremstillinger eller på annen måte bedrager eller utnytter andre for penger eller eiendom,» heter det i en del av uttalelsen.
«Det er viktig å merke seg at dette ikke er nytt, og det er heller ikke begrenset til Meta-plattformer – det har plaget verden av nettannonsering i årevis, og vi forventer ikke at denne kampen tar slutt med det første. Menneskene bak disse annonsene bruker forskjellige metoder og kanaler for å nå ofre via Internett, men vi investerer betydelig for å løse dette problemet.»
Data levert til CTV News av Canadian Anti-Fraud Center (CAFC) viser at investeringssvindel – som ofte er avhengig av dypfalsk AI-teknologi – forårsaket mer enn halvparten av alle pengene tapt til svindel over hele Canada i 2023.
CAFC sier at kanadiere tapte mer enn 553 millioner dollar til svindlere i fjor. Investeringssvindel var ansvarlig for mer enn 309 millioner dollar av totalen.
Ifølge Levy er det ikke bare svindlere som leter etter penger som utnytter den raske utviklingen av kunstig intelligens.
«Dette er den typen teknologi som ikke bare kan få folk til å gi opp sparepengene sine, men som også kan svinge valg,» sa han.
«Det kan føre til at folk stemmer på noen de ikke har tenkt å stemme på, eller ikke stemmer i det hele tatt. Selve demokratiets fremtid henger i en tynn tråd.»
I juni 2022 introduserte den føderale regjeringen Bill C-27, den Lov om implementering av Digital Chartersom inkluderer tre foreslåtte rettsakter: den Lov om forbrukervernDE Lov om personopplysnings- og databeskyttelsesdomstolenog Lov om kunstig intelligens og data.
FB sier det Lov om kunstig intelligens og data vil skissere «klare straffeforbud og sanksjoner angående bruk av ulovlig innhentede data for utvikling av kunstig intelligens eller der hensynsløs bruk av kunstig intelligens fører til alvorlig skade og hvor det er en uredelig hensikt å forårsake betydelig økonomisk tap gjennom bruken».
Implementeringen av loven er imidlertid en langsom prosess, og etter nesten to år er den fortsatt for Underhuset.
Det er også spørsmål fra bransjeeksperter om hvor effektivt det vil være for å redusere spredningen av AI-genererte svindelvideoer.
«Å vite hva som er i horisonten, hvor AI kommer til å bli bedre og vi fortsatt ikke har tilstrekkelige lover på bok, og vi ledes av regjeringer som virkelig ikke forstår implikasjonene av AI, er skremmende,» sa Prelievo .
– Det trengs mer diskusjon på nasjonalt nivå. Bedre lover er nødvendig, og ærlig talt bør vi velge tjenestemenn som er eksperter på disse teknologiene, slik at de kan prioritere å lage lovgivning som tvinger teknologiselskaper til å oppføre seg riktig.»
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»