Facebook-eier Meta annonserte store endringer i retningslinjene sine for digitalt skapte og endrede medier på fredag, i forkant av et amerikansk valg som skal teste evnen til å kontrollere villedende innhold generert av ny kunstig intelligens-teknologi.
Den sosiale mediegiganten vil begynne å bruke «Made with AI»-etiketter i mai på AI-genererte videoer, bilder og lyd som er lagt ut på plattformene deres, og utvider en policy som tidligere kun var rettet mot en smal del av manipulerte videoer, sa visepresident for innholdspolitikk Monika Bickert. sa i et blogginnlegg.
Bickert sa at Meta også vil bruke separate, mer fremtredende etiketter på digitalt endrede medier som utgjør en «spesielt høy risiko for å bedra offentligheten i en viktig sak,» uavhengig av om innholdet ble laget ved hjelp av kunstig intelligens eller andre instrumenter.
Den nye tilnærmingen vil endre selskapets behandling av manipulert innhold. Vi vil gå fra en som fokuserer på å fjerne et begrenset sett med innlegg til en som holder innholdet ferskt ved å gi seerne informasjon om hvordan det ble laget.
Meta hadde tidligere annonsert et opplegg for å oppdage bilder laget ved hjelp av generative AI-verktøy fra andre selskaper ved bruk av usynlige markører innebygd i filer, men hadde ikke gitt en startdato på det tidspunktet.
En talsperson for selskapet sa til Reuters at den nye merkingstilnærmingen vil gjelde for innhold som legges ut på Metas Facebook-, Instagram- og Threads-tjenester. De andre tjenestene, inkludert WhatsApp og Quest virtual reality-headset, er dekket av andre regler.
Meta vil umiddelbart begynne å bruke de mest fremtredende «høyrisiko»-etikettene, sa talspersonen.
Endringene kommer måneder før det amerikanske presidentvalget i november, som teknologiforskere sier kan bli transformert av ny generativ kunstig intelligens-teknologi. Politiske kampanjer har allerede begynt å distribuere AI-verktøy på steder som Indonesia, og flytter grensene for retningslinjer utstedt av leverandører som Meta og OpenAI, markedsledere innen generativ AI.
I februar kalte Metas tilsynsstyre selskapets eksisterende regler for manipulerte medier «inkonsekvente» etter å ha gjennomgått en video USAs president Joe Biden la ut på Facebook i fjor som endret ekte opptak for å feilaktig antyde at han oppførte seg upassende.
Opptaket fikk forbli oppdatert, ettersom Metas eksisterende policy for «manipulerte medier» bare forbyr misvisende endring av videoer hvis de ble produsert av kunstig intelligens eller hvis de får det til å se ut som om folk sa ord de aldri mente faktisk sa.
Rådet sa at retningslinjene også bør gjelde for ikke-AI-basert innhold, som ikke nødvendigvis er mindre misvisende enn AI-generert innhold, samt kun lydinnhold og videoer som viser folk som gjør ting de aldri har gjort.
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»