OpenAI, den Microsoft-støttede produsenten av ChatGPT, avduket nylig sitt eget stemmekloningsverktøy, kalt Voice Engine. Selskapet hevder at verktøyet kan gjenskape en persons stemme med bare 15 sekunders opptak av den personen som snakker.
Men foreløpig operasjonaliserer ikke ChatGPT teknologien. Grunn: Sjansen for at den blir misbrukt, spesielt med forventet valg i over 20 land rundt om i verden i år.
«Vi anerkjenner de alvorlige risikoene forbundet med denne teknologien, spesielt i valgperioder,» sa OpenAI i en pressemelding. Denne bekymringen stammer fra nylige hendelser som AI-genererte robocalls som etterligner president Biden i primærvalget i New Hampshire.
«Vi samarbeider med amerikanske og internasjonale partnere fra myndigheter, media, underholdning, utdanning, sivilsamfunn og mer for å sikre at vi tar med tilbakemeldingene deres mens vi bygger,» la selskapet til. OpenAI sa at tidlige Voice Engine-testere gikk med på å ikke etterligne en person uten deres samtykke og å avsløre at stemmene er generert av kunstig intelligens.
OpenAI er ikke først i stemmekloningsspillet, men fokuset på ansvarlig implementering skiller det fra hverandre. Innledende testere vil være underlagt strenge retningslinjer, inkludert å innhente samtykke før de utgir seg for å være noen og avsløre stemmens syntetiske natur. Dette gjenspeiler deres strategi med det nye videogenereringsverktøyet Sora.
Til tross for den nåværende blokkeringen av offentlig tilgang, foreslår OpenAIs varemerkeapplikasjon for Voice Engine fremtidige ambisjoner. Appen antyder selskapets plan om å utvide til stemmegjenkjenning og potensielt utvikle en digital stemmeassistent, et grep som kan posisjonere det som en konkurrent i markedet dominert av produkter som Amazons Alexa.
Men foreløpig operasjonaliserer ikke ChatGPT teknologien. Grunn: Sjansen for at den blir misbrukt, spesielt med forventet valg i over 20 land rundt om i verden i år.
«Vi anerkjenner de alvorlige risikoene forbundet med denne teknologien, spesielt i valgperioder,» sa OpenAI i en pressemelding. Denne bekymringen stammer fra nylige hendelser som AI-genererte robocalls som etterligner president Biden i primærvalget i New Hampshire.
«Vi samarbeider med amerikanske og internasjonale partnere fra myndigheter, media, underholdning, utdanning, sivilsamfunn og mer for å sikre at vi tar med tilbakemeldingene deres mens vi bygger,» la selskapet til. OpenAI sa at tidlige Voice Engine-testere gikk med på å ikke etterligne en person uten deres samtykke og å avsløre at stemmene er generert av kunstig intelligens.
OpenAI er ikke først i stemmekloningsspillet, men fokuset på ansvarlig implementering skiller det fra hverandre. Innledende testere vil være underlagt strenge retningslinjer, inkludert å innhente samtykke før de utgir seg for å være noen og avsløre stemmens syntetiske natur. Dette gjenspeiler deres strategi med det nye videogenereringsverktøyet Sora.
Til tross for den nåværende blokkeringen av offentlig tilgang, foreslår OpenAIs varemerkeapplikasjon for Voice Engine fremtidige ambisjoner. Appen antyder selskapets plan om å utvide til stemmegjenkjenning og potensielt utvikle en digital stemmeassistent, et grep som kan posisjonere det som en konkurrent i markedet dominert av produkter som Amazons Alexa.
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»