Google Pixels ansiktsforandrende fotograferingsverktøy vekker debatt om AI-manipulasjon

Kameraet lyver aldri. Bortsett fra, selvfølgelig, det gjør det – og tilsynelatende oftere for hver dag som går.

I smarttelefonens tidsalder har digitale redigeringer for å forbedre bilder blitt vanlig, fra å øke farger til å justere lysnivåer.

Nå legger en ny generasjon smarttelefonverktøy drevet av kunstig intelligens (AI) til debatten om hva det vil si å fotografere virkeligheten.

Googles siste smarttelefoner utgitt forrige uke, Pixel 8 og Pixel 8 Pro, går et skritt lenger enn enheter fra andre selskaper. De bruker kunstig intelligens for å hjelpe til med å redigere folks uttrykk i fotografier.

Det er en opplevelse vi alle har hatt: en person på et gruppebilde ser bort fra kameraet eller kan ikke smile. Googles telefoner kan nå skanne bildene dine for å blande og matche tidligere uttrykk, ved å bruke maskinlæring for å sette inn et smil fra et annet bilde i bildet. Google kaller det Best Take.

Enhetene lar også brukere slette, flytte og endre størrelse på uønskede elementer i et bilde – fra mennesker til bygninger – ved å «fylle» plassen som er igjen med det som kalles Magic Editor. Denne bruker såkalt deep learning, i utgangspunktet en kunstig intelligensalgoritme som finner ut hvilke teksturer som skal fylle gapet ved å analysere de omkringliggende pikslene den kan se, ved å bruke kunnskap hentet fra millioner av andre bilder.

De trenger ikke å være bilder tatt på enheten. Ved å bruke Pixel 8 Pro kan du bruke den såkalte Magic Editor eller Best Take på et hvilket som helst bilde i Google Foto-biblioteket ditt.

For noen observatører reiser dette nye spørsmål om hvordan vi tar bilder.

Andrew Pearsall, en profesjonell fotograf og universitetslektor i journalistikk ved University of South Wales, er enig i at manipulering av AI medfører farer.

«Enkel manipulasjon, selv av kosmetiske årsaker, kan føre oss ned på en mørk vei,» sa han.

Han sa at risikoen var størst for de som bruker AI i profesjonelle omgivelser, men det var implikasjoner alle måtte vurdere.

«Du må være veldig forsiktig med «Når går du over grensen?».

«Det er litt bekymringsfullt nå at du kan ta et bilde og umiddelbart fjerne noe fra telefonen din. Jeg tror vi beveger oss inn i en slags falsk verden.»

I en snakk med BBC sa Googles Isaac Reynolds, som leder teamet som utvikler kamerasystemene på selskapets smarttelefoner, at selskapet tar etisk vurdering av sin forbrukerteknologi på alvor.

Han var rask til å påpeke at funksjoner som Best Take ikke «forfalsket» noe.

Kamerakvalitet og programvare er nøkkelen til selskapets konkurranse med Samsung, Apple og andre – og disse AI-funksjonene blir sett på som et unikt salgsargument.

Og alle anmelderne som uttrykte tvil om teknologien roste kamerasystemets fotokvalitet.

«Du kan endelig få det bildet der alle er slik du vil at de skal se ut, og det er noe du ikke har vært i stand til med noe smarttelefonkamera eller stillbildekamera, punktum,» sa Reynolds.

«Hvis det fantes en versjon [of the photo you’ve taken] hvor den personen smilte, vil han vise deg. Men hvis det ikke fantes en versjon der de smilte, ja, du ville ikke se det,» forklarte han.

For Reynolds blir det endelige bildet «representasjonen av et øyeblikk». Med andre ord, det spesifikke øyeblikket har kanskje ikke skjedd, men det er bildet du ønsket skulle skje, skapt fra flere virkelige øyeblikk.

Professor Rafal Mantiuk, en grafikk- og displayekspert ved University of Cambridge, sa at det var viktig å huske at bruken av kunstig intelligens i smarttelefoner ikke er å få fotografier til å se ut som de gjør i det virkelige liv.

«Folk ønsker ikke å fange virkeligheten,» sa han. «De ønsker å ta vakre bilder. Hele bildebehandlingsprosessen i smarttelefoner er designet for å produsere flotte bilder, ikke ekte.»

De fysiske begrensningene til smarttelefoner betyr at de er avhengige av maskinlæring for å «sette inn» informasjon som ikke finnes på bildet.

Dette hjelper deg med å zoome bedre, forbedre bilder med lite lys, og, når det gjelder Googles Magic Editor-funksjon, legge til elementer i fotografier som aldri har eksistert eller bytte elementer fra andre bilder, for eksempel å erstatte en rynke med et smil.

Fotografimanipulasjon er ikke noe nytt – det er like gammelt som selve kunstformen. Men det har aldri vært enklere å utvide virkeligheten takket være kunstig intelligens.

Tidligere i år Samsung har blitt kritisert for måten den brukte dyplæringsalgoritmer for å forbedre kvaliteten på bilder tatt av månen med smarttelefonene. Testing fant ut at det ikke spilte noen rolle hvor dårlig bildet du tok til å begynne med, det ga deg alltid et brukbart bilde.

Med andre ord, bildet ditt av månen var ikke nødvendigvis et bilde av månen du så på.

Selskapet erkjente kritikken og sa at det jobber for å «redusere enhver potensiell forvirring som kan oppstå mellom handlingen med å ta et bilde av den faktiske månen og et bilde av månen.»

På Googles nye teknologi sier Reynolds at selskapet legger til metadata til bildene sine – fingeravtrykket til et bilde – ved å bruke en industristandard for å signalisere når kunstig intelligens brukes.

«Det er noe vi snakker om internt. Og vi har snakket om det lenge. For vi har jobbet med dette i årevis. Det er en samtale og vi lytter til hva brukerne våre sier,» sier han.

Google er helt sikker på at brukerne vil være enige: AI-funksjonene til de nye telefonene er kjernen i reklamekampanjen.

Så, er det en grense som Google ikke vil krysse når det gjelder bildemanipulering?

Reynolds sa at debatten om bruken av kunstig intelligens er for nyansert til å bare peke på en strek i sanden og si at den er for langt unna.

«Når du kommer dypere inn i funksjonsskaping, begynner du å forstå at én linje er en slags overforenkling av det som ender opp med å bli en veldig komplisert funksjon for funksjon,» sier han.

Mens disse nye teknologiene reiser etiske betraktninger om hva som er og hva som ikke er virkelighet, sa professor Mantiuk at vi også må vurdere begrensningene i øynene våre.

Han sa: «Det faktum at vi ser klare og fargerike bilder er fordi hjernen vår kan rekonstruere informasjonen og også utlede den manglende informasjonen.

«Så du kan klage over at kameraer gjør «falske ting», men den menneskelige hjernen gjør faktisk det samme på en annen måte.»