Administrerende direktør i OpenAI, produsent av ChatGPT, sa tirsdag at farene som holder ham oppe om natten om kunstig intelligens er subtile sosiale feiljusteringer som kan få systemer til å skape kaos.
Sam Altman, som talte på World Government Summit i Dubai via videosamtale, gjentok sin oppfordring til å opprette et organ som Det internasjonale atomenergibyrået for å overvåke kunstig intelligens som sannsynligvis går raskere frem enn verden venter.
Klikk her for å følge vår WhatsApp-kanal
Det er noen ting der inne som er lett å forestille seg hvor ting virkelig går galt. Og jeg er ikke så interessert i morderroboter som går nedover gaten mot ting som er dårlige,» sa Altman. «Jeg er mye mer interessert i de subtile sosiale feiljusteringene der vi har disse systemene i samfunnet og uten hjelp. spesielt dårlige hensikter, ting går veldig galt.
Altman understreket imidlertid at AI-industrien, som OpenAI, ikke bør være i førersetet når det gjelder å vedta forskrifter som styrer bransjen.
''Vi er fortsatt i en fase med mange diskusjoner. Så du vet, alle i verden har en konferanse. Alle har en idé, et policydokument, og det er greit,» sa Altman. «Jeg tror vi fortsatt er i et øyeblikk hvor debatt er nødvendig og sunn, men på et tidspunkt i løpet av de neste årene tror jeg vi går å måtte bevege seg mot en handlingsplan med reell konsensus rundt om i verden.
OpenAI, en San Francisco-basert kunstig intelligens-oppstart, er en av lederne i rommet. Microsoft har investert omtrent 1 milliard dollar i OpenAI. Associated Press har signert en avtale med OpenAI for å få tilgang til nyhetsarkivet. I mellomtiden saksøker The New York Times OpenAI og Microsoft for å ha brukt historiene deres uten tillatelse til å trene OpenAIs chatbots.
OpenAIs suksess har gjort Altman til det offentlige ansiktet for den raske kommersialiseringen av generativ kunstig intelligens og frykten for hva som kan komme av den nye teknologien.
De forente arabiske emirater, en autokratisk føderasjon av syv arvelig styrte sjeikdomer, har tegn på denne risikoen. Tale forblir strengt kontrollert. Disse begrensningene påvirker flyten av nøyaktig informasjon, de samme detaljene som AI-programmer som ChatGPT er avhengige av som maskinlæringssystemer for å gi svar til brukerne.
Emiratene har også Abu Dhabis G42-selskap, overvåket av landets mektige nasjonale sikkerhetsrådgiver. G42 har det eksperter foreslår er verdens ledende arabiskspråklige AI-modell. Selskapet har blitt anklaget for spionasje for sine bånd til en mobilapp identifisert som spionvare. Han møtte også påstander om at han i all hemmelighet kunne ha samlet genetisk materiale fra amerikanere for den kinesiske regjeringen.
G42 har sagt at de vil kutte båndene med kinesiske leverandører på grunn av amerikanske bekymringer. Diskusjonen med Altman, moderert av UAEs statsminister for kunstig intelligens Omar al-Olama, berørte imidlertid ingen av de lokale bekymringene.
Altman sa på sin side at han var oppmuntret over å se at skoler, der lærere fryktet at elevene ville bruke kunstig intelligens til å skrive artikler, nå omfavner teknologien som avgjørende for fremtiden. Men han la til at kunstig intelligens fortsatt er i sin spede begynnelse.
Jeg tror grunnen er at den nåværende teknologien vi har er som … den aller første mobiltelefonen med en svart-hvitt skjerm, sa Altman. «Så gi det litt tid. Men jeg vil si at jeg tror det om noen år vil være mye bedre enn nå. Og om et tiår burde det være ganske bemerkelsesverdig.
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»