Det åpne brevet diskuterer også statlig tilsyn og ikke-offentlige evner og begrensninger for AI-systemer.
Flere tidligere ansatte som jobbet for OpenAI, selskapet som brakte oss ChatGPT, skrev et åpent brev der de sa at AI-selskaper er kritiske til gransking og kritikk. Brevet er signert av 13 tidligere ansatte, hvorav seks valgte å være anonyme, og diskuterer risiko forbundet med AI-systemer som manipulasjon, feilinformasjon og tap av kontroll over autonome AI-systemer.
Dette er å si at siden det foreløpig ikke er noen effektiv statlig kontroll over hva disse selskapene gjør, bør de være åpne for kritikk fra nåværende og tidligere ansatte og ansvarlige overfor offentligheten. Brevet sier at AI-selskaper for tiden har «sterke økonomiske insentiver» til å ignorere sikkerhet og at eksisterende «selskapsstyring»-strukturer ikke er tilstrekkelige.
Du har brukt opp din
månedlig grense for gratis historier.
Les flere historier gratis
med en Express-konto.
Invester i demokrati. Full tilgang til Express for bare Rs 999/år
Denne premium-varen er gratis for nå.
Registrer deg for å lese flere gratis historier og få tilgang til partnertilbud.
Invester i demokrati. Full tilgang til Express for bare Rs 999/år
Dette innholdet er eksklusivt for våre abonnenter.
Abonner nå for å få ubegrenset tilgang til eksklusive og førsteklasses historier fra The Indian Express.
Det antyder også at AI-selskaper ennå ikke offentlig har delt mulighetene og begrensningene til disse systemene og «risikonivåene for forskjellige typer skader» de kan gjøre. Disse tidligere OpenAI-ansatte antyder også at normal «varslerbeskyttelse er utilstrekkelig fordi de fokuserer på ulovlig aktivitet, mens mange av risikoene vi er bekymret for fortsatt er uregulerte.»
De siste månedene har flere AI-selskaper, inkludert OpenAI, gjentatte ganger blitt kritisert for sikkerhetstilsynet deres. I forrige måned forlot Ilya Sutskever, sjefforskeren i OpenAI, selskapet, hvoretter lederen av Superalignment-teamet, Jan Leike, også trakk seg og hevdet at sikkerheten har «tatt baksetet til skinnende produkter». Siden den gang har OpenAI angivelig oppløst Superalignment-teamet og dannet en ny sikkerhets- og sikkerhetskomité ledet av Sam Altman.
© IE Online Media Services Pvt Ltd
Først lastet opp til: 05.06.2024 kl. 12.19 IST
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»