Bidens AI-ordre lar byråer håndtere omfattende risikoer

President Joe Biden vil signere en bred og omfattende ordre som regulerer bruken av kunstig intelligens av føderale byråer, ifølge et utkast innhentet av regjeringen Bloomberg, som markerer hans viktigste skritt til dags dato for å adressere risikoen ved den nye teknologien.

Utkastet på 111 sider, datert 23. oktober, utnytter regjeringens posisjon som en stor kunde for teknologiselskaper som Microsoft Corp og Amazon.com Inc. for å presse på for endringer i deres AI-produkter, noe som krever at utviklere av kraftige AI-systemer rapporterer deres opplærings- og testprosesser til den føderale regjeringen.

Vi er nå på WhatsApp. Klikk for å delta.

Ordren, som forventes å bli utgitt mandag, kommer som en blanding av frykt og spenning over den raske utviklingen av kunstig intelligens har kastet teknologien inn i søkelyset. Med eksplosjonen av generativ kunstig intelligens – store språkmodeller som kan produsere tekst, bilder og lyd nesten øyeblikkelig – har amerikanere verktøy for hånden for å skrive taler, planlegge måltider og øke hastigheten på søk, blant andre applikasjoner.

Ledere av teknisk industri, det nasjonale sikkerhetsmiljøet, fortalergrupper og andre på tvers av offentlig og privat sektor har sterkt bedt om statlige tiltak for å redusere AI-risikoer på tvers av personvern, feilinformasjon, diskriminering og fortrengning av jobber. Føderale ledere har vist et sterkt ønske om å etablere regler som beskytter amerikanere mot teknologiens verste farer, men en radikal respons har ennå ikke dukket opp.

Bidens direktiv tar sikte på å fremme sikker og ansvarlig implementering av kunstig intelligens med en regjeringsomfattende strategi. Kongressens lovgivere jobber i mellomtiden fortsatt med å lage regler som etablerer rekkverk samtidig som de fremmer teknologiens potensial til å drive innovasjon.

Ansettelser, diskriminering

I henhold til tekstutkastet vil Arbeidsdepartementet gjennomgå føderale byråers støtte til arbeidere som er fordrevet av AI og skrive veiledning for føderale kontraktører om å forhindre diskriminering i AI-drevne ansettelsessystemer, en av de største bekymringene til borgerrettighetsgrupper og Biden-administrasjonen . . Det hvite hus vil også pålegge statsadvokaten å koordinere med byråer for å sikre implementering og håndhevelse av eksisterende lover som adresserer brudd på borgerrettigheter og diskriminering.

Utkastet til ordre oppfordrer også Federal Communications Commission til å vurdere å bruke kunstig intelligens for å blokkere uønskede samtaler og tekstmeldinger og oppfordrer immigrasjonstjenestemenn til å strømlinjeforme visumkravene for utenlandske arbeidere med AI-ekspertise. Det vil også oppfordre tjenestemenn i Det hvite hus til å sammenkalle en arbeidsgruppe for kunstig intelligens og teknologitalent for den føderale regjeringen.

Personvern, sikkerhet

Personvern forventes også å være et sentralt fokusområde i den utøvende ordren, som vil introdusere sikkerhetstiltak som krever avsløring av hvordan AI-teknologi brukes av føderale byråer for å samle inn eller bruke borgernes informasjon, ifølge utkastet.

Den etterlengtede ordren følger mer enn et dusin ledende AI-selskaper, inkludert Microsoft, Meta, Google og OpenAI, som tilbyr frivillige forpliktelser over sommeren for å distribuere AI trygt, samt AI-administrasjonens utkast til dokumentet «Bill of Rights,» et rettighetsdokument basert på et rammeverk for utvikling og sikker bruk av AI, utgitt i fjor høst. Dette kommer også ettersom USA prøver å opprettholde sitt konkurransefortrinn innen kunstig intelligens, spesielt når Kina kjemper for å bli verdensledende innen denne teknologien.

Presidenten forventes å signere en omfattende ordre om kunstig intelligens bare dager før visepresident Kamala Harris og industriledere deltar på et toppmøte i Storbritannia om risikoen ved kunstig intelligens, ledet av statsminister Rishi Sunak. Direktivet krever at spesifikke handlinger om kunstig intelligens skal offentliggjøres på verdensscenen, ettersom EU og Kina går forbi USA i utviklingen av regulering av teknologien.

Det hvite hus nektet å kommentere.

Fokuser på risikoene

Ordren forventes å berøre en rekke AI-relaterte risikoer knyttet til cybersikkerhet, forsvar, helse, arbeidskraft, energi, utdanning, offentlige goder og andre saker under byråets jurisdiksjon, og vil støtte en rekke arbeidsgrupper og kontorer for å utvikle strategier for bruken av AI.

Målet er å slå ned på skaden forårsaket av generativ AI ved å instruere byråer til å identifisere verktøy for å spore, autentisere, merke og kontrollere AI-generert innhold, samt forhindre spredning av AI-generert materiale om seksuelle overgrep mot barn. kunstig intelligens og intimt innhold uten samtykke. bilder av enkeltpersoner.

I henhold til utkastet vil forsvarsdepartementet og departementet for hjemmesikkerhet få i oppgave å utvikle og distribuere kunstig intelligens for å hjelpe med å oppdage og utbedre sårbarheter i kritisk amerikansk infrastruktur og programvare. DHS vil også være ansvarlig for å evaluere potensielt misbruk av kunstig intelligens for utvikling av biologiske våpen.

Tjenestemenn vil også få i oppgave å gjennomgå byråers støtte til arbeidere som er fordrevet av AI og skrive veiledning for føderale entreprenører om å forhindre diskriminering i AI-drevne ansettelsessystemer. Detaljene i de forventede prinsippene adresserer bekymringer fra sivilsamfunnet og fageksperter om potensialet for teknologi til å erstatte visse karriereveier og skape muligheter.

I henhold til utkastet til ordre må føderale myndigheter arbeide for å forhindre ulovlig diskriminering som skjer gjennom bruk av kunstig intelligens ved ansettelse, som har vært en topp teknologiprioritet for Biden-administrasjonen.

Underwriting, finansielle produkter

Innen 180 dager må arbeidsministeren gi veiledning til føderale kontraktører om ikke-diskriminering ved ansettelser som involverer kunstig intelligens og andre teknologibaserte ansettelsessystemer. Federal Housing Finance Agency og Consumer Financial Protection Bureau er også forpliktet til å iverksette tiltak, der det er nødvendig, for å adressere skjevhet forårsaket av bruken av AI-verktøyet for å tegne lån og selge andre finansielle produkter.

Utkastet til EO etablerer også sikringstiltak for å sikre at personer med nedsatt funksjonsevne ikke får skjevbehandling som følge av bruk av kunstig intelligens, herunder bruk av biometriske data som blikkretning, øyesporing, analyse av gange og håndbevegelser. I tillegg forventes ordren å innføre personverntiltak som krever avsløring av hvordan AI-teknologi brukes av føderale myndigheter for å samle inn eller bruke innbyggernes informasjon.

En annen ting! HT Tech er nå på WhatsApp-kanaler! Følg oss ved å klikke på lenken for å ikke gå glipp av noen oppdateringer fra teknologiens verden. Klikk Her å registrere deg nå!