EUs AI-lov: første AI-lovgivning | Nyheter

Som en del av den digitale strategien ønsker EU å regulere kunstig intelligens (AI) for å sikre bedre forutsetninger for utvikling og bruk av denne innovative teknologien. AI kan gi en rekke fordeler, inkludert bedre helsetjenester, sikrere og renere transport, mer effektiv produksjon og billigere, mer bærekraftig energi.

I april 2021 foreslo kommisjonen det første EU-regelverket for kunstig intelligens. Ifølge forslaget skal AI-systemer analyseres og klassifiseres basert på risikoen de utgjør for brukerne. Ulike risikonivåer vil bety mer eller mindre regulering. Når det er godkjent, vil forslaget være verdens første lovgivning om kunstig intelligens.

Finn ut mer om hva kunstig intelligens er og hvordan den brukes.

Hva Europaparlamentet ønsker å se i AI-lovgivning

Europaparlamentet ønsker å sikre at kunstig intelligens-systemer som brukes i EU er trygge, transparente, sporbare, ikke-diskriminerende og miljøvennlige. AI-systemer bør overvåkes av mennesker, i stedet for automatisering, for å forhindre skadelige effekter.

Europaparlamentet ønsker også å etablere en enhetlig og teknologinøytral definisjon av AI som kan brukes på fremtidige AI-systemer.

Finn ut mer om Europaparlamentets arbeid med AI og dets visjon for fremtiden til AI.

AI-loven: Ulike regler for ulike risikonivåer

De nye reglene etablerer forpliktelser for tilbydere og brukere avhengig av risikonivået AI kan generere. Mens mange AI-systemer utgjør minimal risiko, må de gjennomgå evaluering.

Uakseptabel risiko

AI-systemer med uakseptabel risiko er systemer som anses som en trussel mot mennesker og vil bli forbudt. De inkluderer:

• Kognitiv atferdsmanipulasjon av sårbare mennesker eller spesifikke grupper: for eksempel stemmeaktiverte leker som oppmuntrer til farlig atferd hos barn.
• Sosial poengsum: klassifisering av personer basert på atferd, sosioøkonomisk status, personlige egenskaper.
• Biometrisk identifikasjon og kategorisering av fysiske personer.
• Sanntids og eksterne biometriske identifikasjonssystemer, f.eks. Ansiktsgjenkjenning.

Noen unntak kan tillates for rettshåndhevelsesformål: sanntidsoperasjoner der for eksempel kriminelle mistenkte blir identifisert med kunstig intelligens vil tillates i unntakstilfeller, mens eksterne biometriske identifikasjonssystemer, der identifisering skjer etter en betydelig forsinkelse, vil bli tillatt. tillatelse til å straffeforfølge alvorlige forbrytelser med forbehold om rettens godkjenning.

Høy risiko

AI-systemer som negativt påvirker vår sikkerhet eller grunnleggende rettigheter vil bli ansett som høyrisiko og vil falle inn i to kategorier.

1. Kunstig intelligens-systemer brukt i fallende produkter EUs produktsikkerhetslovgivning. Dette inkluderer leker, fly, biler, medisinsk utstyr og heiser.

2. AI-systemer som faller inn i syv spesifikke områder og må registreres i en EU-database:

• Forvaltning og drift av kritisk infrastruktur.
• Yrkesfaglig utdanning og opplæring.
• Sysselsetting, arbeiderledelse og tilgang til selvstendig næringsvirksomhet.
• Tilgang og eierskap til privat eiendom kreves.
• Anvendelse av loven.
• Migrasjonshåndtering, asyl og grensekontroll.
• Hjelp til juridisk tolkning og rettshåndhevelse.

Alle høyrisiko AI-systemer vil bli evaluert både før de går på markedet og gjennom hele livssyklusen.

Generell og generativ AI

Generativ AI, som ChatGPT, må oppfylle kravene til åpenhet:

• Vær oppmerksom på at innholdet ble generert av kunstig intelligens.
• Design systemet for å forhindre at det genererer ulovlig innhold.
• Publiser sammendrag av opphavsrettsbeskyttet data som brukes til utdanning.

Kraftig og generell kunstig intelligens som kan utgjøre systemiske risikoer, slik som den mer avanserte GPT-4-modellen, må underkastes grundig undersøkelse. Alle mistenkelige resultater må rapporteres til EU-kommisjonen.

Begrenset risiko

AI-systemer med begrenset risiko bør oppfylle minimumskrav til åpenhet for at brukere skal kunne ta informerte beslutninger. Etter å ha brukt AI-systemet kan brukeren bestemme om han ønsker å fortsette å bruke systemet. Brukere bør informeres når de samhandler med AI. Dette inkluderer systemer for kunstig intelligens som genererer eller manipulerer bilde-, lyd- eller videoinnhold (f.eks. dypforfalskninger).

Hva skjer etterpå?

9. desember 2023 kom parlamentet og rådet til en uformell enighet om hvordan AI-loven skulle se ut. Nå skal de ulike instansene formelt godkjenne vedtaket før det kan tre i kraft.

Parlamentets komité for det indre marked og forbrukerbeskyttelse, samt komiteen for borgerrettigheter, justis- og innenrikssaker, skal stemme over loven om kort tid.

Les mer om EUs digitale tiltak