EU-lov om kunstig intelligens: første forordning om kunstig intelligens | Nyheter

Som en del av den digitale strategien ønsker EU å regulere kunstig intelligens (AI) for å sikre bedre forutsetninger for utvikling og bruk av denne innovative teknologien. AI kan gi en rekke fordeler, inkludert bedre helsetjenester, sikrere og renere transport, mer effektiv produksjon og billigere, mer bærekraftig energi.

I april 2021 foreslo kommisjonen det første EU-regelverket for kunstig intelligens. Ifølge forslaget skal AI-systemer analyseres og klassifiseres basert på risikoen de utgjør for brukerne. Ulike risikonivåer vil bety mer eller mindre regulering. Når det er godkjent, vil forslaget være verdens første lovgivning om kunstig intelligens.

Finn ut mer om hva kunstig intelligens er og hvordan den brukes.

Hva Europaparlamentet ønsker å se i AI-lovgivning

Europaparlamentet ønsker å sikre at kunstig intelligens-systemer som brukes i EU er trygge, transparente, sporbare, ikke-diskriminerende og miljøvennlige. AI-systemer bør overvåkes av mennesker, i stedet for automatisering, for å forhindre skadelige effekter.

Europaparlamentet ønsker også å etablere en enhetlig og teknologinøytral definisjon av AI som kan brukes på fremtidige AI-systemer.

Finn ut mer om Europaparlamentets arbeid med AI og dets visjon for fremtiden til AI.

AI-loven: Ulike regler for ulike risikonivåer

De nye reglene etablerer forpliktelser for tilbydere og brukere avhengig av risikonivået AI kan generere. Mens mange AI-systemer utgjør minimal risiko, må de gjennomgå evaluering.

Uakseptabel risiko

AI-systemer med uakseptabel risiko er systemer som anses som en trussel mot mennesker og vil bli forbudt. De inkluderer:

• Kognitiv atferdsmanipulasjon av sårbare mennesker eller spesifikke grupper: for eksempel stemmeaktiverte leker som oppmuntrer til farlig atferd hos barn.
• Sosial poengsum: klassifisering av personer basert på atferd, sosioøkonomisk status, personlige egenskaper.
• Sanntids og eksterne biometriske identifikasjonssystemer, f.eks. Ansiktsgjenkjenning.

Noen unntak kan tillates: for eksempel vil eksterne biometriske identifikasjonssystemer, der identifisering skjer etter en betydelig forsinkelse, være tillatt i rettsforfølgelse av alvorlige forbrytelser og kun med godkjenning fra retten.

Høy risiko

AI-systemer som negativt påvirker vår sikkerhet eller grunnleggende rettigheter vil bli ansett som høyrisiko og vil falle inn i to kategorier.

1. Kunstig intelligens-systemer brukt i fallende produkter EUs produktsikkerhetslovgivning. Dette inkluderer leker, fly, biler, medisinsk utstyr og heiser.

2. AI-systemer som faller inn i åtte spesifikke områder og må registreres i en EU-database:

• Biometrisk identifikasjon og kategorisering av fysiske personer.
• Forvaltning og drift av kritisk infrastruktur.
• Yrkesfaglig utdanning og opplæring.
• Sysselsetting, arbeiderledelse og tilgang til selvstendig næringsvirksomhet.
• Tilgang og eierskap til privat eiendom kreves.
• Anvendelse av loven.
• Håndtering av migrasjon, asyl og grensekontroll.
• Hjelp til juridisk tolkning og rettshåndhevelse.

Alle høyrisiko AI-systemer vil bli evaluert både før de går på markedet og gjennom hele livssyklusen.

Generativ AI

Generativ AI, som ChatGPT, må oppfylle kravene til åpenhet:

• Vær oppmerksom på at innholdet ble generert av kunstig intelligens.
• Design systemet for å forhindre at det genererer ulovlig innhold.
• Publiser sammendrag av opphavsrettsbeskyttet data som brukes til utdanning.

Begrenset risiko

AI-systemer med begrenset risiko bør oppfylle minimumskrav til åpenhet for at brukere skal kunne ta informerte beslutninger. Etter å ha brukt AI-systemet kan brukeren bestemme om han ønsker å fortsette å bruke systemet. Brukere bør informeres når de samhandler med AI. Dette inkluderer systemer for kunstig intelligens som genererer eller manipulerer bilde-, lyd- eller videoinnhold (f.eks. dypforfalskninger).

Neste steg

14. juni 2023 vedtok medlemmene sin forhandlingsposisjon om AI-forordningen. Forhandlingene med EU-land vil nå starte i Rådet om den endelige versjonen av loven.

Målet er å komme til enighet innen utgangen av året.

Les mer om EUs digitale tiltak