Forskere av kunstig intelligens og robotikk er bekymret for autonome våpensystemer

I et åpent brev til den nye føderale regjeringen ber en gruppe tyske forskere om opprettelsen av juridisk bindende internasjonale regler for bruk av «autonomi i våpensystemer».

Berlin, Tyskland). Ifølge en rapport fra FN (FN) angrep en militær drone mennesker autonomt for første gang i 2020. Utviklingen av nye autonome våpensystemer kan føre til at slike hendelser oppstår regelmessig i fremtiden. Forskere fra feltene kunstig intelligens (AI) og robotikk har nå kommet sammen i en åpent brev De henvendte seg til den neste føderale regjeringen om deres bekymringer om autonome våpensystemer. Brevet ble signert av presidenten for Society for Computer Science, prof. Dr. Hannes Federrath.

I sitt brev etterlyser forskerne blant annet at det lages juridisk bindende internasjonale regler for bruk av «autonomi i våpensystemer». I andre land, inkludert Australia, Belgia, Canada, Norge, Nederland og USA, har initiativ fra administrerende direktører og tusenvis av akademikere allerede stilt lignende krav.

Tap av menneskelig kontroll

«Folk bør ikke bli angrepet av autonome systemer, spesielt beslutningen om å bruke masseødeleggelsesvåpen bør ikke tas utelukkende av algoritmer uten menneskelig innblanding», heter det i dokumentet. Mens underskrivere generelt mener at kunstig intelligens og robotikk er bra for menneskeheten, argumenterer de også for at teknologien kan misbrukes. De finner det spesielt problematisk at autonome våpensystemer mangler menneskelig kontroll over maktbruken.

Våpenkappløp i autonome våpen

Forskere er også bekymret for at et kommende våpenkappløp med autonome våpensystemer kan føre til en sosial utstøting av kunstig intelligens og robotikk. «Akkurat som de fleste kjemikere og biologer ikke er interessert i å bygge kjemiske eller biologiske våpen, er vi forskere innen kunstig intelligens og robotikk heller ikke interessert i å utvikle høyteknologiske våpen. Vi vil ikke at faget vårt skal komme i vanry, forklarer de i sitt åpne brev.

Forbud mot autonome våpen

I sitt åpne brev ber underskriverne om at den neste regjeringen tar en ledende posisjon i utformingen av en juridisk bindende traktat for å regulere autonome våpensystemer. I januar 2020 stemte imidlertid Forbundsdagen mot et forslag fra Venstre og De Grønne, der partiene oppfordret Tyskland til å støtte et FN-dekkende forbud mot teknologi.