Anonim

Film som 2001: A Space Odyssey, Blade Runner og Terminator bragte rogue robotter og computersystemer til vores biografskærme. Men i disse dage ser sådanne klassiske science fiction briller ikke så langt væk fra virkeligheden.

I stigende grad lever vi, arbejder og leger med computerteknologier, der er autonome og intelligente. Disse systemer omfatter software og hardware med kapacitet til selvstændig begrundelse og beslutningstagning. De arbejder for os på fabrikken gulvet; de beslutter, om vi kan få et pant; de sporer og måler vores aktivitet og fitness niveauer; de renser vores stue gulve og skære vores græsplæner.

Autonome og intelligente systemer har potentiale til at påvirke næsten alle aspekter af vores sociale, økonomiske, politiske og private liv, herunder dagligdags aspekter. Meget af dette virker uskyldigt, men der er grund til bekymring. Computational teknologier påvirker enhver menneskerettighed, fra retten til livet til retten til privatlivets fred, ytringsfrihed til sociale og økonomiske rettigheder. Så hvordan kan vi forsvare menneskerettighederne i et teknologisk landskab i stigende grad dannet af robotik og kunstig intelligens (AI)?

AI og menneskerettigheder

For det første er der en reel frygt for, at øget maskinautonomi vil underminere menneskers status. Denne frygt er forstærket af en mangel på klarhed over, hvem der vil blive holdt til regnskab, hvad enten det er juridisk eller moralsk forstand, når intelligente maskiner gør skade. Men jeg er ikke sikker på, at fokuset på vores bekymring for menneskerettigheder virkelig burde ligge med rogue robotter, som det ser ud til i øjeblikket. Vi bør snarere bekymre os om den menneskelige brug af robotter og kunstig intelligens og deres udbredelse i uretfærdige og ulige politiske, militære, økonomiske og sociale sammenhænge.

Denne bekymring er særlig relevant med hensyn til dødelige autonome våbensystemer (LAWS), der ofte betegnes som dræbeobotter. Når vi bevæger os hen imod en AI-våbenkamp, ​​frygter menneskerettighedsforskere og kampagner som Christof Heyns, den tidligere FN-specialrapportør om udenretslige, summariske eller vilkårlige henrettelser, at anvendelsen af ​​LAWS vil sætte autonome robotsystemer med ansvar for livs- og dødsbeslutninger, med begrænset eller ingen menneskelig kontrol.


Læs mere: Super intelligens og evigt liv: Transhumanismens trofaste følger det blindt ind i en fremtid for eliten


AI revolutionerer også forbindelsen mellem krigsførelse og overvågning. Grupper som International Committee for Robot Arms Control (ICRAC) har for nylig udtrykt deres modstand mod Googles deltagelse i Project Maven, et militært program, der bruger maskineindlæring til at analysere droneovervågningsoptagelser, der kan bruges til udenretslige drab. ICRAC appellerede til Google for at sikre, at de data, som den indsamler på sine brugere, aldrig bruges til militære formål, idet de deltager i protester fra Google-medarbejdere om virksomhedens engagement i projektet. Google meddelte for nylig, at det ikke fornyer sin kontrakt.

I 2013 blev omfanget af overvågningspraksis fremhævet af Edward Snowden-åbenbaringerne. Disse lærte os meget om truslen mod retten til privatlivets fred og udveksling af data mellem efterretningstjenester, offentlige myndigheder og private virksomheder. Den seneste kontroverser omkring Cambridge Analytics høst af personoplysninger via brug af sociale medier platforme som Facebook fortsætter med at forårsage alvorlig apprehension, denne gang over manipulation og indblanding i demokratiske valg, der beskadiger retten til ytringsfrihed.


Læs mere: Skal vi frygte fremkomsten af ​​droneassassiner? To eksperter debat


I mellemtiden udfordrer kritiske dataanalytikere diskriminerende praksis i forbindelse med, hvad de kalder AIs "white guy problem". Dette er bekymringen for, at AI-systemer, der er uddannet på eksisterende data, replikerer eksisterende racemæssige og kønsstereotyper, der fortsætter diskriminerende praksis inden for områder som politi, retsafgørelser eller beskæftigelse.

Flertydige bots

Den potentielle trussel om computerteknologier til menneskerettigheder og fysisk, politisk og digital sikkerhed blev fremhævet i en nylig offentliggjort undersøgelse om The Malicious Use of Artificial Intelligence. Bekymringen udtrykt i denne University of Cambridge-rapport skal tages alvorligt. Men hvordan skal vi håndtere disse trusler? Er menneskerettighederne klar til æra med robotik og AI?

Der er løbende bestræbelser på at opdatere eksisterende menneskerettighedsprincipper for denne æra. Disse omfatter FN's rammer og vejledende principper for erhvervsliv og menneskerettigheder, forsøg på at skrive en Magna Carta til den digitale tidsalder og fremtidens livsinstituts Asilomar AI-principper, der identificerer retningslinjer for etisk forskning, overholdelse af værdier og engagement i længere tid langsigtet velgørende udvikling af AI.

Disse bestræbelser er lovværdige, men ikke tilstrækkelige. Regeringer og offentlige myndigheder, politiske partier og private virksomheder, især de førende teknologivirksomheder, skal forpligte sig til AI's etiske anvendelser. Vi har også brug for effektiv og håndhævelig lovgivningsmæssig kontrol.

Uanset hvilke nye foranstaltninger vi introducerer, er det vigtigt at erkende, at vores liv i stigende grad er sammenblandet med autonome maskiner og intelligente systemer. Denne indvinding øger menneskers velbefindende inden for områder som medicinsk forskning og behandling, i vores transportsystem, i sociale plejeindstillinger og i miljøbeskyttelse.

Men på andre områder kaster denne indvinding op med bekymrende perspektiver. Computational teknologier bruges til at se og følge vores handlinger og adfærd, spore vores skridt, vores beliggenhed, vores sundhed, vores smag og vores venskaber. Disse systemer former menneskelig adfærd og slår os i retning af selvovervågningspraksis, der begrænser vores frihed og undergraver menneskerettighedernes ideer og idealer.

Og her ligger kernen: Kapaciteten til dobbelt anvendelse af computerteknologier udslipper linjen mellem velgørende og ondsindede praksis. Derudover er beregningsmetoder dybt impliceret i de ulige magtforhold mellem individuelle borgere, staten og dets agenturer og private virksomheder. Hvis de bliver uhæmmet fra effektive nationale og internationale kontrolsystemer, udgør de en reel og bekymrende trussel mod vores menneskerettigheder.

Anbefalet Redaktørens Valg