De första AI-specifika reglerna från EU är på väg
Bakgrund
Utvecklingen av artificiell intelligens (AI) har under de senaste åren gått framåt i snabb takt. Det har skapats effektiva lösningar inom en mängd områden och AI-teknik är idag en central del av många människors vardag. AI är dock förknippat med rättsliga utmaningar. Samtidigt som AI-teknik kan användas för att bättre identifiera sjukdomar, minska energianvändningen och förkorta handläggningstider, finns det reella risker att användning av AI-teknik leder till ökad diskriminering, ekonomisk skada och minskad tillit till teknik och innovation. Det finns därför ett behov av en ökad tydlighet i regleringen av AI-teknik, vilket EU-parlamentet nu tagit ett initiativ till.
EU-parlamentet har presenterat tre betänkanden
EU:s målsättning är att inta en ledande position för utvecklingen av AI-teknik och det har därför ansetts nödvändigt att utveckla harmoniserade regler på EU-nivå. Den 20 oktober 2020 lämnade EU-parlamentet ett förslag till EU-kommissionen som utgjordes av tre betänkanden avseende förslag till reglering av följande områden:
I förslaget introducerar EU-parlamentet ett nytt begrepp – högrisk-AI. Begreppet kommer till uttryck i både det etiska och skadeståndsrättsliga betänkandet. Med högrisk-AI avses system där det finns en betydande risk för att skada kan uppstå. Vid bedömning av huruvida AI-teknik medför en sådan hög risk, ska den sektor som AI-tekniken kommer att användas inom beaktas. Till exempel anses hälsa och sjukvård, transport, och energi utgöra sektorer med hög risk enligt förslaget. Av betydelse är även hur AI-tekniken används, sannolikheten för att skada uppstår och allvarlighetsgraden på skadan som kan uppkomma. Allvarlighetsgraden bör bedömas utifrån hur omfattande skada som kan uppkomma, antalet personer som kan drabbas samt i vilken utsträckning skadan kan bli samhällsomfattande. Till exempel anses kränkningar av barns och konsumenters rättigheter vara allvarliga. EU-parlamentet föreslår att alla AI-system med hög risk ska förtecknas uttömligt i en bilaga till den skadeståndsrättsliga förordningen.
I det följande redogörs för de centrala delarna i de tre betänkandena.
Ett etiskt regelverk
I det första betänkandet föreslår EU-parlamentet ett regelverk med etiska regler. Etiska regler har ansetts nödvändigt för att människor i samhället ska kunna acceptera, använda och känna tillit till AI-teknik. Betänkandet har till stor del inspirerats av de etiska riktlinjerna som EU-kommissionens expertgrupp tog fram i april 2019.
EU-parlamentet föreslår att de etiska reglerna främst ska vara inriktade på högrisk-AI. Reglerna är utformade i enlighet med ett antal vägledande principer. För det första ska AI-tekniken vara människocentrerad vilket innebär att mänsklig kontroll ska kunna garanteras vid varje tidpunkt. För det andra ska det finnas en tillräckligt hög säkerhetsnivåUtvecklare av högrisk-AI ska därför utvärdera vilka risker för missbruk som rimligen kan förväntas och vidta åtgärder som står i proportion till de identifierade riskerna.
Vidare föreslås att varje medlemsstat ska utse en oberoende tillsynsmyndighet som ansvarar för att övervaka att de etiska reglerna följs. Varje fysisk eller juridisk person ska även ha rätt till gottgörelse för skada som orsakats av utveckling, spridning och användning av AI-teknik i strid med de etiska reglerna.
EU-parlamentet belyser även andra principer som bör omfattas av den etiska regleringen.
- Skydd för personlig integritet och datasäkerhet
- Transparens
- Opartiskhet och icke-diskriminering
- Social hållbarhet och hållbarhet för miljön
Ett skadeståndsrättsligt regelverk
Det andra betänkandet utgör ett förslag till ett skadeståndsrättsligt regelverk. Vem som ska ansvara för skada som orsakats av AI är en inte helt okomplicerad fråga. Ansvarsreglerna riktas enligt förslaget till ”operatörer” av AI-teknik, vilket innebär att samtliga som varit del i framtagandet av AI-tekniken eller utövar någon form av kontroll över systemet ska kunna hållas ansvariga motsvarande graden av medverkan. Förslaget innehåller två ansvarsnivåer: strikt ansvar för så kallad högrisk-AI och ett culpabaserat ansvar för övrig AI-teknik.
Det strikta skadeståndsansvaret ska gälla för skador som orsakats av en fysisk eller virtuell aktivitet, enhet eller process som har skapats av ett system som använder sig av högrisk-AI. Skadeståndsbeloppet föreslås uppgå till maximalt två miljoner euro i de fall utgången är dödlig eller orsakar skada på en fysisk persons hälsa eller innebär en kränkning av den personliga integriteten. För immateriell skada som leder till ekonomisk skada föreslås taket vara en miljon euro.
För övrig AI-teknik, det vill säga system som inte anses utgöra högrisk-AI, krävs att operatören agerat vårdslöst eller oaktsamt för att denne ska kunna hållas ansvarig, så kallat culpabaserat ansvar. EU-parlamentet anser att det bör föreligga en presumtion om fel från operatörens sida. Operatören ska sedan kunna avhända sig ansvar genom att bevisa att denne uppfyllt sin aktsamhetsplikt. Den aktsamhet som kan förväntas av en operatör bör stå i relation till AI-teknikens särdrag, den rättsligt skyddade rättighet som kan påverkas, den eventuella skada som AI-tekniken skulle kunna orsaka samt sannolikheten för skadans uppkomst. För det culpabaserade skadeståndsansvaret föreslås att medlemsstaternas nationella rätt och rättspraxis fortsatt bör gälla vad avser ersättningens storlek.
Ett immaterialrättsligt regelverk
Det tredje betänkandet som lagts fram innehåller inget konkret lagförslag, men utgör en redogörelse för vissa utgångspunkter och problem som kommer att behöva beaktas vid framtagandet av ett regelverk för immateriella rättigheter.
EU-parlamentet betonar vikten av att göra åtskillnad mellan mänskligt skapande med stöd av AI och AI-genererat skapande. De nuvarande regelverken för immateriella rättigheter ska fortsättningsvis tillämpas på AI som används i skapandeprocessen som ett verktyg till stöd för mänskligt skapande. AI-genererat skapande däremot, ger upphov till nya lagstiftningsutmaningar och en framtida lagstiftning måste därför, enligt EU-parlamentet, reglera dessa frågor.
Två immateriella rättigheter av betydelse är upphovsrätt och patenträtt. Vad avser upphovsrätt kan kravet på originalitet, som ger verken upphovsmannens personliga prägel, utgöra ett hinder för skydd av AI-genererade verk. Enligt EU-parlamentet borde verk som producerats autonomt av AI-teknik därför inte kunna få upphovsrättsligt skydd. För patentskydd är utgångspunkten, enligt EU-parlamentet, att skydd kan ges under förutsättning att det föreligger uppfinningshöjd. Rätten till patent kräver dock en fullständig beskrivning av den bakomliggande tekniken, vilket kan vara problematiskt för viss AI-teknik med tanke på dess komplexitet.
EU-parlamentet framhåller att andra frågor som EU-kommissionen kommer att behöva ta ställning till i ett immaterialrättsligt regelverk är datainsamling, företagshemligheter, användandet av algoritmer och deepfakes.
Avslutande kommentar
Betänkandena utgör ett startskott på vägen mot harmoniserade regler för AI-teknik på EU-nivå. Det anses finnas ett behov av lagstiftning på AI-området, men det råder däremot delade åsikter om hur lagstiftningen ska utformas.
Förslaget som EU-parlamentet har presenterat kan är inte utan invändningar. Att uppställa strängare regler för högrisk-AI kan anses motiverat då det annars riskerar att bli en alltför betungande lagstiftning för skapare och användare av AI-teknik. Samtidigt ger det nya begreppet upphov till osäkerhet och ett alltför vidsträckt begrepp riskerar att skapa hinder för innovation och användning av AI-teknik. Att upprätta en uttömmande förteckning över högrisk-AI måste vidare anses vara förenat med flera svårigheter, bland annat riskerar listan att inte vara tillräckligt uppdaterad och således vara missvisande.
Eftersom det fortfarande är ovanligt med högrisk-AI, måste det anses problematiskt att även fortsättningsvis tillämpa ett culpabaserat ansvar för AI-teknik utan hög risk. Detta mot bakgrund av de bevissvårigheter som culpareglerna medför. Det är därför osäkert vilken effekt ett sådant regelverk, som EU-parlamentet presenterat, faktiskt kan kommat att få i praktiken.
Vad innebär detta för dig?
Eftersom det än så länge endast har presenterats betänkanden så innebär det ännu ingen förändring. Betänkandena visar däremot vad vi kan förvänta oss för regelverk i framtiden. EU-kommissionens lagstiftningsförslag ska presenteras under första kvartalet av 2021 och först då kan vi med större säkerhet säga hur en framtida lagstiftning kommer att utformas och hur det kommer att påverka oss.