Polisens användning av AI för ansiktsigenkänning i realtid

Institutet yttrar sig över promemorian Polisens användning av AI för ansiktsigenkänning i realtid (Ds 2025:7). Yttrandet sker inom ramen för institutets uppgift att främja säkerställandet av de mänskliga rättigheterna i Sverige, med utgångspunkt i våra grundlagar och för Sverige folkrättsligt bindande förpliktelser inom området mänskliga rättigheter. Institutet har även en särskild roll som oberoende nationell mekanism enligt artikel 33.2 i FN:s konvention om rättigheter för personer med funktionsnedsättning.

Sammanfattning

Institutet delar oron över den gängrelaterade och organiserade brottslighetens utveckling, som ligger bakom förslaget att ge Polismyndigheten och Säkerhetspolisen (Säpo) möjlighet att använda AI-system för ansiktsigenkänning och annan biometrisk fjärridentifiering i realtid på allmän plats för brottsbekämpande ändamål. Vi ser att åtgärder måste vidtas för att bekämpa och förebygga brott samt skapa förutsättningar för att öka tryggheten i samhället. Vi vill dock betona att det är av yttersta vikt att de åtgärder som vidtas är förenliga med de skyldigheter Sverige har enligt grundlagarna och de internationella konventioner för mänskliga rättigheter som Sverige är bundet av.

Inledningsvis betonar institutet tre övergripande aspekter;

• Avkylningseffekten - De föreslagna åtgärderna får inte bara konsekvenser på skyddet för den personliga integriteten och rätten till privat- och familjeliv, utan även på rättigheter såsom yttrandefriheten samt mötes- och demonstrationsfriheten.
• Ändamålsglidningen – att kommande bevakningsintressen kan leda till att användningsområdet för kamerabevakning kan komma att utökas och behoven av ansiktsigenkänning kan komma att utvidgas.
• Flera utredningar och lagförslag pågår samtidigt kring kamerabevakning och kameraanvändning - viktigt att genomgående se de sammanlagda konsekvenserna för dessa förslag.

De rättigheter som framför allt är aktuella är rätten till privat -och familjeliv och skyddet för den personliga integriteten. Dessa rättigheter är dock inte absoluta, utan inskränkningar kan göras.

Institutet avstyrker den föreslagna AI lagen i sin helhet framför allt för att den innebär en otillåten inskränkning av skyddet för den personliga integriteten och rätten till privat- och familjeliv. Aspekter som institutet lyfter som grund för att avstyrka lagen innefattar följande:

• Vissa av skrivningarna i den föreslagna AI lagens 3 och 4 §§ skiljer sig från skrivningarna i artikel 5.1 (h) i EU:s AI förordning, vilket leder till en rättsosäkerhet i tillämpning och praxis.
• Det finns fortfarande brister i de rättssäkerhetsgarantier som anges i AI lagen. Institutet avstyrker till exempel förslaget att åklagare ska vara tillståndsinstans för ansökningar från Polis och Säpo. Institutet delar inte heller promemorians bedömning att tillståndsmyndigheten inte ska pröva om en konsekvensbedömning för grundläggande rättigheter gjorts.

Om den föreslagna AI lagen ändå kommer att genomföras, betonar institutet vikten av att den tidsbegränsas så att tillämpningen kan utvärderas.

Övergripande synpunkter

Staten har en skyldighet att skydda befolkningen mot hot, men åtgärder som genomförs måste samtidigt vara förenliga med mänskliga rättigheter så som de skyddas i grundlagen och i de internationella konventioner som Sverige är bundet av. Redan i förarbetena till den utvidgade regeringsformen 1976 angavs att det är än viktigare att värna om de mänskliga rättigheterna när samhället ställs inför stora utmaningar såsom att det står inför en kris eller får påtryckningar utifrån.[1]

Gängkriminaliteten och den organiserade brottsligheten bidrar till att samhället ställs inför stora utmaningar och kräver att staten agerar på olika sätt. För detta behöver Polisen verktyg för att både förebygga och utreda samt lagföra brott. Utökad användning av kamerabevakning kan vara ett sådant verktyg. Sådan användning kan därför vara legitim så länge det uppfyller de särskilda kriterier som regeringsformen och internationella konventioner om mänskliga rättigheter ställer upp.

Även om det finns positiva aspekter med förslagen i promemorian till exempel i att flera rättssäkerhetsgarantier finns med i den föreslagna AI lagen såsom bland andra institutet påtalade i vårt remissvar till Ds 2024:11, och att promemorian lyfter många för Sverige bindande konventioner om mänskliga rättigheter, inklusive FN:s konvention om medborgerliga och politiska rättigheter (ICCPR), ser vi fortfarande stora brister med förslagen. Det är även anmärkningsvärt att betänkandet genomförts förhållandevis snabbt med tanke på att remissvaren till det tidigare betänkandet Ds 2024:11 lämnades in bara i september 2024.

Användningen av AI system för ansiktsigenkänning i realtid påverkar rätten till privatliv och skyddet för den personliga integriteten. Dessa rättigheter hänger i sammanhanget nära samman med åtnjutandet av andra rättigheter såsom yttrandefriheten, demonstrations -och mötesfriheten samt religionsfriheten.[2] När dessa senare nämnda rättigheter påverkas kan det leda till den så kallade avkylningseffekten. Detta poängteras i en nyligen presenterad utredning om föreslagna förändringar i Säpos personuppgiftsbehandling (SOU 2025:49).[3] Denna avkylningseffekt har även betonats av viktiga aktörer såsom FN:s högkommissarie för mänskliga rättigheter.[4] När kameror sätts upp finns risken att människor blir mer medvetna om vad de säger och gör, vilket kan innebära att de begränsar sig själva. På så sätt kan yttrandefriheten eller mötes -och demonstrationsfriheten hotas.

Institutet ser allvarligt på detta och är bekymrade över att denna fråga misstolkas i nuvarande promemoria eftersom det där hänvisas till att mötesfriheten inte kommer att påverkas eftersom ansiktsigenkänning kommer användas för begränsade syften och inte för en allmän bevakning.[5] Poängen är dock att bara det faktum att kamerorna som sitter uppe tillsammans med en vetskap om att de kan användas för ansiktsigenkänning, leder till en risk för att personer censurerar sig själva i att till exempel avstå från att delta i en demonstration eller göra sin röst hörd. Vi hänvisar därför till resonemanget om detta i SOU 2025:49.

På ett övergripande plan vill institutet även betona risken för den så kallade ändamålsglidningen som kan leda till att användningsområdet för kamerabevakningen kan tendera att utökas allt eftersom de används. Vi vill också uppmärksamma att det pågår flera utredningar och antagna lagförslag kring bland andra kamerabevakning och biometriregister, vilket gör att det är viktigt att genomgående se de sammanlagda konsekvenserna för dessa förslag.

6. Förutsättningar för att använda AI-system för ansiktsigenkänning i realtid

Genom betänkandet föreslås en ny lag som ger grunden för Polisen och Säpo att använda sig av AI system för ansiktsigenkänning i realtid i brottsbekämpande syften. Lagen utgår från artikel 5.1 (h) i EU:s AI förordning (AI förordningen).

Polisens användning av AI-system för ansiktsigenkänning i realtid innebär ett allvarligt intrång i den personliga integriteten och rätten till privatliv. Automatiserad ansiktsigenkänning är ett område som innebär stora risker och det europeiska nätverket för människorättsinstitutioner, ENNHRI, har avrått från att använda det i brottsbekämpande syfte annat än i undantagsfall.

I ett mål som nyligen avgjorts i Europadomstolen angavs att skyddet av personuppgifter är en avgörande del av en persons rätt till privatliv och nödvändiga rättssäkerhetsgarantier måste finnas på plats i nationell rätt för att denna rätt ska kunna vara uppfylld. Behovet av rättssäkerhetsgarantier är också särskilt viktigt när de används genom automatisk bearbetning med mer och mer avancerad teknik, och särskilt av polis.[6]

Den föreslagna lagen innebär en inskränkning i rätten till privat- och familjeliv och skyddet för den personliga integriteten såsom de skyddas i regeringsformen, Europeiska konventionen om skydd för de mänskliga rättigheterna och de grundläggande friheterna (Europakonventionen), EU:s stadga om de grundläggande rättigheterna (EU:s rättighetsstadga), FN:s konvention för barnets rättigheter (barnkonventionen) och FN:s konvention om medborgerliga och politiska rättigheter (ICCPR). Inskränkningar i dessa rättigheter är dock möjliga. Åtgärder som föreslås måste ha stöd i lag, syftet med åtgärden måste vara godtagbart i ett demokratiskt samhälle (till exempel till förebyggande av oordning eller brott, eller skydd för andra personers fri- och rättigheter) och åtgärden får inte gå utöver vad som är nödvändigt i förhållande till det syfte som ligger bakom åtgärden. I detta senare ligger också en proportionalitetsbedömning där effekten av åtgärden vägs mot inskränkningen i rättigheten.[7]

Även om vissa rättssäkerhetsgarantier finns på plats i och med den nya AI lagen, anser institutet att dessa inte är tillräckliga. Lagen uppfyller inte heller i övrigt kriterierna för en tillåten inskränkning i rätten till privatliv och skyddet för den personliga integriteten framför allt på grund av bristande tydlighet och förutsebarhet i lagstiftningen samt risk för rättsosäkerhet i tillämpningen. Institutet avstyrker därför den föreslagna AI lagen i sin helhet.

EU:s AI förordning är en bindande rättsakt i Sverige. Den tillämpas direkt utan att behöva omvandlas till svensk lag. Genom promemorians föreslagna AI lag föreslås dock andra skrivningar än de formuleringar som finns i artikel 5.1 (h) i AI förordningen. AI förordningen föreskriver till exempel att användning av AI för ansiktsigenkänning är möjligt om det är ”absolut nödvändigt”. Den svenska lagen 4 § skriver i stället att användning av AI för ansiktsigenkänning endast får användas om det är av ”synnerlig vikt” och ”skälen för användningen uppväger det intrång eller men i övrigt som åtgärden innebär för den som åtgärden riktas mot eller för något annat motstående intresse”. Samma sak gäller en av de tre punkter som förklarar vilka typer av brott som AI för ansiktsigenkänning är möjlig. I artikel 5.1 (h) ii föreskriver AI förordningen: ”Förhindrande av ett specifikt, betydande och överhängande hot mot fysiska personers liv eller fysiska säkerhet eller ett verkligt och aktuellt eller verkligt och förutsebart hot om en terroristattack”. I den föreslagna svenska lagen som motsvarighet står det i 3 § 2p.: ”om det finns en påtaglig risk för att personen kommer att begå brott mot människors liv eller säkerhet”.

Det faktum att den föreslagna AI lagen har en annan skrivning än AI förordningen skapar en otydlighet i lagstiftningen. Detta riskerar framför allt en rättsosäkerhet i tillämpningen och praxis, där en viss praxis kan utveckla sig grundat på tolkningen av den svenska AI lagens skrivningar och en annan på framväxande praxis från EU domstolen baserat på tolkningen av artikel 5.1 (h).

7. Det ska krävas tillstånd

AI lagen föreslår två olika tillståndsmyndigheter. Åklagarmyndigheten som tillståndsmyndighet för att använda AI för att förhindra, förebygga eller upptäcka brottslig verksamhet och domstol för tillstånd för att utreda, lagföra brott eller verkställa påföljd.

Institutet anser att det är positivt att domstol är tillståndsmyndighet för användning av AI system för ansiktsigenkänning. Detta framför allt för att det ingrepp i den enskildes rättigheter, som en användning av AI för ansiktsigenkänning skulle innebära, ställer mycket höga krav på rättssäkerheten.

Institutet avstyrker däremot förslaget att en ansökan om att använda AI system för ansiktsigenkänning för att förebygga, förhindra eller upptäcka brottslig verksamhet ska prövas av åklagare. Utredningen hänvisar till att åklagare idag gör liknande bedömningar i till exempel frågor under inhämtningslagen. Men med tanke på de stora rättighetsinskränkningar som en användning av AI för ansiktsigenkänning i realtid innebär för den enskilde och att biometriska uppgifter som sådana anses som särskilt skyddsvärda, anser vi att en tillståndsprövning bara kan ske av en domstol. Detta särskilt eftersom utredningen föreslår att den enskilde inte ska ha rätt till ett offentligt biträde och att åklagarens beslut inte ska kunna överklagas.

10. Konsekvensbedömning och registrering i EU-databas

I promemorian konstateras att tillståndsmyndigheten inte ska pröva om den sökande myndigheten har gjort den tvingande konsekvensbedömningen avseende grundläggande rättigheter som följer av AI förordningen (artikel 27). Detta anser institutet är mycket anmärkningsvärt och föreslår för den fortsatta beredningen att ett sådant krav införs eftersom en sådan prövning krävs för att tillståndsmyndigheten ska kunna göra en effektiv prövning av användningen i enlighet med AI förordningen.

Synpunkter i övrigt

Begränsad information finns i promemorian kring resonemang hur riskerna med användningen av AI systemen ska undvikas. Till exempel hur ska det säkerställas att informationen som AI modellen ”tränas” på avser alla typer av människor så att utfallet inte leder till diskriminering. [8] FN:s rasdiskrimineringskommitté har särskilt framhållit att stater noggrant ska utvärdera potentiella konsekvenser för de mänskliga rättigheterna innan de använder ansiktsigenkänningsteknik som kan leda till felidentifieringar på grund av bristande representation i insamlade data. Tekniken som ska användas bör vidare testas i en pilotfas och under övervakning av ett oberoende tillsynsorgan innan den börjar användas. De anger också att stater bör säkerställa att algoritmerna inom brottsbekämpning utformas med transparens och att forskare och civilsamhälle ges möjlighet att granska koden.[9]

Det är även relevant i sammanhanget att lyfta vad som framkom i SOU 2024:27, nämligen att det finns bristande evidens i forskningen kring kamerabevakningens effekter i brottskämpningen.

Om den föreslagna AI lagen ändå genomförs betonar institutet starkt att den bör tidsbegränsas för att möjliggöra en utvärdering efter en viss tids användning.

Ärendets handläggning

Detta remissvar har beslutats av direktör Fredrik Malmberg och föredragits av utredaren/juristen Amelie Sällfors. I den slutliga beredningen har även ställföreträdande direktör Charlotte Palmstierna deltagit.

Fredrik Malmberg, direktör