EU tar ett viktigt steg mot en ansvarsfull utveckling och användning av AI

AI kommer att få allt större påverkan på nära nog alla delar av samhället. AI-system i arbetslivet som påverkar arbetstagare behöver omgärdas av särskilda krav. Därför är det positivt att överenskommelsen identifierar AI-system i arbetslivet som en hög risk. De kan helt enkelt få stora konsekvenser för arbetstagarna och därför behövs en reglering. Arbetstagare måste också få rätt till information om AI-system som finns på arbetsplatsen. Även det ingår i den överenskommelse som nu har träffats och det är mycket bra.

Om kraven på AI-system i arbetslivet i och med detta är tillräckligt högt ställda, det återstår att se. Ännu har vi inte sett den slutliga texten från överenskommelsen, men så snart den finns tillgänglig kommer vi att analysera den närmare.

För Unionen är det mycket viktigt att AI-regelverket inte begränsar möjligheterna att reglera arbetstagares rättigheter, inklusive rätten till medbestämmande och insyn. Inte heller rätten att förhandla om kollektivavtal .

Bakgrund

Den 8 december 2023 nådde EU en preliminär överenskommelse om världens första genomgripande regelverk för artificiell intelligens - AI-akten. Det är ett regelverk med syfte att säkerställa en ansvarsfull saluföring, användning och utveckling av AI-system inom EU.

Högrisksystem innebär höga krav

Regelverket fastställer skyldigheter för AI-system baserat på deras potentiella risker och påverkansnivå på hälsa, säkerhet och grundläggande rättigheter. System som medför oacceptabla risker kommer att förbjudas helt. System med låg eller ingen risk kommer att omfattas av lägre krav eller vara helt undantagna från regelverket.

System med hög risk, som potentiellt kan leda till skada, kommer att omfattas av särskilda krav och skyldigheter för att få saluföras och användas inom EU. Till sådana högrisksystem räknas bland annat vissa AI-system som används i arbetslivet. För dessa kommer det bland annat att krävas att man gör en bedömning av systemens konsekvenser för grundläggande rättigheter.

Överenskommelsen innebär också att arbetstagarna måste informeras när AI-system används på arbetsplatsen. Enskilda personer kommer att ha rätt att lämna in klagomål om AI-system och har rätt att få förklaringar om beslut baserade på AI-system med hög risk, som påverkar deras rättigheter.

Generella AI-system

Genom överenskommelsen införs också vissa krav för generella AI-system och generativ AI, som exempelvis ”Chat-GPT”. System med hög påverkan kommer även där att omfattas av striktare krav.

Överträdelser och tillämpning 2026

Den som bryter mot AI-akten kan bötfällas. Innan förslaget kan bli lag kommer det att finjusteras och formellt antas av Europaparlamentet och rådet. Lagen väntas börja tillämpas i början av 2026.