AI och juridik – vad gäller?

När vi använder AI i Helsingborgs stad är det viktigt att vi gör det på ett sätt som är både lagligt, etiskt och ansvarsfullt. Här hittar du en översikt över de viktigaste juridiska ramarna att förhålla sig till, med särskilt fokus på dataskydd, sekretess och den nya EU-förordningen om AI (AI Act). 

Det är hur ett system används som avgör dess risk, inte nödvändigtvis hur systemet är uppbyggt. Det betyder att ChatGPT kan vara tillåten för att utföra vissa uppgifter men inte andra, men även att ett upphandlat AI-system endast kan vara tillåtet för det syfte det upphandlats, men inte för andra syften.  

Dataskyddsförordningen (GDPR) 

När AI-system behandlar personuppgifter, gäller samma regler som vid all annan personuppgiftsbehandling. GDPR ställer bland annat krav på:
– Laglig grund för behandlingen
– Dataminimering – bara samla in det som verkligen behövs
– Transparens – invånare har rätt att få veta hur deras uppgifter används
– Rätt till insyn, rättelse och radering
– Säkerhet – skydda uppgifter mot obehörig åtkomst

Exempelvis får du inte mata in personuppgifter i allmänt tillgängliga AI-tjänster utan att det finns en tydlig rättslig grund och säkerhetsgarantier på plats.

Fördjupning:
– Dataskyddsförordningen (GDPR) – https://www.imy.se/verksamhet/dataskydd/det-har-galler-enligt-gdpr/
– Vägledning från SKR om AI och GDPR – https://skr.se 

Offentlighet och sekretess (OSL) 

Sekretessbelagda uppgifter enligt Offentlighets- och sekretesslagen får inte delas med AI-tjänster som inte omfattas av avtal och sekretessåtaganden. Detta gäller särskilt vid användning av öppna AI-tjänster.

Vill du använda AI i ett ärende som innehåller sekretess, måste det ske inom ramen för en upphandlad eller anpassad AI-tjänst.

Fördjupning:
– Offentlighets- och sekretesslagen – https://www.riksdagen.se/sv/dokument-lagar/dokument/svensk-forfattningssamling/offentlighets–och-sekretesslag-2009500_sfs-2009-400 

AI-förordningen (AI Act) 

EU:s nya AI-förordning (AI Act) börjar gälla stegvis från 2025 I takt med att AI-förordningen nu succesivt införs kommer vissa användningar av AI-system bli förbjudna. Det är sådana som utgör oacceptabel risk genom att utgöra ett tydligt hot mot säkerhet, försörjning och grundläggande rättigheter. Det kan exempelvis vara system som känner igen våra känslor på jobbet eller i skolan, eller sådana som försöker förutse risk för enskilda brott. Det kan tex vara: 

– AI som känner igen känslor i skolan eller på arbetsplatsen 

– System som försöker förutse risken för enskilda brott 

System som innebär hög risk kan vara tillåtna om leverantören möter ställda krav. Det är sådana som kan utgöra allvarliga risker för hälsa, säkerhet eller grundläggande rättigheter. Det kan tex vara:  

– AI vid rekrytering eller bedömning av arbetsprestation 

– System som utvärderar lärande eller beslutar om försörjningsstöd 

– Biometrisk identifiering i vissa sammanhang 

System som innebär Begränsad risk kan vara tillåtna om de uppfyller transparenskrav för att bevara allmänhetens förtroende som att exempelvis informera användare om att de interagerar med ett AI-system. Det måste vara tydligt för invånare om de interagerar direkt med ett AI- system, och bilder som skapats med AI måste märkas som artificiellt skapade. Det kan tex vara: 

– Chatbotar på webbplatsen 

– AI-genererad text, tal eller bilder som kommuniceras utåt 

✅ Minimal risk: AI som används ungefär som andra vanliga verktyg. Exempel: 

– Stavningskontroll 

– Antivirusprogram 

Fördjupning:
– AI Act – https://artificial-intelligence-act.eu/
– AI Sweden – https://www.ai.se 

Ditt ansvar som medarbetare 

Oavsett vilken AI-tjänst du använder gäller:
– Dela inte personuppgifter eller sekretessbelagd information i öppna AI-verktyg
– Granska resultatet – AI är inte felfritt
– Använd ditt professionella omdöme
– Var transparent när AI används
– Rapportera avvikelser eller incidenter via stadens säkerhetsrutiner 

Frågor eller osäker? 

Kontakta:
– Din chef eller innovationsledare
– AI-gruppen via [Teams/mejl] 

Tips på vidare läsning 

– AI Sweden – Guide till ansvarsfull AI: https://www.ai.se
– SKR om AI och dataskydd: https://skr.se
– EU:s officiella sida om AI Act: https://artificial-intelligence-act.eu/
– IMY:s vägledningar om AI och GDPR: https://www.imy.se