AI och lagen – vad gäller?

När vi använder AI i Helsingborgs stad måste vi göra det lagligt, säkert och ansvarsfullt. Det betyder att vi måste följa regler, särskilt när det gäller personuppgifter, sekretess och den nya EU-förordningen AI (AI Act).

Det är inte bara hur ett AI-system är byggt som avgör om det är okej att använda – det är hur vi använder det som är viktigast.

Till exempel:

ChatGPT kan vara tillåten för vissa uppgifter, men förbjuden för andra. Om ett AI-system har köpts in för ett visst syfte får det inte användas till något annat.

Viktiga juridiska regler

När vi använder AI måste vi tänka på:

• Laglig grund: vi måste ha rätt att använda personuppgifter.
• Dataminimering: samla bara in det som behövs.
• Transparens: människor har rätt att veta hur deras data används.
• Rättigheter: alla har rätt att få sina uppgifter rättade eller raderade.
• Säkerhet: vi måste skydda uppgifterna från obehöriga.

Du får inte skriva in personuppgifter i öppna AI-tjänster, som ChatGPT, utan att det finns särskilda tillstånd och säkerhet.

Sekretess (hemliga uppgifter)

Sekretesskyddade uppgifter enligt lagen (OSL) får inte användas i öppna AI-tjänster. Vill du använda AI i ärenden med sekretess, måste du använda ett säkert och godkänt AI-verktyg.

EU:s förordning AI Act

EU:s nya AI-lag börjar gälla steg för steg från år 2025. Den delar upp AI-system i fyra risknivåer:

Oacceptabel risk – förbjudet

AI som är farligt för människors rättigheter och säkerhet. Exempel:

• AI som läser av känslor i skolan eller på jobbet.
• AI som försöker förutse om en person kommer att begå ett brott.

Hög risk – tillåtet om kraven följs

AI som kan påverka människor mycket, till exempel vid beslut om jobb eller stöd. Exempel:

• AI vid rekrytering eller bedömning av anställda.
• AI som bestämmer om någon får ekonomiskt stöd.
• Vissa system för ansiktsigenkänning.

Begränsad risk – tillåtet med tydlig information

AI får användas, men användaren måste få veta att det är AI. Exempel:

• Chatbotar på en webbplats.
• AI-skapade bilder eller texter som visas för allmänheten.

Minimal risk – tillåtet som vanliga verktyg

Enkel AI som inte påverkar mycket. Exempel:

• Stavningskontroll.
• Antivirusprogram.