AI för dig som är medarbetare

I AI-tjänster får du behandla offentlig information som är öppen och som exempelvis skulle vara lämplig att publicera på stadens webbplats helsingborg.se. Du kan också använda AI-tjänster för att till exempel söka information, analysera data, skapa bilder eller förbättra text. Det är också okej att exempelvis göra enstaka formativa elevbedömningar eller mätuppgifter, såvida det görs utan att personuppgifter matas in i tjänsten.    

De flesta av dagens internetbaserade AI-tjänster uppfyller inte de lagliga krav som gäller för att vi ska kunna lämna ut känsliga personuppgifter eller sekretessbelagda uppgifter. Eftersom många internetbaserade AI-verktyg är molntjänster som är baserade utanför EU finns det en problematik gällande att överföra personuppgifter till tjänsterna. Det är därför viktigt att enbart dela tillåten information när dessa tjänster används. Med personuppgifter menas allt som kan bidra till att identifiera en viss person, till exempel namn, personnummer, ett fotografi på en identifierbar person, en e-postadress eller ett telefonnummer.  

Uppgifter som aldrig får användas i AI-tjänster är exempelvis: 

• Intern information om någon våra verksamheter som enbart ska behandlas i avsedda verksamhetssystem.  Du får exempelvis inte använda ett AI-verktyg för att göra en risk- och sårbarhetsanalys av din verksamhet.  

• Personuppgifter – varken elevers eller medarbetares. Du får exempelvis inte använda ett AI-verktyg för att göra summativa elevbedömningar, för att upprätta incidentrapporter eller listor över elevresultat.  

• Uppgifter som omfattas av sekretess, exempelvis uppgifter om en elevs stödbehov eller medicinska diagnoser. Du får exempelvis inte använda ett AI-verktyg för att göra en pedagogisk bedömning av en elev eller för att upprätta ett åtgärdsprogram.  

• Säkerhetsskyddsklassificerade uppgifter. 

Inte många och inte i de stora tjänsterna vi har avtal på just nu (Microsoft Copilot och Google Gemini). Det börjar dock dyka upp tjänster som är säkra även för känsliga uppgifter. Det pågår ett arbete i Sverige med att ta fram både lokala och molnbaserade AI-tjänster för myndigheter som socialtjänsten och även skolan, baserat på våra egna förhållanden och data.  

Användning av AI-tjänster medför vissa risker. Några exempel på det är: 

• Dataläckage: Om personuppgifter överförs till AI-tjänster kan de hamna i orätta händer eller används på ett obehörigt sätt utanför verksamhetens kontroll. 

• Felaktig eller vilseledande information: AI-tjänster kan ibland generera svar som är felaktiga eller vilseledande. Det är viktigt att verifiera informationen innan du använder den. 

• Etiskt tveksamt innehåll: AI kan generera innehåll som är etiskt tveksamt eller stötande. Det är därför viktigt att granska och värdera innehållet innan det används vidare. 

• Bias: AI-systemet kan producera resultat som är diskriminerande eller snedvridna. Detta beror ofta på att skevheter i träningsdatan har påverkat grundmodellens inlärning. Exempelvis om grundmodellens träningsdata visar att kvinnor generellt sett tjänar mindre än män, kan modellen felaktigt lära sig att detta är en norm och återskapa eller förstärka sådana mönster i sina resultat. 

Ja, du får använda AI och det kan hjälpa dig med vissa arbetsuppgifter som du gör i tjänsten, men tänk på att lagstiftning och riktlinjer även gäller för nya AI-möjligheter. Du behöver vara försiktig med vilken AI-tjänst du använder och vilken information du delar med dig av. Titta vidare på svaren om vad du får och inte får göra i AI-tjänster. 

Ja verkligen, den generativa AI som nu har blivit mer tillgänglig för oss alla bygger på och samlar ihop mänsklig erfarenhet mer än att den är artificiell, vilket gör att de svar man får i många fall är väldigt användbara. Det är också enkelt att målanpassa de svar man får ut med ytterligare instruktioner. Generativ AI börjar bli väldigt duktig på språk och annan logik, vilket utökar allt det man kan få hjälp med i sitt arbete. 

Nej, svaren du får bygger på sannolikheter och fel kan uppstå. Man kan säga att AI gissar sig till svaren och att de inte alltid stämmer. Även om utvecklingen går snabbt framåt kan du inte helt lita på de svar du får. AI hjälper dig att komma framåt i arbetsuppgifter, men du måste själv göra en bedömning av om svaren är tillräckligt korrekta för att använda eller om de behöver ytterligare bearbetning.

Nej, det finns material genererade från AI-tjänster som du måste vara försiktig med.  

AI kan producera falska uttalanden, fakta som förvanskas, förstärka underliggande bias på olika områden som rasism, misogyni och hat. Resultatet kan sträcka sig från sådant som är olämpligt, oetiskt, bedrägligt och hela vägen till ett direkt brott mot lag att sprida. 

Undvik att ge instruktioner som kan generera olämpligt material och ta bort genererat material som inte är lämpligt. Du får inte sprida den typen av material genom ditt arbete. 

Generativ AI som vi använder kan bygga på texter, bilder, ljud och filmmaterial som är upphovsrättsligt skyddade verk. Om du använder AI för att skapa dessa mediatyper behöver du vara medveten om att det råder stor osäkerheten kring frågan om upphovsrätt. Var därför alltid uppmärksam på om det AI-genererade materialet liknar något redan upphovsrättsskyddat verk. 

En annan aktuell fråga är om det som genereras av AI skyddas av upphovsrätt och räknas som vårt eget material när vi använder och sprider det. Grundregeln är att om vi bara har gett en skriftlig instruktion (promt) till generativ AI så får vi ingen upphovsrätt till det genererade materialet, oavsett vad AI-leverantörer säger i frågan. Det kan därför vara svårt att använda material på samma breda sätt som om vi själva hade tagit fram och sammanställt dem. Dessa frågeställningar är komplexa och relativt nya, så praxis på området att förhålla sig till är under utveckling men kräver försiktighet om det kan finnas risker med användningen. 

Du kan inte förlita dig på AI när du ska fatta beslut. För att kunna använda AI vid beslutsfattande krävs att det också sker en mänsklig kontroll av varje enskilt beslut. Skulle AI användas vid beslutsfattande måste det också vara helt transparant hur beslut har fattats, vilket ofta är svårt när det gäller generativ AI. 

För att generativ AI ska kunna ligga till grund för automatiserat beslutsfattande inom myndigheter krävs också att förvaltningslagens krav på proportionalitet, objektivitet och legalitet följs. Det behöver alltså säkerställas att beslutsfattandet följer gällande regler, är förutsebart och att ovidkommande hänsyn inte tas. 

Att exempelvis göra summativa utvärderingar med hjälp av generativ AI på en elevs arbeten inför betyg eller en medarbetares allmänna prestation är olämpligt och saknar stöd i lag.  

AI finns överallt och du kommer att stöta på det även i ditt arbete. Arbetsgivaren har både rätt och skyldighet att instruera medarbetarna om nya metoder, som när AI bör eller ska användas och när du som medarbetare inte ska använda AI i ditt arbete. Det finns mycket att tänka på när det gäller förväntningar på medarbetaren, förutsättningar för att jobba på rätt sätt, påverkan i arbetsbelastning samt andra arbetsmiljöfrågor. Det finns också en ökad risk för olämplig övervakning och mätande av prestanda som kan gå för långt vid användning av AI. Ta upp dessa frågor med din chef om du är osäker när nya AI-baserade metoder och verktyg införs i ditt arbete. 

Använd i första hand de tjänster som ingår i vårt avtalade utbud av digitala verktyg, så som Microsoft Copilot och/eller Google Gemini samt andra AI-tjänster inom befintliga verktyg och tjänster. De AI-funktionerna följer vissa grundläggande krav på dataskydd och hantering av våra uppgifter. Tänk dock på att det fortfarande finns förbehåll för vilken information du får dela med dig av även i dessa tjänster. Titta vidare på svaren om vad du får och inte får göra i AI-tjänster. 

Nej, vissa AI-tjänster uppfyller helt enkelt inte de krav som ställs i svensk och EU-reglerad lagstiftning om personuppgiftshantering och sekretess. ChatGPT är ett exempel på en sådan tjänst som inte uppfyller de kraven fullt ut.  Eftersom AI just nu är väldigt efterfrågat finns det också aktörer som utnyttjar det intresset med dolda syften av olika slag. Du behöver därför vara försiktig och tänka efter noga innan du börjar använda olika AI-tjänster, speciellt de som är ”gratis” eller utlovar stora fördelar av olika slag samt garanteras vara ”svenska” och helt säkra. 

Nej. Vi har redan nu två breda generativa AI-tjänster tillgängliga för all personal och senare även för elever. De här tjänsterna, Microsoft Copilot och Google Gemini, är bland de marknadsledande och klarar mycket av det som andra AI-tjänster utlovar. Finns det behov av andra AI-tjänster behöver du ta upp det med din chef. Tänk då på att alla inköpta tjänster måste följa lagstiftning och praxis på flera områden samt de interna rutiner för inköp av t.ex. appar och tillägg som är beslutade inom skol- och fritidsförvaltningen. 

Det är bättre att du använder tjänster som vi redan har än osäkra tjänster som är gratis. Tänk på att flera gratistjänster som ser ut att följa vår lagstiftning i själva verket ofta är baserade på ChatGPT och liknande tjänster där våra uppgifter behandlas utanför Sverige och EU. Du får inte dela information som är viktig för verksamheten, personuppgifter och annan integritetskänslig information i tjänster som inte uppfyller kraven. 

Det är i princip inte möjligt att vara anonym och på grund av tekniken är du inte så anonym som du kanske tror. Ofta är du på någon nivå, inloggad, igenkänd eller identifierad. Tänk på att oavsett hur anonym du tror du är, får vissa uppgifter inte delas med AI-tjänster.  

Du bör inte heller registrera dig med andra uppgifter, till exempel privata och sen använda AI-tjänsten i arbetet. Titta vidare på svaren om vad du får och inte får göra i AI-tjänster. 

Många AI-modeller finns tillgängliga på nätet för nerladdning till din dator eller en lokal server. Modellerna körs sedan helt lokalt med hjälp av olika programvaror. Hantering av data blir då mer säker än vid användning av molnbaserade tjänster, då inmatade uppgifter och svar inte sprids vidare utan stannar lokalt. 

Men en personlig dator är i sig en osäkrare miljö än våra verksamhetssystem, så risken finns att uppgifter sprids ändå genom oaktsamhet eller intrång utifrån. 

Flera kommuner och regioner har redan drabbats av så kallad ransomware-attack som låser datorn helt och sen sprider sig i våra nätverk. Fortsätt därför att vara försiktig och ladda inte ner vare sig AI-modeller, AI-programvaror eller annat utan att ansvariga för säkerhet ger klartecken. 

Inte alltid, även våra leverantörer lockas av fördelarna med AI och kan ibland vara lite för snabba med att införa nya AI-funktioner. Gör leverantören rätt ska de funktioner som du får tillgång till följa huvudavtal och lagstiftning som gäller, men i flera fall gör nya AI-funktioner i våra tjänster inte det. Var därför försiktig när nya AI-funktioner dyker upp och stäm av med din chef, förvaltningens jurister eller avtalsansvariga innan du börjar använda nya AI-funktioner i en befintlig app eller digital tjänst.