Användningen av AI i utbildning och forskning erbjuder stora möjligheter, detta kräver dock också att vi tar hänsyn till informationssäkerhetens utmaningar. Att förstå och hantera dessa risker är centralt för att skapa trygga och tillförlitliga användningsområden för AI-baserade verktyg.

Informationssäkerhet handlar inte bara om teknik, det inkluderar också organisatoriska och mänskliga aspekter. För den som använder AI-verktyg i det dagliga arbetet med utbildning, forskning och administration är det till exempel viktigt att ta ansvar för informationssäkerheten kring den data man hanterar och säkerställa att verktygen används på ett säkert, lagligt, etiskt och hållbart sätt.

Informationssäkerhet som grund för hållbar AI-användning

Lärare, forskare och administrativ personal har en nyckelroll i att säkerställa en säker och ansvarsfull användning av AI-verktyg, i linje med svensk lagstiftning och GDPR.

En säker användning av AI-verktyg innebär att följa riktlinjer som tar hänsyn till konfidentialitet, integritet och tillgänglighet. Följande principer är därför centrala för att hantera informationssäkerhet i samband med AI användning:

Datasäkerhet

Säkerställ att data som delas med AI-verktyg är skyddad från obehörig åtkomst, manipulation eller förlust, detta inkluderar kryptering, åtkomstkontroll och säker datahantering.

Integritet och tillförlitlighet

AI-verktyg skall vara designade för att ge konsekventa och korrekta resultat utan att äventyra dataintegritet eller förlita sig på osäkra datakällor.

Skydd mot cyberhot

Utbildare och forskare måste vara medvetna om och skydda sin data från hot som phishing, ransomware och andra typer av cyberattacker. Detta kan göras genom att t.ex. undvika att dela känsliga data med AI-verktyg.

Ansvarsfull datainsamling

Data som används tillsammans med AI-verktyg skall alltid hanteras med i enlighet med gällande lagstiftning, således skall data som inhämtas med hjälp av AI verktyg följa lagar och regler kring dataskydd, såsom dataskyddsförordningen, General Data Protection Regulation 2016/679 (GDPR).

Transparens och ansvar

Se till att tillvägagångssätt, beslutsfattande och analyser som görs med hjälp av AI-verktyg är tydligt dokumenterade, spårbara och möjliga att granska. Detta stärker tilliten till det du gör och till att du tar ansvar.

Kontinuerlig övervakning och uppdatering

Du ska alltid övervaka de AI-verktyg du använder. Detta innebär att du behöver hålla dig regelbundet uppdaterade om information som kan stödja dina möjligheter att hantera och värdera nya säkerhetsrisker som skulle kunna påverka de AI-verktyg du använder.

Utbildning och medvetenhet

Som användare av AI-verktyg bör du delta i utbildning om informationssäkerhet och AI för att lära dig grunder, avancerat användande och ”best practice”.

Riktlinjer

Som AI-användare i Sverige behöver du följa både EU-regler och nationella lagar och riktlinjer för informationssäkerhet. Detta är grundläggande för hållbar och etisk AI-användning.

Genom att säkerställa att de AI-verktyg du använder följer befintlig lagstiftning och rådande riktlinjer så medverkar du till att skapa ett tryggt utbildningslandskap som främjar innovation, samarbete och lärande.

Om du vill veta mer om EU-regler och nationella lagar och riktlinjer kan du ta del till exempel av: EU:s förordning för AI-reglering