”Industrin måste våga lita på AI”

Doktoranden Aicha Maalej vill öka tilltron till AI och fokuserar på frågan i forskningsprojektet DELTA.
—Det handlar både om pålitligare modeller och ökad insyn i hur AI resonerar.

Det är en engagerad AI-forskare som slår sig ner vid ett bord i Tekniska Högskolans galleri. Aicha Maalej har läst teknik på universitetsnivå under sju år i Tunisien, hon tilldelades tidigare i år utmärkelsen ”best student paper” för sin jämförelse av olika sätt att kalibrera sannolikheter på en konferens i Japan och är på väg till London med nästa ”papper” när vi ses.

Som ofta med AI-forskning är det en hel (och ganska komplex) värld som öppnar sig när Aicha Maalej beskriver sitt arbete som doktorand i AFAIR. Men i grunden handlar forskningen i projektet DELTA faktiskt om något väldigt mänskligt — nämligen hur man blir trovärdig. För att våga ta del av alla de möjligheter som följer med den explosiva AI-utvecklingen måste man förstås lita på tekniken, vilket för många kräver en förståelse för hur AI:n resonerar.

—Vi arbetar på två sätt för att öka tilliten till beslutstödet. Vi utvecklar AI som uttrycker hur säker den är på sin rekommendation. Det är bra att veta att den är exempelvis 85 procent säker på att den har rätt. Förtroendet ökar ytterligare om den också kan förklara hur den har kommit fram till den bedömningen och vi arbetar alltså med att addera denna förmåga till AI-modeller. Utan en mer ”trustworthy” AI finns risker både med en blind övertro på resultaten och att användarna inte vågar lita på svaren.

Vill stanna i Sverige — och AI-frågorna

Att Aicha Maalej nu är en av forskarna i AFAIR-profilen tycks vi kunna tacka Sveriges sjöar, natur och lugn för. Aicha och hennes man inspirerades av Sveriges rykte om hög livskvalitet, natur och kultur. Efter att ha lärt sig mer om landet genom böcker och dokumentärer kände de att det var rätt plats att börja ett nytt kapitel på. Idag arbetar hennes man som farmaceut, medan Aicha doktorerar inom AFAIR-profilen vid Högskolan i Jönköping.

—Vi ville bygga ett liv här tillsammans. För mig var möjligheten att gå med i AFAIR perfekt – det gjorde det möjligt för mig att söka denna doktorandtjänst och fokusera på forskning som använder stora mängder data.

Möjligheten att dra nytta av just stora mängder data och maskininlärning upptäckte Aischa redan under studierna i Tunisien då hennes masteruppsats handlade om att identifiera känslor baserat på hur människor använder sina tangentbord.

—Det var väldigt intressant. Man kan se om någon är glad, ledsen eller lugn och enklast när någon är arg och skriver hårt. Det är fascinerande hur vanlig data kan berätta något beroende på hur vi använder den.

Det DELTA-arbete som Aicha tog hem utmärkelsen ”best student paper” med i Japan mynnade ut i ett antal handfasta råd om kalibrering av sannolikheter i AI-modellen, vilket beror på mängden data man har till hands.

Aicha har också fördjupat sig i hur en AI kan förklara sina beslutsgrunder, och här stöter man på begrepp som exempelvis kontrafaktiska förklaringar.

—Till en början ser det komplicerat ut men det går att vidareutveckla och förklara på ett enkelt sätt, menar Aicha Maalej som känner att AFAIR verkligen bidrar till forskningen exempelvis genom medverkan på de viktiga konferenserna, som i London och Japan.

Men — det är i Sverige hon vill stanna, även om svenskarna kan vara lite reserverade har hon och maken inte ångrat sig en sekund.

—Jag har fortfarande tre år kvar som doktorand och vet inte vad som händer sedan — men det blir något inom trustworthy AI. Den prediktionen är 85 procent säker, säger hon och skrattar.