Kan vi lita på maskininlärning? Henrik Boströms råd till forskare och företagare

Kan vi lita på maskininlärning? Och på AI i allmänhet? Vi frågade Henrik Boström som är en av Sveriges ledande forskare inom maskininlärning.

Henrik Boström är professor i datalogi med inriktning mot system för dataanalys vid avdelningen för programvaruteknik och datorsystem vid KTH. Hans forskning handlar om maskininlärningsalgoritmer, med ett särskilt fokus på konfidensbaserad prediktion, ensemblemodeller samt förklaringsbar maskininlärning. Han har lett och arbetat i projekt med tillämpningar av maskininlärning inom läkemedelsindustrin, hälso- och sjukvården, fordonsindustrin samt försäkringsbranschen. Han har varit redaktör för tidskrifterna Machine Learning samt Data Mining and Knowledge Discovery och har under mer än två decennier verkat som programkommittémedlem för några av de främsta konferenserna inom området. Henrik Boström ingår även i den kommitté med externa experter som ger återkoppling på verksamheten i AFAIR. I våras var han en av talarna vid vårt event tidigare där han delade med sig av aktuella insikter kring maskininlärning och tillförlitlighet.

Hej Henrik! Kan vi få en hiss-presentation?

– Jag är professor i datalogi med inriktning mot system för dataanalys. Min forskning fokuserar på tillförlitlig maskininlärning, särskilt förklarbarhet och prediktion med konfidens. Jag älskar att programmera och experimentera, och tycker att det är fantastiskt att bli avlönad för att ägna mig åt en hobby som jag har haft sedan jag var mycket ung.

Kan man lita på maskininlärning i synnerhet och AI i allmänhet?

– Det korta svaret är att nej, det kan vi inte göra.

Varför inte?

– Det finns många fallgropar vid utveckling av maskininlärningsmodeller som gör att vi ofta överskattar deras korrekthet. Det finns otaliga exempel på projekt som har resulterat i värdelösa eller ibland direkt skadliga modeller, och detta beror ofta på en kombination av bristfällig metodik och oförmåga att förstå modellernas begränsningar.

Vad kan vi göra åt det?

– Vi kan till exempel läsa kurser som inte enbart fokuserar på de tekniska aspekterna utan också ingående tar upp de metodologiska aspekterna.

Ditt bästa råd till andra forskare, respektive till företag?

– Till forskare som ännu inte har samarbetat med företag och organisationer så vill jag lyfta fram den potential som finns i sådana samarbeten, inte minst för att identifiera nya och relevanta vetenskapliga frågeställningar. Till företag som är i färd med att starta upp nya AI-projekt skulle jag vilja betona värdet av att samarbeta med välutbildade aktörer. Det räcker inte med att de har den tekniska kompetensen att bygga modeller och implementera system, utan de måste också vara metodologiskt kompetenta så att de många möjliga fallgroparna undviks.