XAI-Pro Månadsbrev Oktober 2023

Ett samverkansprojekt inom förklarbar AI (Explainable AI)

En del av forskningsprofilen inom tillämpad AI (AFAIR) hos Tekniska Högskolan i Jönköping

Oktober 2023

Mer om projektet

Mål

Projektet fokuserar på hur AI-baserade produkter och tjänster, med hjälp av förklarande AI-tekniker, kan utvecklas och anpassas för användarnas krav.

Forskningsfrågor

Är det möjligt att förklara hur neurala nätverk fungerar, och hur fungerar de i sådana fall?

Hur kan man formalisera olika typer av expertkunskap för en IRL-agent (AI) så att den kan användas för att utbilda och träna människor?

Vad händer i den ”svarta lådan”?

Nu är vi halvvägs in i vårt projekt kring förklarbar AI och har etablerat ett inspirerande samarbete med våra företags-partners. Vi har också fått våra doktorander på plats och de har påbörjat sin forskning. Det är alltså hög tid att börja kommunicera våra frågeställningar och framsteg med er intressenter. Målet är att du ska få det här nyhetsbrevet en gång i kvartalet, ibland oftare när det är mycket på gång.

Varmt välkommen att utvecklas tillsammans med oss

Maria, Florian, Marcus & Max

Hallå där…

Marcus Gullstrand och Max Pettersson som är projektets två doktorander. I somras deltog ni i Swedish AI Societys konferens (SAIS) i Karlskrona, där ni presenterade era doktorandprojekt inom XAI-Pro för den svenska AI-gemenskapen.

Vilka trender snappade ni upp på konferensen?

Marcus: ”Inom djupinlärning finns en tydlig trend att man fokuserar på semantiska koncept. Det vill säga att modellen får ta del av en etablerad kunskap som en del av sitt beslutsfattande.

Max: ”Kombinationen av kvalitativa och kvantitativa metoder för maskininlärning och AI – det vill säga användningen av domänregler och ontologier tillsammans med datadriven maskininlärning – är intressant.”

PÅ GÅNG

Vi håller just nu på att tillsammans med Husqvarna och SAAB identifiera praktiska case och experiment som ska genomföras under hösten. Vårt samarbete med SAAB har förstärkts ytterligare med två SAAB-medarbetare i form av Oskar Persson och Samuel Svensson.

Representanter från vårt team kommer att medverka på AI for Humanity and Society i Malmö den 14 november. Vi kommer att delta i WASP-HS Workshop ”Knowledge Elicitation: Data Collect and Knowledge Modeling for Human-Aware Systems”.