Explainable Artificial Intelligence (XAI)

Kompetensutveckling inom artificiell intelligens (AI) för yrkesverksamma. Kvartsfart, 3 hp

Studieort: Online, med träffar i Jönköping

Kursstart: Oktober 2020

Artificial Intelligence is increasingly playing an integral role in our daily activities. Moreover, AI based solutions are used more and more in areas such as criminal justice, healthcare, and education, and therefore, their impact is high. The dominant role played by AI models in these domains has led to a growing concern regarding potential bias, and a demand for model transparency and interpretability.

Why did the system make this prediction? Do I trust it? What would happen if I change some parameter?

As a consequence, AI researchers and practitioners have focused their attention on explainable AI to help them better trust and understand AI models.

In this course, we will present an overview of XAI, model interpretability and explainability in AI and other aspects related to interacting with AI-based systems, trust, evaluation, decision-support and FAT-issues (Fairness Accountability and Transparency).

The course is given in English and is targeted for working professionals in the industry.

eXplainable AI

This course gives an introduction to Explainable AI (XAI), providing an overview of relevant concepts such as interpretability, transparency and black-box machine learning methods. The course provides an overview of state-of-the-art methods for generating explanations, and touches upon issues related to decision-support, human interaction with AI/intelligent systems and their evaluation.

In summary, the Explainable AI course covers the following topics:

  • Definitions and concepts such as black-box models, transparency, interpretable machine learning and explanations.
  • Decision-making and decision support, Human-Computer Interaction (HCI) and AI.
  • Explainable AI.
  • Methods for Explainable AI.
  • Applications and examples.
  • Trust and acceptance.
  • Ethical, legal and social issues of explainable AI.
  • Evaluation methods and metrics.

After a successful course, you will be able to:

  • Show familiarity with concepts within Explainable AI and interpretable machine learning.
  • Demonstrate comprehension of current techniques for generating explanations from black-box machine learning methods.
  • Demonstrate comprehension of current ethical, social and legal challenges related to Explainable AI.
  • Demonstrate the ability to select and assess Explainable AI methods.
  • Demonstrate the ability to review, present and critically assess state-of-the-art papers in relevant areas within Explainable AI.


Läs merLäs mindre

Studieform

Kursen ges på distans med föreläsningar online och innehåller tre obligatoriska träffar på Tekniska Högskolan i Jönköping. Kursen löper över 8 veckor på kvartsfart med tre obligatoriska halvdagsträffar. Vi vänder oss till yrkesverksamma deltagare och konkreta industrinära frågeställningar prioriteras. Tanken är att alla deltagare, parallellt med kursen, ska kunna applicera det teoretiska innehållet direkt i sin egen yrkespraktik.

Via kursens lärplattform får du tillgång till webbföreläsningar och diskussionsforum och med e-möten kan vi kommunicera på distans och diskutera de utmaningar vi arbetar med i kursen. Av de tre träffarna är två seminarier. Under det första seminariet kommer deltagarna att få presentera ett relevant XAI-relaterat tema utifrån kurslitteraturen. Lämpliga AI-lösningar för de problem som intresserar studenterna står i fokus vid det andra seminariet.

Kursen riktar sig till dig som är yrkesverksam. Kursen läses på deltid, ca kvartsfart, med engelska som undervisningsspråk. 3 högskolepoäng motsvarar 80 timmar arbete fördelat över kurstiden.

Utbildningen är kostnadsfri och finansieras och utvecklas inom projektet SMARTER som är ett KK-finansierat projekt.

Lärare

Maria Riveiro, Docent Informationsteknologi

Avdelningen för Datateknik och Informatik

Maria Riveiros forskar och undervisar inom människa-datorinteraktion, maskininlärning (ML) och artificiell intelligens (AI). Det centrala temat för hennes forskning är att undersöka möjligheten att integrera ML/AI-system med interaktiva och visuella analysmetoder som stödjer användare. För närvarande fokuserar Dr. Riveiros forskning främst på explainable AI (XAI).

 

Beril Sirmacek, Universitetslektor

Avdelningen för Datateknik och Informatik

Beril Sirmacek specializes in augmented reality (AR), artificial intelligence (AI), computer vision, SLAM, 3D reconstruction, object recognition, object tracking, remote sensing, deep learning and big data visualization.



Projektet SMARTER

Kursen ges inom ramen för projektet SMARTER, ett kompetensutvecklingsprojekt inom artificiell intelligens (AI) för yrkesverksamma, som är finansierat av KK-Stiftelsen och genomförs i samarbete med Örebro Universitet och Högskolan i Skövde. KK-Stiftelsen finansierar foskning och kompetensutveckling som genomförs i samverkan med industrin, med syfte att stärka svensk industris konkurrenskraft.

Kurserna kombinerar studier online med fysiska träffar för att kunna lära av varandra och bredda sitt nätverk. Kurserna ges på avancerad nivå om 3 högskolepoäng/kurs och läses på ca kvartsfart. 

Andra kurser inom SMARTER

  • AI-kurser vid ORU (Örebro Universitetlänk till annan webbplats, öppnas i nytt fönster)
    • AI-baserade sökmetoder för mobila robotar
    • Automoma robotar och ROS
    • Mixed Reality i industriella tillämpningar
    • Logisk problemlösning med Answer Set-programmering
    • Reinforcement learning del 1 & 2
    • Maskininlärning del 1 & 2
    • Introduktion till AI

Kursansvarig

Omfattning:

8 veckor

Nivå:

Avancerad 

Studietakt:

Kvartsfart, motsvarande 80 timmars arbete

Ort:

Online, med tre obligatoriska träffar i Jönköping

Språk:

Engelska

Programstart:

19 oktober 2020

Anmälan:

Anmälan öppnar 16 mars, maximalt 10 platser.

Behörighet:

The applicant must hold the minimum of a bachelor’s degree (i.e the equivalent of 180 ECTS credits at an accredited university) with at least 90 credits in computer engineering, electrical engineering (with relevant courses in computer engineering), or equivalent. The bachelor’s degree should comprise a minimum of 15 credits in mathematics. Proof of English proficiency is required.

Urval

--

Examen

3 högskolepoäng





Genom att surfa vidare på JU.se godkänner du att vi använder cookies. Mer information kaka