Das Forschungsfeld der sogenannten Erklärbaren Künstlichen Intelligenz (XAI) hat das Ziel, Künstliche Intelligenz (KI) transparenter und interpretierbarer zu gestalten. Besonders bei sicherheitskritischen Anwendungen ist es essenziell, die algorithmischen Entscheidungen von intransparenten „Blackbox-Modellen“ nachvollziehen zu können. XAI-Methoden können dann für den Menschen verständliche Erklärungen für die Entscheidungsfindungen von KI-Modellen generieren. Diese Erklärungen liefern zum einen wertvolle Hinweise bei der Entwicklung und Optimierung der KI-Modelle und schaffen zum anderen Vertrauen bei Nutzern der Systeme.

Das Ziel der KI-Nachwuchsgruppe „TimeXAI“ ist die Entwicklung einer neuartigen XAI-Methode für die Klassifikationen von Zeitreihen, wobei ein starker Fokus auf der menschlichen Interpretierbarkeit der Erklärungen liegt. Mit Hilfe verschiedener Evaluierungsansätze werden die Stärken existierender XAI-Methoden identifiziert und in einer neuen Methode kombiniert. In der Forschung und Entwicklung der letzten Jahre wurde eine Vielzahl vielversprechender XAI-Methoden im Bereich der Computer Vision entwickelt. XAI-Ansätze für KI-Modelle zur Zeitreihenklassifikation sind jedoch unterrepräsentiert, obwohl der Bedarf an Lösungen groß ist und durch den enormen Anstieg an Sensordaten in Zukunft noch weiter ansteigen wird. Somit bieten die spezialisierten Verfahren aus „TimeXAI“ hohes Potential für zahlreiche Anwendungsfälle und große Innovationssprünge.

Die Anwendbarkeit und Interpretierbarkeit von XAI-Methoden werden hierbei in zwei initialen Anwendungsdomänen untersucht:

Kardiologie

Die Anwendungsdomäne Kardiologie ist eine Kooperation mit u.a. Prof. Dr. Michael Guckert (THM), Prof. Dr. Samuel Sossalla (Kerckhoff Klinik Bad Nauheim), Prof. Dr. Om Prakash Vyas (Indian Institute of Information Technology Allahabad, India) und CRS medical GmbH (Aßlar).

Smart Home

Die Anwendungsdomäne Smart Home ist eine Kooperation mit dem Startup Veli GmbH. Veli ist ein Spinoff der Uni Kassel und das Produkt Veli ermöglicht es älteren Menschen möglichst lange in den eigenen vier Wänden zu bleiben indem KI-basiert über Sensoren der Wasser- und Stromverbrauch analysiert wird.

 

Die KI-Nachwuchsgruppe „TimeXAI“ hat eine Laufzeit von 3 Jahren und wird vom Bundesministerium für ­Forschung, Technologie und Raumfahrt (BMFTR) im Rahmen des Förderprogramms „ExperTeam4KI" mit 1.09 Mio. € gefördert (Förderkennzeichen 01IS24063).