13.02.2026
Haadia Amjad erhält den Best Paper Award bei der EXPLAINABILITY 2025
Auf der EXPLAINABILITY 2025 Konferenz, vom 26. bis 30. Oktober 2025 in Barcelona, kamen Forscher:innen aus aller Welt zusammen, die sich mit der Weiterentwicklung der Theorie, Methoden und praktischen Anwendung erklärbarer Systeme in den Bereichen KI, maschinelles Lernen, Datenwissenschaft und Softwareentwicklung beschäftigen. Die Konferenz befasste sich mit Fragen der Transparenz, Interpretierbarkeit, Fairness, Verantwortlichkeit und Vertrauenswürdigkeit komplexer Modelle. Der Best Paper Award der Konferenz ging an drei Forscher:innen, deren Arbeit zur Lösung praktischer und anwendungsbezogener Aspekte modernster XAI-Methoden beigetragen hat. Eine von ihnen war Haadia Amjad, die außerdem eingeladen wurde, eine Erweiterung ihrer Arbeit beim IARIA-Journal einzureichen.
In ihrer Arbeit konzentriert sich Haadia auf den Einsatz von konzeptbasierter erklärbarer KI (CXAI) zur Identifizierung und Analyse von Verwechslungsmustern in Deep Neural Networks für die Multi-Label-Bildklassifizierung. Überlappende Labels und kontextuelles Rauschen führen in diesem Bereich häufig zu mehrdeutigen oder falschen Vorhersagen. Um zu verstehen, warum Modelle verwirrt werden, untersuchte sie die Relevanz und Bedeutung von Konzepten und zeigte, dass eine geringe Konzeptunterscheidbarkeit und die Abhängigkeit von umgebungsbezogenen (nicht zielgerichteten) Konzepten wesentliche Faktoren für Fehlklassifizierungen sind. Die Studie zeigte, wie CXAI Lernschwächen und durch Datensätze verursachte Verzerrungen diagnostizieren kann, die durch Leistungskennzahlen allein nicht sichtbar waren, indem CRP und CRAFT auf reale Datensätze angewendet wurden. Dies trägt dazu bei, die Interpretierbarkeit und Vertrauenswürdigkeit von KI-Systemen zu verbessern.
Da die Fachgemeinschaft für erklärbare KI noch wächst, gibt es bisher nur wenige Konferenzen, die sich diesem Thema widmen. „Den Best Paper Award bei einer Konferenz zu gewinnen, die sich speziell mit meinem Forschungsgebiet befasst, ist eine große Ehre.“ Das motiviert mich, in Zukunft noch höhere Ziele anzustreben“, sagt Haadia. Besonders interessant fand sie an der Konferenz nicht nur die technische Seite, sondern auch die spezifischen Zielbereiche und Themen in diesem Bereich. Sie sagte: „Es war interessant zu sehen, wie domänenspezifische Probleme und Fragen zu bestehenden Methoden an einem Ort gemeinsam gelöst wurden. Eine solche Umgebung unterstützt das kontinuierliche Lernen von Forscher:innen in diesem Bereich und schafft eine Plattform für einen fruchtbaren Wissensaustausch.“
Über Haadia Amjad
Haadia Amjad ist Mitglied der SECAI Graduate School und forscht in der Explainable Artificial Intelligence Group am Lehrstuhl für Grundlagen der Ingenieurswissenschaften (XAI-GE). Diese Gruppe hat sich zum Ziel gesetzt, xAI-Methoden weiterzuentwickeln und in verschiedenen Bereichen anzuwenden, darunter die Bewertung chirurgischer Fähigkeiten, autonomes Fahren und die Erkennung mechanischer Anomalien. Unter der Leitung von Professor Ronald Tetzlaff arbeitet die Gruppe mit führenden Institutionen zusammen, um sicherzustellen, dass ihre Forschung auf dem neuesten Stand bleibt. Haadias Teilnahme an der Konferenz unterstreicht das Engagement der Gruppe, die neuesten Forschungsergebnisse für die Entwicklung praktischer Lösungen zu nutzen, die die Transparenz und Effektivität von KI-Systemen verbessern.
