Die Sommerschule bot ein umfangreiches Programm mit Redner:innen von bedeutenden Institutionen wie der Carnegie Mellon University, dem Massachusetts Institute of Technology (MIT), Google DeepMind, und der University of Cambridge. Die Vorträge deckten ein breites Spektrum an Themen ab, darunter Mechanistic Interpretability (MechInterp), Reinforcement Learning from Human Feedback (RHFL) und Adversarial Robustness. Neben den Diskussionen gab es auch interaktive Workshops, die Haadia und anderen Teilnehmer:innen die Möglichkeit boten, sich intensiv mit den Experten auszutauschen und ihre eigenen Forschungsinteressen zu erkunden.

Für Haadia, deren Forschung sich auf erklärbare KI (explainable AI, kurz xAI) konzentriert, war die Sommerschule besonders relevant. Obwohl es bei xAI nicht ausschließlich um Alignment geht, spielt es eine entscheidende Rolle bei der Entwicklung von KI-Systemen, die transparent und nachvollziehbar sein sollen. Die Betonung der Interpretierbarkeit und des menschlichen Feedbacks auf der Sommerschule zeigt, wie entscheidend es ist, KI-Systeme verständlich und zuverlässig zu gestalten, was bestens mit Haadias Forschungszielen und den allgemeinen Zielen der KI-Sicherheit übereinstimmt.

© DAAD/Nathan Dreessen

Haadia Amjad im Gespräch

Haadia Amjad ist Teil der Forschungsgruppe für erklärbare künstliche Intelligenz am Lehrstuhl für Grundlagen der Ingenieurwissenschaften (XAI-GE). Diese Gruppe widmet sich der Weiterentwicklung von xAI-Methoden und deren Anwendung in verschiedenen Bereichen, darunter die Bewertung chirurgischer Fähigkeiten, autonomes Fahren und die Erkennung mechanischer Anomalien. Unter der Leitung von Professor Ronald Tetzlaff arbeitet die Gruppe mit führenden Institutionen zusammen, um sicherzustellen, dass ihre Forschung auf dem neuesten Stand bleibt. Die Teilnahme von Haadia an der Sommerschule unterstreicht das Engagement der Gruppe, die neuesten Forschungsergebnisse in praktische Lösungen zu integrieren, die die Transparenz und Effizienz von KI-Systemen verbessern.