14.10.2025
Moritz Hehl forscht an der Harvard University
Von Juli bis September forschte Moritz Hehl an der Harvard University unter der Leitung von Melanie Weber zu den Zusammenhängen zwischen der Feature-Geometrie tiefer neuronaler Netze und dem Ricci-Fluss. Das Projekt entstand unter der gemeinsamen Betreuung von Weber und Max von Renesse und vereint Ansätze aus der Differentialgeometrie und dem maschinellen Lernen. Weber ist eine der führenden Forscher:innen im Bereich geometrischer Methoden im maschinellen Lernen. Als Ergebnis Moritz' Arbeit mit ihrer Forschungsgruppe in Cambridge (Massachusetts) entstand eine gemeinsame Publikation zu den Zusammenhängen der Feature-Geometrie tiefer neuronaler Netze und dem Ricci-Fluss.
Das Verständnis, warum Deep Neural Networks so leistungsfähig sind und so gut generalisieren, ist nach wie vor begrenzt. Moritz Hehl nutzt in seiner Forschung Methoden der Riemannschen Geometrie, insbesondere die Ricci-Krümmung, um besser zu verstehen, wie neuronale Netze intern arbeiten und welche geometrischen Informationen der Daten in ihren Repräsentationen erhalten sind. Dazu forschte er während eines Forschungsaufenthalts an der John A. Paulson School of Engineering and Applied Sciences der Harvard University in der Geometric Machine Learning Group von Weber, welche es zum Ziel hat geometrische Strukturen in Daten zu nutzen, um Machine-Learning-Modelle und Optimierungsalgorithmen zu verbessern. Ein zentrales Konzept ist dabei die Ricci-Krümmung.
Unter der Betreuung von Weber arbeitete er an einer Publikation zu den Zusammenhängen zwischen der Feature-Geometrie tiefer neuronaler Netze und dem Ricci-Fluss. Dabei ließen sie sich von Perelmans bahnbrechender Lösung der Poincaré-Vermutung inspirieren, bei der der Ricci-Fluss genutzt wurde, um die Geometrie von Mannigfaltigkeiten zu glätten und so tiefere Einsichten in ihre Topologie zu gewinnen. Dieses Konzept zeigt eine bemerkenswerte Analogie zu tiefen neuronalen Netzen, die in Klassifikationsaufgaben dazu tendieren, die Geometrie der zugrunde liegenden Datenmannigfaltigkeit zu vereinfachen, um die Struktur der Klassen klarer hervortreten zu lassen. Dieses Verhalten quantifizierten sie und leiteten daraus neue, geometrisch motivierte Methoden für die Netzwerkselektion sowie Early-Stopping-Heuristiken ab.
Moritz erzählt: „Vor Ort zu forschen, war für den Erfolg meines Projekts entscheidend. Die regelmäßigen persönlichen Treffen mit Melanie, waren unglaublich hilfreich und haben maßgeblich dazu beigetragen, dass unser Paper entstehen konnte. Besonders bereichernd waren die regelmäßigen Seminare, in denen Promovierende und Postdocs ihre aktuellen Arbeiten im Bereich Machine Learning vorstellten und ein offener Austausch mit sehr hilfreichen Rückmeldungen stattfand. Darüber hinaus bot Harvard spannende Vorträge von führenden Forschern wie Yann LeCun (Turing-Award-Träger) und Jascha Sohl-Dickstein (Erfinder der Diffusion Models), die wertvolle Einblicke in die neuesten Entwicklungen der KI-Forschung ermöglichten.“
Über Moritz Hehl
Moritz Hehl erwarb sein Diplom in Wirtschaftsmathematik an der Universität Leipzig, wobei er ein Jahr an der Scuola Normale Superiore di Pisa verbrachte. Seit Oktober 2024 promoviert er als Teil der SECAI Graduate School an der Universität Leipzig unter der Betreuung von den Fellows Max von Renesse (Universität Leipzig) und Guido Montúfar (UCLA). Seine Forschung konzentriert sich auf diskrete Ricci-Krümmung, sowohl in ihren theoretischen Aspekten als auch in Anwendungen für maschinelles Lernen und künstliche Intelligenz. Moritz Hehl sticht nicht nur durch seine bevorstehende Promotion hervor, sondern auch durch seine Publikationsdichte.
