„Ist Intelligenz eine mathematische Struktur?“– Zoomposium mit Prof. Dr. Gitta Kutyniok

Der Schlüssel zur nächsten Generation intelligenter Systeme – Über Berechenbarkeit, Grenzen und die Zukunft der KI

Einleitung: Mathematik als Schlüssel zur künstlichen Intelligenz

Gitta Kutyniok gehört zu den international führenden Mathematikerinnen im Bereich der mathematischen Grundlagen der Künstlichen Intelligenz. Als Inhaberin eines Bavarian AI Chair für Mathematical Foundations of Artificial Intelligence an der LMU München verbindet sie klassische Gebiete der modernen Mathematik – insbesondere Approximationstheorie, harmonische Analysis und Optimierung – mit den zentralen Herausforderungen aktueller KI-Forschung. Ihre Arbeiten zielen darauf, neuronale Netze nicht nur als technische Werkzeuge, sondern als mathematisch präzise beschreibbare Strukturen zu verstehen und damit Fragen nach Zuverlässigkeit, Effizienz und Erklärbarkeit auf eine neue Grundlage zu stellen.

Im Zentrum des Gesprächs steht eine ebenso einfache wie weitreichende These: Neuronale Netze sind „strukturierte Funktionsklassen“. Diese Perspektive eröffnet nicht nur neue Wege für die mathematische Analyse von KI-Systemen, sondern führt auch zu einer grundlegenden philosophischen Frage: Wenn sich Intelligenz mathematisch beschreiben lässt, ist sie dann selbst eine mathematische Struktur?

Die Black Box der KI: Ein Problem des Verstehens, nicht des Inhalts

Der häufig verwendete Begriff der „Black Box“ suggeriert, dass die inneren Mechanismen moderner KI-Systeme grundsätzlich verborgen seien. Kutynioks Ansatz widerspricht dieser Intuition in entscheidender Weise. Denn die Bestandteile neuronaler Netze sind keineswegs unbekannt: Lineare Algebra, Wahrscheinlichkeitstheorie, Optimierung und statistische Verfahren bilden das Fundament dieser Modelle. In diesem Sinne ist die „Box“ nicht deshalb schwarz, weil ihr Inhalt unbekannt wäre, sondern weil das theoretische Verständnis der komplexen Wechselwirkungen innerhalb dieser Systeme noch unzureichend ist.

Das zentrale Anliegen der mathematischen KI-Forschung besteht daher nicht darin, etwas prinzipiell Verborgenes sichtbar zu machen, sondern die vorhandenen Strukturen so zu analysieren, dass ihre Funktionsweise erklärbar wird. Dies betrifft insbesondere Fragen der Generalisierung, der Stabilität gegenüber Störungen und der Interpretierbarkeit von Entscheidungen. Ein tieferes mathematisches Verständnis soll hier gewissermaßen Licht in die Struktur bringen, ohne dass ein ontologisches Geheimnis aufgelöst werden müsste.

Intelligenz zwischen Mathematik und physischer Realisierung

Die Charakterisierung neuronaler Netze als mathematische Funktionsklassen legt nahe, künstliche Intelligenz primär als mathematisches Phänomen zu begreifen. Daraus ergibt sich eine weiterführende Frage: Reicht eine vollständige mathematische Beschreibung aus, um Intelligenz zu verstehen, oder verweist sie auf Aspekte, die über reine Struktur hinausgehen?

Diese Problematik berührt die Beziehung zwischen abstrakter Form und physischer Realisierung. Wenn intelligente Systeme im Kern durch mathematische Strukturen bestimmt sind, könnte ihre konkrete Implementierung – etwa in biologischen oder künstlichen Trägern – als sekundär erscheinen. Gleichzeitig bleibt fraglich, ob mathematische Modelle nicht lediglich eine Beschreibung liefern, ohne das Phänomen selbst vollständig zu erfassen. In diesem Spannungsfeld bewegt sich die gegenwärtige Diskussion um die Natur von Intelligenz.

Offene Probleme und der Stand der mathematischen KI-Forschung

Trotz der enormen Fortschritte im Bereich des Deep Learning ist das theoretische Verständnis neuronaler Netze weiterhin lückenhaft. Kutyniok weist darauf hin, dass zentrale Fragen bislang unbeantwortet sind, insbesondere im Hinblick auf die Generalisierungsfähigkeit, die Rolle von Datenstrukturen und die Dynamik von Trainingsprozessen.

Diese Situation erinnert in gewisser Weise an frühere Phasen der Physik, in denen leistungsfähige Modelle existierten, bevor eine konsistente theoretische Grundlage entwickelt wurde. Es ist daher plausibel anzunehmen, dass die KI-Forschung vor der Entwicklung neuer mathematischer Konzepte steht, die über die bisherigen Werkzeuge hinausgehen und eine systematischere Erklärung ermöglichen.

Grenzen der Berechenbarkeit und neue Rechenparadigmen

Ein weiterer zentraler Aspekt betrifft die prinzipiellen Grenzen digitaler Berechenbarkeit. Kutyniok betont, dass es Probleme gibt, die auf klassischer Hardware grundsätzlich nicht lösbar sind. Diese Einsicht knüpft an grundlegende Resultate der theoretischen Informatik an und verweist auf die Möglichkeit, dass auch künstliche Intelligenz durch mathematische Grenzen eingeschränkt ist.

In diesem Kontext gewinnen alternative Rechenparadigmen an Bedeutung. Neuromorphe Systeme, analoge Verfahren oder biologisch inspirierte Ansätze könnten Wege eröffnen, die über die klassischen Grenzen digitaler Berechnung hinausführen. Gleichzeitig stellt sich die Frage, ob solche Entwicklungen nicht auch neue mathematische Begriffe erfordern, um adäquat beschrieben werden zu können. Die Wechselwirkung zwischen Hardware, Algorithmik und mathematischer Theorie wird damit zu einem zentralen Forschungsfeld.

Zuverlässigkeit, Optimierung und Erklärbarkeit

Ein zentrales Anliegen der mathematischen KI-Forschung ist die Verbesserung der Zuverlässigkeit und Robustheit von Modellen. Viele aktuelle Systeme zeigen eine hohe Leistungsfähigkeit, sind jedoch anfällig für kleine Störungen oder unerwartete Eingaben. Kutyniok argumentiert, dass nachhaltige Fortschritte in diesem Bereich nur durch ein vertieftes mathematisches Verständnis möglich sind.

Besonders hervorzuheben ist die Interpretation neuronaler Entscheidungen als Optimierungsprobleme. Diese Perspektive ermöglicht es, Entscheidungsprozesse systematisch zu analysieren und potenziell transparenter zu machen. Erklärbarkeit erscheint hier nicht als nachträgliche Ergänzung, sondern als integraler Bestandteil einer mathematisch fundierten Theorie.

Struktur, Dynamik und die philosophische Dimension der KI

Die Beschreibung neuronaler Netze als mathematische Strukturen führt zu weitergehenden philosophischen Überlegungen. Sie steht in der Nähe von Positionen des Strukturenrealismus, denen zufolge wissenschaftliche Erkenntnis primär die Struktur der Welt erfasst. In diesem Licht könnte die KI-Forschung als ein paradigmatisches Beispiel einer strukturellen Wissenschaft verstanden werden.

Gleichzeitig wird deutlich, dass neuronale Netze nicht nur statische Strukturen sind, sondern dynamische Systeme, die sich durch Training und Anpassung kontinuierlich verändern. Intelligenz erscheint damit nicht als festes Objekt, sondern als Prozess, der durch mathematisch beschreibbare Dynamiken geprägt ist. Die Verbindung von Struktur und Prozess wird so zu einem zentralen Aspekt eines umfassenderen Verständnisses von KI.

Künstliches Bewusstsein und die Grenzen mathematischer Erklärung

Die Frage nach künstlichem Bewusstsein bildet einen Grenzbereich der Diskussion. Wenn Intelligenz mathematisch modellierbar ist, liegt die Vermutung nahe, dass auch Bewusstsein in ähnlicher Weise beschrieben werden könnte. Gleichzeitig bleibt unklar, ob subjektive Erfahrung überhaupt in mathematischen Begriffen erfasst werden kann.

Hier zeigt sich eine mögliche Grenze der mathematischen Perspektive. Während Verhalten und Informationsverarbeitung präzise modelliert werden können, stellt sich die Frage, ob dies bereits eine Erklärung von Bewusstsein darstellt oder lediglich eine funktionale Beschreibung. Die Debatte bleibt an dieser Stelle offen und verweist auf grundlegende Probleme der Philosophie des Geistes.

Mathematik als Perspektive auf den Geist

Das Gespräch mit Gitta Kutyniok verdeutlicht, dass die mathematische Analyse künstlicher Intelligenz weit über technische Fragestellungen hinausreicht. Sie berührt grundlegende Fragen nach der Natur von Intelligenz, der Rolle von Struktur und Prozess sowie den Möglichkeiten und Grenzen wissenschaftlicher Erklärung.

Ob Intelligenz letztlich vollständig als mathematische Struktur verstanden werden kann, bleibt eine offene Frage. Sicher ist jedoch, dass die Mathematik eine zentrale Rolle dabei spielt, die theoretischen Grundlagen der KI zu klären und damit unser Verständnis von Intelligenz nachhaltig zu verändern.

Interviewfragen: Ist Intelligenz eine mathematische Struktur? – Zoomposium mit Prof. Dr. Gitta Kutyniok

0. Einleitung

Frau Professor Kutyniok, Sie sind eine der international führenden Mathematikerinnen im Bereich der mathematischen Grundlagen der Künstlichen Intelligenz und Inhaberin eines Bavarian AI Chair für Mathematical Foundations of Artificial Intelligence an der LMU München. Ihre Arbeiten verbinden klassische Gebiete der modernen Mathematik – wie Approximationstheorie, harmonische Analysis und Optimierung – mit den grundlegenden Problemen der künstlichen Intelligenz.

Im Zentrum Ihrer Forschung steht die Frage, wie neuronale Netze mathematisch verstanden werden können und welche neuen mathematischen Methoden notwendig sind, um KI-Systeme zuverlässiger, effizienter und erklärbarer zu machen. Sie betonen dabei häufig, dass neuronale Netze keine mysteriösen Black Boxes sind, sondern mathematisch beschreibbare Strukturen:

„Neural networks are structured function classes.“

Diese Perspektive legt nahe, dass künstliche Intelligenz nicht nur ein technisches Phänomen ist, sondern auch eine grundlegende philosophische Frage aufwirft: Wenn Intelligenz mathematisch beschreibbar ist, stellt sich die Frage, ob sie vielleicht selbst eine mathematische Struktur darstellt.

Wir möchten mit Ihnen deshalb über die mathematischen Grundlagen der KI sprechen – aber auch über die philosophischen Konsequenzen dieser Forschung.

Was ist in der Black Box?

Sie haben Deep-Learning-Modell schon als „Black Box“ bezeichnet, manche reden gar von „Alchemie“. (Can we open the Black Box of Deep Neural Networks?). Lassen Sie uns zum Einstieg ein wenig über diese Box reden.

• Zugespitzt gefragt: Was ist an der Box eigentlich schwarz? Wir wissen doch genau was drin ist: Mathematik älteren Datums (Lineare Algebra, Wahrscheinlichkeitstheorie, Statistik, Gradientenverfahren, neuronale Netze,…) in einer neueren Architektur.

• Welche Art von Licht wollen sie in die Black Box bringen? Welche Fragen sollen sich mit Hilfe eines theoretischen Verständnisses beantworten lassen? Könnten Sie dies anhand eines Beispiels erläutern?

Mathematik und Intelligenz

Sie haben neuronale Netze als mathematisch strukturierte Funktionsklassen beschrieben:

„Neural networks are structured function classes.“

Diese Beschreibung scheint nahe zu legen, dass künstliche Intelligenz im Kern ein mathematisches Phänomen ist.

• Würden Sie sagen, dass moderne KI-Systeme im Wesentlichen mathematische Objekte sind – oder geht ihre Natur über mathematische Strukturen hinaus?

• Ist es denkbar, dass eine vollständige mathematische Theorie neuronaler Netze auch eine Theorie der Intelligenz darstellen könnte?

• Könnte Mathematik eine Brücke zwischen physischer Realisierung und intelligentem Verhalten bilden?

Stand der mathematischen KI-Forschung

Sie haben darauf hingewiesen, dass unser theoretisches Verständnis neuronaler Netze noch unvollständig ist:

„There remain important gaps in our understanding of deep neural networks.“

• Wo sehen Sie heute die größten offenen mathematischen Probleme in der KI-Forschung?

• Welche neuen mathematischen Methoden erscheinen Ihnen derzeit besonders vielversprechend?

• Glauben Sie, dass sich langfristig eine einheitliche mathematische Theorie künstlicher Intelligenz entwickeln wird?

• Sehen Sie Parallelen zwischen der heutigen Situation der KI und früheren Phasen der Physik, in denen neue mathematische Begriffe entstanden sind?

Berechenbarkeit und ihre Grenzen

Sie haben betont, dass bestimmte Probleme prinzipielle Grenzen digitaler Berechenbarkeit aufweisen:

„Some problems are not computable at all … on digital hardware.“

Diese Einsicht erinnert an klassische Ergebnisse der Theorie der Berechenbarkeit.

• Welche Rolle spielen prinzipielle Grenzen der Berechenbarkeit in Ihrer Forschung?

• Glauben Sie, dass künstliche Intelligenz fundamentale mathematische Grenzen besitzt?

• Sehen Sie eine Verbindung zwischen den Grenzen digitaler Berechnung und klassischen Ergebnissen wie den Unvollständigkeitssätzen Gödels?

• Könnten neue Formen des Rechnens – etwa analoge oder neuromorphe Systeme – solche Grenzen teilweise überwinden?

Neue Paradigmen des Rechnens

In Ihren Arbeiten zu „Next Generation AI Computing“ betonen Sie die Bedeutung neuer Hardware- und Rechenparadigmen.

• Welche Rolle spielt Mathematik bei der Entwicklung neuer KI-Hardware?

• Werden neue Rechenparadigmen auch neue mathematische Begriffe erfordern?

• Halten Sie neuromorphes Computing für einen grundlegenden Paradigmenwechsel oder eher für eine technische Erweiterung bestehender Methoden?

Zuverlässigkeit und Erklärbarkeit

Ein zentraler Schwerpunkt Ihrer Arbeit ist die Entwicklung zuverlässiger KI-Systeme.

Sie haben darauf hingewiesen:

„AI models lack robustness and reliability.“

• Welche mathematischen Methoden sind besonders wichtig, um KI-Systeme zuverlässiger zu machen?

• Ist mathematische Theorie die wichtigste Voraussetzung für vertrauenswürdige KI?

• Glauben Sie, dass echte Erklärbarkeit nur durch ein mathematisches Verständnis neuronaler Netze möglich ist?

Sie haben vorgeschlagen, neuronale Entscheidungen als Optimierungsprobleme zu interpretieren:

„Interpreting neural network decisions as an optimization problem.“

• Kann diese Perspektive dazu beitragen, KI-Systeme verständlicher zu machen?

Strukturenrealismus und KI

Ihre Arbeiten beschreiben neuronale Netze als mathematische Strukturen. Diese Perspektive erinnert an philosophische Positionen, die wissenschaftliche Erkenntnis als Erkenntnis von Strukturen interpretieren.

• Würden Sie sagen, dass künstliche Intelligenz ein Beispiel für eine strukturelle Wissenschaft ist?

• Könnte man KI-Forschung als eine Art mathematischen Strukturenrealismus verstehen?

• Wenn neuronale Netze mathematische Strukturen sind – welche Rolle spielt dann ihre physische Realisierung?

• Ist die Hardware letztlich nur Träger einer mathematischen Struktur?

Diese Fragen führen zu einer grundlegenden ontologischen Zuspitzung:

• Könnte es sein, dass mathematische Strukturen fundamentaler sind als materielle Systeme?

Dynamik und Prozesse

Neuronale Netze sind nicht nur Strukturen, sondern auch dynamische Systeme (Training, Anpassung, Optimierung, Lernen)

Diese Eigenschaften legen nahe, KI als Prozess zu verstehen.

• Würden Sie sagen, dass künstliche Intelligenz eher als dynamischer Prozess als als statisches System verstanden werden sollte?

• Welche Rolle spielt die Mathematik dynamischer Systeme in Ihrer Forschung?

• Könnte die Zukunft der KI stärker in kontinuierlichen dynamischen Modellen liegen als in diskreten symbolischen Systemen?

Alternative mathematische Grundlagen

Die heutige KI basiert stark auf linearer Algebra, Optimierung und Analysis. Andere mathematische Systeme spielen bislang kaum eine Rolle.

• Halten Sie es für möglich, dass zukünftige KI-Systeme neue mathematische Grundlagen benötigen?

• Könnten alternative Logiken oder neue mathematische Strukturen langfristig relevant werden?

• Gibt es heute bereits mathematische Ansätze, die Sie für besonders zukunftsträchtig halten?

Künstliches Bewusstsein

Eine der grundlegendsten Fragen der KI betrifft das Bewusstsein. Wenn Intelligenz mathematisch beschrieben werden kann, stellt sich die Frage nach dem Status mentaler Phänomene.

• Glauben Sie, dass mathematische Modelle eines Tages Bewusstsein erklären könnten?

• Sehen Sie prinzipielle Grenzen für eine mathematische Theorie des Bewusstseins?

• Könnte Bewusstsein selbst als mathematische Struktur verstanden werden?

Abschließende Perspektive

Zum Abschluss möchten wir noch einmal auf die grundlegende Perspektive Ihres Forschungsfeldes zurückkommen. Ihre Arbeiten legen nahe, dass künstliche Intelligenz nicht nur ein technisches Gebiet ist, sondern auch eine neue Form mathematischer Naturerkenntnis.

• Glauben Sie, dass die Mathematik der KI unser Verständnis von Intelligenz grundlegend verändern wird?

• Könnte künstliche Intelligenz langfristig zu einer neuen mathematischen Theorie des Geistes führen?

• Und noch einmal zugespitzt gefragt: Ist Intelligenz letztlich eine mathematische Struktur – oder mehr als das?

Das Interview ist unter folgendem Link auf unserem Youtube-Kanal „Zoomposium“ zu sehen:

https://youtu.be/SbLf8oBAv90