Neuro-symbolische KI – Warum die Zukunft künstlicher Intelligenz mehr als Daten braucht

Neuro-symbolische KI und die Architektur des Verstehens: Warum das Paradigma des Daten-Empirismus an seine Grenzen stößt

Die aktuelle Debatte über die Zukunft der Künstlichen Intelligenz wird von einer faszinierenden Illusion beherrscht: Der Annahme, dass eine bloße Hochskalierung statistischer Sprachmodelle (Large Language Models) schrittweise zu einer echten Künstlichen Allgemeinen Intelligenz (AGI) führen würde.

Doch das Gespräch im Zoomposium mit Prof. Dr. Artur d’Avila Garcez macht überzeugend deutlich, dass dieser rein datengetriebene Ansatz in eine epistemologische Sackgasse steuert. Artur d’Avila Garcez ist Professor für Informatik und Direktor des Research Centre for Machine Learning an der City St George’s, University of London.

Als einer der weltweit führenden Pioniere auf dem Gebiet der künstlichen Intelligenz schlägt er seit über zwei Jahrzehnten die Brücke zwischen Informatik, mathematischer Logik, Kognitionswissenschaft und Philosophie des Geistes. Seine Forschungsschwerpunkte konzentrieren sich auf die neuro-symbolische KI, das maschinelle Lernen, die symbolische Wissensrepräsentation sowie die Erklärbarkeit künstlicher Systeme (Explainable AI).

Während der heutige KI-Mainstream vor allem auf riesige Datenmengen (Big Data) vertraut, untersucht Garcez grundlegend, wie neuronale Netze und logisches Schließen in einer gemeinsamen Architektur verschmolzen werden können. Statistisches Lernen allein erzeugt zwar verblüffende Oberflächenphänomene, lässt aber die essenziellen Säulen echter Intelligenz vermissen – explizites Weltwissen, logische Schlussfolgerung, kausale Modellierung und semantische Struktur.

Vom Mustererkennen zum logischen Schließen: Die Notwendigkeit der Synthese

Neuronale Netze sind herausragend in der Mustererkennung und Wahrnehmung. Sie berechnen Korrelationen und Wahrscheinlichkeiten über gigantische Datenmengen hinweg. Doch Korrelation ist nicht Kausalität, und das Generieren einer syntaktisch plausiblen Wortfolge ist noch lange kein logisches Argumentieren.

Heutige Sprachmodelle berechnen im Wesentlichen, welches Wort mit welcher Wahrscheinlichkeit auf das vorherige folgt. Wie Garcez betont, bleiben rein statistische Systeme ohne symbolische Wissensrepräsentation im Grunde blind. Sie besitzen kein internes, widerspruchsfreies Weltmodell und können daher zwar überraschende Antworten liefern, scheitern jedoch regelmäßig an trivialen logischen Ableitungen, neigen zu Halluzinationen und lassen jede mathematische Transparenz vermissen.

Die neuro-symbolische KI, die Garcez als wegweisende Dritte Welle der Künstlichen Intelligenz beschreibt, setzt genau an dieser Schnittstelle an. Sie versteht maschinelles Lernen und symbolische Logik nicht als gegensätzliche Paradigmen, sondern als komplementäre Funktionsmodi einer integrierten Gesamtarchitektur.

Während neuronale Netze für die Wahrnehmung, Anpassung und statistische Intuition zuständig sind, übernehmen symbolische Strukturen die Aufgabe, das Gelernte zu ordnen, Kausalbeziehungen abzubilden, logisch zu validieren und in nachvollziehbarer Form zu repräsentieren. Erst durch diese mathematische Kopplung entsteht ein System, das nicht nur statistische Muster erkennt, sondern echte Bedeutung verarbeitet und verifizierbare Schlussfolgerungen zieht.

Das Problem der Erklärbarkeit: Die Entzauberung der Black Box

Ein zentrales Dilemma der heutigen Deep-Learning-Praxis liegt in der berüchtigten Black Box. Wenn ein neuronales Netz Milliarden oder gar Billionen von Parametern anpasst, ist selbst für dessen Entwickler kaum nachvollziehbar, auf welchen Pfaden eine konkrete Entscheidung zustande kommt.

Für kritische Anwendungsbereiche in Medizin, Recht, Finanzwesen oder autonomen Systemen ist dieser Zustand inakzeptabel. Erklärbarkeit ist kein technisches Luxusfeature, sondern eine grundlegende epistemische Voraussetzung für wissenschaftliche Nachvollziehbarkeit, ethische Verantwortung und gesellschaftliches Vertrauen.

Neuronale Netze enthalten zweifellos immenses implizites Wissen, das in den komplexen Gewichtungsmatrizen verborgen liegt. Durch die Extraktion symbolischen Wissens aus diesen neuronalen Strukturen zeigt die neuro-symbolische KI einen Ausweg aus der Transparenzkrise.

Indem implizite Gewichtungen mathematisch in explizite, logische Regelsysteme überführt werden, verwandelt sich die unstatthafte Black Box in ein überprüfbares, nachvollziehbares System. Erklärbarkeit bedeutet hierbei die Rückkehr zur Semantik: Ein intelligenter Agent muss in der Lage sein, die logischen Schritte seines Handelns oder Schließens auf Verlangen strukturiert darzulegen und Gegenproben zu bestehen.

Mehrwertige Logiken und Polykontexturalität: Erweiterung des Rationalitätsbegriffs

Besonders anregend für die wissenschaftstheoretische Debatte sind Garcez‘ Arbeiten zur Einbettung modal- und kontextlogischer Operatoren direkt in konnektionistische Architekturen. Wenn künstliche Systeme in komplexen, dynamischen und widersprüchlichen Welten agieren sollen, reicht das starre Schema der klassischen zweiwertigen Logik mit ihren binären Wahrheitswerten von wahr und falsch nicht mehr aus. Das Denken in realen Kontexten verlangt nach Flexibilität, Unsicherheitsbewältigung, Zeitbezug und dem fließenden Wechsel zwischen unterschiedlichen Betrachtungsebenen.

Hier schlagen die Forschungsfragen eine Brücke zu transklassischen Denkmodellen wie der Polykontexturalität Gotthard Günthers. Intelligenz kann in diesem erweiterten Rahmen als ein dynamisches Wechseln zwischen verschiedenen logischen Kontexten verstanden werden.

Ein zukunftsfähiges neuro-symbolisches System müsste demnach in der Lage sein, simultan in unterschiedlichen Kontexturen zu operieren, in denen eine Variable je nach Systemebene als Steuerungseinheit (Operator) oder als Datenstruktur (Operand) fungiert. Damit öffnet sich die Informatik für eine mathematisch fundierte neue Theorie der rationalen Kognition.

Intelligenz als dynamischer Prozess: Synergien mit der Prozessphilosophie

Intelligenz erweist sich in der neuro-symbolischen Perspektive nicht als ein statisches Regelwerk oder ein festgefügter Algorithmus, sondern als ein kontinuierlicher, selbstrekursiver Prozess. Das Zusammenspiel von Wahrnehmung, kontinuierlichem Lernen, symbolischer Abstraktion, Selbstbeobachtung und logischer Validierung bildet ein dynamisches Ökosystem.

Diese Sichtweise weist eine tiefgreifende Verwandtschaft mit prozessphilosophischen Entwürfen auf, wie sie etwa von Alfred North Whitehead oder in der modernen Systemtheorie formuliert wurden. Intelligenz ist kein statisches Objekt, das man besitzt oder eins zu eins im Computer nachbaut, sondern ein Ereignisgefüge, das sich im ständigen Austausch mit der Umwelt konstituiert.

Wenn eine zukünftige AGI jemals Agency – also echte Handlungsfähigkeit, Zielgerichtetheit und ein autonomes Selbst- und Weltmodell – entwickeln sollte, dann nicht als reines Softwareprodukt auf einem Server, sondern als ein situierter, rückgekoppelter Prozess zwischen Wahrnehmungsdaten und logischen Bedeutungsstrukturen.

Die Zukunft liegt in der Struktur

Das Gespräch mit Prof. Dr. Artur d’Avila Garcez macht deutlich, dass der wahre Meilenstein auf dem Weg zu einer verantwortungsvollen und vertrauenswürdigen Künstlichen Intelligenz nicht in noch größeren Datensätzen oder mächtigeren Rechenzentren zu suchen ist. Das Paradigma des reinen Daten-Empirismus stößt an seine natürlichen Grenzen.

Die Zukunft gehört hybriden Architekturen, die das Beste aus beiden Welten vereinen: Die Lernfähigkeit, Robustheit und Adaptivität neuronaler Netze verbunden mit der Präzision, Erklärbarkeit, Kausalität und Semantik symbolischer Logik. Das Experiment KI kehrt damit zu seiner philosophischen Wurzel zurück: Wahres Denken entspringt nicht der reinen Statistik, sondern der Struktur, die Daten erst mit Bedeutung erfüllt. Inwiefern dieser epistemische Innenraum schon der erste Schritt in Richtung Künstliches Bewusstsein ist, soll noch dahingestellt bleiben.

Das vollständige Interview in englischer Sprache ist hier zu finden: https://youtu.be/D2eHQlifeMA

Interview Questions Zoomposium with Prof. Dr. Artur d’Avila Garcez: „Neuro-symbolic AI, Logic, and the Future of Artificial Intelligence“

Introduction

Dear Professor Garcez,

You are among the internationally leading researchers in the field of neuro-symbolic artificial intelligence, and for many years you have been addressing the question of how neural networks can be combined with symbolic reasoning, logic, and knowledge representation. Your work lies at the intersection of machine learning, philosophy of mind, logic, cognitive modeling, and explainable AI.

While today’s AI systems are often based on data-driven deep learning, you argue that general artificial intelligence cannot emerge from statistical pattern recognition alone, but requires a combination of learning and reasoning:

“The integration of learning and reasoning is one of the central challenges of AI.”

In your work on neuro-symbolic AI, you argue that neural networks and symbolic systems should not be seen as opposites, but rather as complementary aspects of intelligent systems.

Today, we would like to discuss with you the future of AI — logic, meaning, consciousness, explainability, and the question of whether future AGI might develop new forms of thinking and rationality.

The Crisis of Purely Data-Driven Deep Learning

In recent years, large language models have achieved enormous progress. At the same time, it is often criticized that these systems may be statistically impressive, but lack genuine understanding.

You write:

“Current AI systems still struggle with reasoning, abstraction and explainability.”

• Today’s LLMs can produce answers that appear like logical reasoning. From a scientific perspective, how can we distinguish whether a system is truly reasoning — or merely generating plausible language patterns?
• Where do you see the fundamental limitations of current deep learning systems?
• Is scaling alone sufficient to produce general intelligence?
• Why is the ability to reason logically, in your view, indispensable for AGI?
• Are we possibly in a situation similar to early AI research before the “AI winter,” but with vastly greater computational power?

Neuro-symbolic AI – the “Third Wave”?

In several of your works, you describe neuro-symbolic AI as a possible “third wave of AI.”

“Neurosymbolic AI aims at combining the robustness of learning with the power of reasoning.”

• What exactly do you mean by neuro-symbolic AI?
• Why do you consider the combination of neural networks and symbolic logic necessary?
• Could one say that deep learning without symbolic structures ultimately remains “blind”?
• Which aspects of human cognition, in your view, cannot yet be satisfactorily explained by purely statistical systems?

Learning and Meaning

One of the great philosophical questions in AI is how meaning can emerge from mere statistics.

You often emphasize the importance of knowledge representation and semantic structures:

“Reasoning requires structured representations.”

• Can meaning arise from statistical correlations alone?
• Does true intelligence always require some form of semantic or symbolic structure?
• How would you distinguish between pattern recognition and understanding?
• Is meaning ultimately relational, logical, or embodied?
• How does such reasoning differ mathematically and architecturally from today’s large language models?

Logic, Many-Valuedness, and New Rationality

A fascinating aspect of your research is the connection between neural networks and non-classical logic and modalities.

In your work on connectionist modal logic, you attempt to embed logical operators directly into neural architectures.

• Is classical two-valued logic sufficient to model complex intelligence at all?
• Could future AI systems operate with many-valued or context-dependent logics?
• Do you see a connection between neuro-symbolic AI and philosophical concepts such as Gotthard Günther’s polycontexturality?
• Could intelligence itself be understood as a dynamic switching between different logical contexts?

Explainable AI and the Black Box

A central problem in today’s AI is that neural networks are often hardly interpretable.

You have early on worked on methods for extracting symbolic knowledge from neural networks:

“Knowledge extraction can help bridge the gap between learning and reasoning.”

• Why is explainability so central for the next generation of AI systems?
• Can neural networks contain “implicit knowledge”?
• Is the AI black box a technical problem — or a fundamental epistemic one?
• Does explainable AI ultimately imply a return to symbolic structures?
• Are there tests or criteria that distinguish apparent reasoning from robust, transferable, and verifiable reasoning?

Dynamics, Emergence, and Process Ontology

Your work often describes intelligence not as a static rule system, but as a dynamic process between learning, adaptation, and reasoning.

• Would you say intelligence is more a process than an object?
• What role do emergence and self-organization play in intelligent systems?
• Could future AGI resemble a dynamic ecosystem rather than a classical machine?
• Is the future of AI more likely to lie in recursive process architectures than in fixed models?

Neuro-symbolic AI and Consciousness

The integration of learning, world modeling, and symbolic thinking also raises the question of artificial consciousness.

• Do you consider consciousness to be, in principle, modelable?
• Could an AGI develop an internal self-model?
• Is reasoning sufficient for consciousness — or is something fundamentally missing in current AI systems?
• What role do embodiment and environmental interaction play?

AI, Agency, and Autonomous Systems

Increasingly, autonomous systems with their own decision-making processes are emerging.

• What distinguishes an autonomous system from mere automation?
• Does genuine agency require internal models of both world and self?
• Can neuro-symbolic systems produce more robust and responsible autonomous agents?
• What risks do you see in purely data-driven autonomous systems?

Philosophy, Mathematics, and Reality

Your work connects computer science with fundamental philosophical questions about rationality, knowledge, and structure.

• Is intelligence ultimately a mathematical structure?
• Could AI research lead to a new theory of rational cognition?
• Do you see a connection between neuro-symbolic AI and structural realism?
• Could the future of AI also bring new philosophical concepts of mind and reality?

Final Perspective

To conclude, we would like to return once more to the future of AI:

• What, in your view, is the greatest mistake in current AI research?
• What properties would a future AGI need in order to truly qualify as “intelligent”?
• Do you believe neuro-symbolic AI could eventually become the dominant paradigm?
• And, finally, in a more pointed formulation: Does true intelligence emerge from data — or from structure?

We sincerely thank you, Professor Garcez, for taking the time for this conversation.

Text: KI-generiert, Idee/Konzepte/Umsetzung: NI-generiert (NI = „natürliche Intelligenz“ oder so etwas Ähnliches 😉