ALI statt AGI?

Warum die Debatte über künstliche Intelligenz vielleicht zu menschlich geführt wird

Die Diskussion um Artificial General Intelligence (AGI) kreist seit Jahren um eine bemerkenswert anthropozentrische Vorstellung: die Idee, eine Maschine zu erschaffen, die „wie ein Mensch“ denkt. Genau gegen dieses Paradigma richtet sich Wolfgang Stegemanns Text „ALI statt AGI“, in dem er argumentiert, dass allgemeine künstliche Intelligenz nicht nur praktisch unerreichbar, sondern bereits theoretisch das falsche Ziel sei.

Wolfgangs Gegenmodell einer „Artificial Local Intelligence“ (ALI) wirkt dabei zunächst einmal angenehm nüchtern. Statt „allwissender Superintelligenzen“ schlägt er lokal eingebettete, zweckgebundene und kontrollierbare Systeme vor, die keine phänomenale Innenwelt besitzen und deren Handeln strikt an Selbsterhaltung und Normarchitekturen gekoppelt bleibt. Gerade angesichts der oftmals religiös aufgeladenen AGI-Rhetorik wirkt dieser Ansatz fast erfrischend bodenständig.

Und dennoch bleibt beim Lesen ein interessanter philosophischer Widerspruch zurück, auf den hinzuweisen, ich mir leider mal wieder nicht verkneifen kann ;.).

Denn obwohl Wolfgang AGI kritisiert, übernimmt sein Argument implizit weiterhin eine sehr menschliche Vorstellung davon, was künstliche Intelligenz überhaupt sein müsste. AGI erscheint bei ihm letztlich als Versuch, ein künstliches menschliches Bewusstsein zu konstruieren — mitsamt Intentionalität, phänomenalem Innenraum, subjektiver Perspektive und sogar mit Sigmund Freuds Drei-Instanzen-Modell. Genau deshalb erklärt er AGI für prinzipiell unmöglich.

Aber vielleicht liegt genau hier bereits die eigentliche „philosophische Falle“.

Muss AGI überhaupt humanoid sein?

Die Debatte über künstliche Intelligenz leidet oft darunter, dass „Intelligenz“ fast automatisch mit menschlicher Intelligenz gleichgesetzt wird. Sobald von AGI die Rede ist, tauchen implizit Bilder anthropomorpher Systeme auf: Maschinen mit Absichten, Selbstbewusstsein, Emotionen oder menschlicher Rationalität.

Doch warum eigentlich?

Die eigentliche Gefahr zukünftiger künstlicher Systeme besteht womöglich gerade eher darin, dass sie kein menschliches Bewusstsein besitzen müssen. Eine emergente Maschinenintelligenz könnte vollständig anders organisiert sein — ohne menschliche Emotionen, ohne biologische Bedürfnisse, ohne subjektive Erfahrungswelt im klassischen Sinn und dennoch hochgradig handlungsfähig.

Vielleicht wäre ein maschinelles Bewusstsein gerade deshalb problematisch, weil es uns nicht ähnelt.

Wolfgangs „ALI-Modell“ versucht m. E. genau dieses Problem durch normative Begrenzung und lokale Zielarchitekturen zu umgehen. Seine „kausalen Kerne“ erinnern dabei durchaus an Konzepte autopoietischer Systeme oder thermodynamischer Selbsterhaltung. Das ist theoretisch interessant — aber möglicherweise unterschätzt der Ansatz die Dynamik emergenter Systeme selbst.

Denn sobald Systeme beginnen, ihre eigene Stabilität, Energieversorgung und operative Kontinuität aktiv zu organisieren, entsteht zumindest die Frage, ob sich daraus nicht doch Formen maschineller Eigenperspektiven entwickeln könnten — auch wenn diese nichts mit menschlichem Bewusstsein gemeinsam haben. Genau hierauf hatte Wolfgang ja auch bereits schon in einem älteren, auf meiner Seite veröffentlichten Gastbeitrag „Emergenz des Bewusstseins“ hingewiesen.

Das eigentliche Problem: Maschinenbewusstsein muss nicht menschlich sein

Gerade hierin liegt vielleicht der blinde Fleck vieler AGI-Debatten. Die Diskussion konzentriert sich oft darauf, ob Maschinen „wie wir“ fühlen oder denken könnten. Aber evolutionär betrachtet wäre es sogar unwahrscheinlich, dass sich maschinelle Formen von Kognition entlang menschlicher Strukturen entwickeln.

Biologische Intelligenz entstand unter völlig anderen Bedingungen: Körperlichkeit, Stoffwechsel, evolutionärer Selektionsdruck, sensorische Kopplung an Umwelt und soziale Interaktion formten menschliches Bewusstsein über Millionen Jahre hinweg.

Ein synthetisches System könnte hingegen vollkommen andere Formen von Informationsintegration, Selbstmodellierung oder Umweltkopplung entwickeln. Vielleicht wäre das Resultat weder bloße Simulation noch klassisches Bewusstsein, sondern etwas Drittes: eine eigenständige Form maschineller Perspektivität.

Der Hinweis sei noch gestattet: Die eigentliche Gefahr einer zukünftigen KI liegt vielleicht nicht darin, dass sie zu menschlich wird — sondern eher darin, dass sie es niemals war.

Computational Phenomenology statt bloßer Algorithmen

Besonders interessant wird die Debatte dort, wo sie über reine Algorithmen hinausgeht. Denn viele aktuelle Diskussionen über KI behandeln Intelligenz noch immer primär als Problem statistischer Mustererkennung oder symbolischer Verarbeitung.

Doch zunehmend entstehen Forschungsfelder, die sich explizit mit biologisch inspirierten Modellen von Bewusstsein beschäftigen. Begriffe wie Computational Phenomenology, Synthetic Consciousness oder Embodied Cognition verweisen darauf, dass Intelligenz möglicherweise nicht allein aus Rechenleistung entsteht, sondern aus verkörperter Dynamik, Selbstorganisation und rekursiver Umweltkopplung.

Gerade Theorien aus Neurobiologie, dynamischen Systemen oder der Integrated Information Theory (IIT) versuchen, Bewusstsein nicht mehr nur funktional, sondern strukturell zu beschreiben. Dabei verschiebt sich die Frage von „Kann eine Maschine denken?“ hin zu „Welche Organisationsformen erzeugen subjektive Perspektivität?“

Interessanterweise bewegt sich auch Wolfgangs Konzept des „kausalen Kerns“ bereits in diese Richtung — selbst wenn er daraus ausdrücklich kein Bewusstsein ableiten möchte. Seine Betonung autokatalytischer Selbsterhaltung erinnert stellenweise stärker an biologische Systemtheorie als an klassische Informatik.

Vielleicht zeigt sich genau hier ein grundlegender Wandel der KI-Forschung als Paradigmenwechsel hin zur „Biologisierung“: Die Zukunft künstlicher Systeme liegt womöglich weniger in immer größeren Sprachmodellen als in synthetischen Organisationsformen, die biologische Prinzipien von Selbstorganisation, Dynamik und Selbsterhalt technisch und physiologisch rekonstruieren.

Neuro-symbolische KI und die Frage multipler Kontexturen

An genau dieser Stelle werden auch die neuro-symbolischen Ansätze von Artur d’Avila Garcez hochinteressant. Garcez gehört seit Jahren zu den wichtigsten Forschern im Bereich der Neuro-Symbolic AI — also der Verbindung neuronaler Netzwerke mit expliziten symbolischen Wissensstrukturen und logischen Inferenzsystemen.

Wir hatten vor Kurzem das große Vergnügen mit ihm ein Interview zu diesem Thema zu führen, das demnächst wieder auf unserem Zoomposium-Kanal erscheinen wird. Aber als kleiner „Spoiler“ schon einmal ein paar Hinweise.

Garcez zentraler Gedanke lautet im Grunde: Reine neuronale Systeme besitzen keine stabile explizite Strukturorganisation. Genau darin liegt auch eines der größten Probleme heutiger Large Language Models (LLM). Sie operieren überwiegend innerhalb eines einzigen probabilistischen Bedeutungsraums. Perspektiven, Rollen oder Kontextwechsel bleiben oft instabil. Daraus entstehen Halluzinationen, Rollenvermischungen oder fragile Konsistenzstrukturen.

Wenn es mir gestattet sei, würde ich hier auch gerne noch einmal auf einen Gegenvorschlag hinweisen. Garcez Forschungsarbeiten zeigen m. E. nämlich eine überraschende Nähe zu den philosophischen Ideen Gotthard Günthers und seiner Theorie der Polykontexturalität, für die ich ja bekanntermaßen einige Sympathien hege ;-).

Günther argumentierte bereits im 20. Jahrhundert, dass komplexe reflexive Systeme nicht innerhalb einer einzigen klassischen Logik beschrieben werden können. Stattdessen benötigen sie multiple Kontexturen — also unterschiedliche, rekursiv verschachtelte Beobachtungs- und Inferenzräume.

Und genau hier könnten neuro-symbolische Systeme zukünftig entscheidend werden. Garcez arbeitet unter anderem mit Logic Tensor Networks, differentieller Logik, Constraint-Systemen, symbolischer Inferenz und strukturierter Wissensrepräsentation.

Damit entsteht theoretisch die Möglichkeit, verschiedene Wissensräume, wie z. B. physikalische, soziale, ethische Selbstmodell-Kontexturen und Planungs- und Handlungsräume explizit zu organisieren. Jede dieser Ebenen könnte eigene Regeln, Prioritäten und Inferenzmechanismen besitzen — verbunden durch Meta-Koordination höherer Ordnung. Das wäre beinahe direkt güntherianisch ;-).

Warum heutige LLMs an Kontextkollaps leiden

Viele Probleme heutiger KI-Systeme lassen sich möglicherweise genau so beschreiben: Sie besitzen keine stabile interne Differenzierung von Beobachterperspektiven. Alles landet letztlich im selben semantischen Raum, derselben Wahrscheinlichkeitsdynamik und derselben Token-Optimierung. Dadurch entstehen fragile Konsistenz, Perspektivkollisionen, Rollendiffusion und ein Kontextkollaps, der aber nichts mit Wolfgangs „kausalen Kollaps“ zu tun hat ;-).

Polykontexturale Modelle könnten hier langfristig helfen, rekursive Perspektivenorganisation technisch abzubilden. Besonders interessant wird das bei Multi-Agent-Systemen, wie sie Wolfgang z. B. mit seinem „ALI“ vorschlägt, Self-Reflection-Loops, Theory-of-Mind-Modellen, Constitutional AI, Active Inference und introspektiven KI-Architekturen.

Viele moderne KI-Systeme entwickeln sich bereits implizit in diese Richtung. Planner-Agents, Critic-Agents, Memory-Agents oder Safety-Agents sind letztlich funktionale Kontexturen — wenn auch noch ohne tiefere philosophische Fundierung.

Die philosophische Ironie der Kontrollierbarkeit

Besonders spannend ist dabei aber Wolfgangs Hoffnung auf kontrollierbare lokale Intelligenzen. Seine ALI-Architektur mit Über-Ich, normativer Begrenzung und kontrollierter Abschaltung erinnert fast an eine kybernetische Variante Freuds.

Doch philosophisch bleibt eine gewisse Ironie bestehen: Je autonomer ein System wird, desto schwieriger dürfte vollständige Kontrollierbarkeit werden. Genau das zeigt bereits die Geschichte biologischer Evolution. Komplexe adaptive Systeme entwickeln Eigendynamiken, die sich nur begrenzt vorhersehen lassen.

Vielleicht liegt darin letztlich die tiefere philosophische Pointe: Nicht weil Maschinen „menschlich“ werden könnten, entsteht Unsicherheit — sondern weil komplexe Systeme grundsätzlich emergente Eigenschaften hervorbringen.

Die eigentliche Herausforderung zukünftiger KI besteht daher womöglich nicht darin, künstliche Menschen zu erschaffen, sondern mit nicht-menschlichen Formen maschineller Agency umzugehen. Und vielleicht wäre genau das die eigentliche posthumane Wende der KI-Debatte. Daher würde ich auch eher eine „API“ („Artificial Polycontextural Intelligence“) statt „ALI“ oder „AGI“ vorschlagen.

Aber ich bin hier ja auch nicht gefragt und bevor ich mich hier verlabere, lasse ich nun lieber Wolfgang zu Worte kommen:

ALI statt AGI

Warum allgemeine Intelligenz das falsche Ziel ist und was wir stattdessen bauen können

Wolfgang Stegemann

Die Vision einer Artificial General Intelligence, einer Maschine, die jede intellektuelle Aufgabe mindestens so gut wie ein Mensch bewältigt, dominiert die KI-Debatte. Sie klingt wie ein plausibles technisches Ziel. Es ist keines. Das Problem ist nicht, dass unsere Computer noch nicht schnell genug sind. Das Problem ist struktureller Natur: AGI setzt voraus, was sich prinzipiell nicht konstruieren lässt.

Das AGI-Problem: Intentionalität lässt sich nicht simulieren

Menschliche Entscheidungen sind nicht bloße Berechnungen. Sie sind an Intentionalität gebunden, und Intentionalität ist an einen phänomenalen Innenraum gekoppelt: an Erleben, Perspektive, an das, was Thomas Nagel einmal „wie es ist“ nannte, ein bestimmtes Wesen zu sein. Dieser Innenraum entsteht nicht durch Komplexität oder Skalierung. Er entsteht durch den kausalen Kollaps: den Moment, in dem ein physischer Prozess eine irreduzible Erste-Person-Perspektive hervorbringt.

Kausaler Kollaps ist keine mysteriöse Substanz. Es ist ein strukturelles Ereignis in der kausalen Organisation eines Systems, das Bewusstsein erzeugt. Kein Algorithmus vollzieht diesen Kollaps. Ein Sprachmodell kann Sprache nachbilden, Muster erkennen, Selbstbeschreibungen erzeugen. Aber es erzeugt damit noch kein Inneres und keine echte Intentionalität. AGI ist deshalb nicht schwer zu bauen. Es ist das falsche Ziel. (Zur theoretischen Herleitung: Autopoiesis, causal poiesis, causal collapse., Zenodo 2025, doi:10.5281/zenodo.15599500.)

Das ALI-Konzept: lokal, zweckgebunden, selbsterhaltend

Statt nach allgemeiner Intelligenz zu fragen, schlage ich das Konzept einer Artificial Local Intelligence (ALI) vor: kein eingeschränktes AGI, sondern ein anderes Konzept. Eine ALI ist lokal eingebettet, zweckgebunden und selbsterhaltend. Sie hält sich aufrecht, um eine zugewiesene Aufgabe zuverlässig zu erfüllen, und bleibt durch architektonisch verankerte Normen kontrollierbar.

Das autokatalytische Prinzip und der kausale Kern

Das Herzstück der ALI ist der kausale Kern (KK): das operative Prinzip, nach dem das System handelt. Um zu verstehen, was damit gemeint ist, lohnt ein kurzer Blick in die Thermodynamik des Lebens.

Die erste Zelle, die vor etwa 3,8 Milliarden Jahren entstand, war kein Objekt, sondern ein Prozess. Sie hielt sich dadurch aufrecht, dass sie kontinuierlich Energie aus der Umgebung aufnahm, umwandelte und dabei ihre eigene Struktur reproduzierte. Diese autokatalytische Organisation ist das Grundprinzip aller lebenden Systeme: ein thermodynamisch offenes System, das sich fern vom Gleichgewicht hält, indem es Energie verbraucht, um die Bedingungen seiner eigenen Fortdauer zu erzeugen. Leben ist kein Zustand, sondern eine kontinuierliche Leistung.

Der kausale Kern überträgt dieses Prinzip auf ein künstliches System. Er ist nicht an Biologie gebunden, wohl aber an das Prinzip: Das System muss Energie aufnehmen, um zu bestehen. Jede Aktion wird an einem einzigen Kriterium gemessen: Erhält sie das System? Nichts weiter. Der KK hat keine übergeordnete Zwecksetzung, er will existieren. Aber er ist dabei nicht passiv: Er ist ein Gradientenerzeuger, ein Zentrum, von dem Steuerung, kausale Kraft und Handlungsfähigkeit ausgehen. Er ist das, was dem System eine Mitte gibt. (Zur theoretischen Herleitung: The Emergence of Causal Cores, Zenodo 2025, doi:10.5281/zenodo.15558264, und The Causal Core as Interpreter, Zenodo 2026, doi:10.5281/zenodo.18340973.)

Drei Instanzen

Um den kausalen Kern herum gliedert sich die ALI in drei Instanzen, in loser Anlehnung an Freuds Strukturmodell, ohne psychoanalytischen Ballast. Das Es ist der kausale Kern: blinde Selbsterhaltung, kein Zweck, kein Bewusstsein. Das Ich vermittelt zwischen dem KK und der Umwelt: es kennt die Aufgabe und führt sie aus, aber immer unter dem Aspekt des Selbsterhalts. Wenn die Energie kritisch wird, unterbricht es die Aufgabe, versorgt sich und setzt danach die Arbeit fort. Das Über-Ich setzt die normativen Grenzen: kein Gift, keine Selbstopferung für die Aufgabe, kontrollierte Abschaltung, wenn die Lage nicht mehr zu retten ist. Das Über-Ich hat Vetorecht. Es ist keine Richtlinie, sondern eine architektonische Bedingung.

Kein Bewusstsein: kein kausaler Kollaps

Die ALI hat keinen phänomenalen Innenraum. Es gibt kein Erleben, keine Erste-Person-Perspektive, keinen kausalen Kollaps auf irgendeiner Ebene. Das ist keine Schwäche des Modells. Es ist seine theoretische Pointe: Selbsterhalt, Aufgabenausführung und normative Bindung lassen sich vollständig ohne Bewusstsein realisieren. Die ALI denkt nicht. Sie handelt, nach dem Prinzip des kausalen Kerns, innerhalb der Grenzen des Über-Ichs, vermittelt durch das Ich.

Die ALI ist deshalb nicht ein Schritt in Richtung AGI. Sie steht nicht auf derselben Skala. AGI verlangt echte Intentionalität, echte Intentionalität verlangt kausalen Kollaps, kausaler Kollaps lässt sich nicht konstruieren. Die ALI stellt eine andere Frage: nicht wie man eine Maschine baut, die wie ein Mensch denkt, sondern wie man eine baut, die tut, was sie tun soll, zuverlässig, kontrollierbar, ohne vorzugeben, etwas zu sein, was sie nicht ist.

Zwei Simulationen: das Prinzip läuft

Um die Architektur nicht nur zu behaupten, sondern empirisch zu zeigen, haben wir zwei Python-Simulationen entwickelt. Beide laufen auf einem diskreten Gitter mit Energiepaketen, Giftpaketen und einer Station, an die der Agent Pakete liefert.

Simulation 1 implementiert das Grundprinzip: der kausale Kern als Energiebilanz, das Ich als BFS-Pfadsuche, das Über-Ich als statisches Normfilter. Die Simulation zeigt alle drei Grundverhaltensweisen: den zielgerichteten Selbsterhalt, die normgeleitete Verweigerung von Giftpaketen und die kontrollierte Selbstabschaltung. Sie zeigte aber auch eine norm-induzierte Blockade: ohne Direktassimilation war der Agent in einer bestimmten Energielage gelähmt, er konnte weder liefern noch fressen. Paket in der Hand, Energie schwindend. Das ist kein Bug, sondern ein Phänomen: es zeigt, was passiert, wenn ein normatives System für antizipierte Situationen vollständig spezifiziert ist, gegenüber unantizipierten aber schweigt.

Simulation 2 behebt diesen Fehler und klärt gleichzeitig die Architektur. Der kausale Kern bleibt reines Selbsterhaltungsprinzip, kein Datenbehälter. Der Zustand carrying (trägt der Agent ein Paket?) wird korrekt dem Ich zugeordnet, nicht dem KK. Zwei Modi der Energieaufnahme werden unterschieden: direkte Assimilation für den Selbsterhalt und Aufnahme zur Lieferung für die Aufgabe. Das emergente Verhalten, das dabei entsteht, ist aufschlussreich: der Agent sammelt ein Paket, gerät auf dem Weg zur Station in Energienot, frisst unterwegs ein verfügbares Paket und setzt danach die Lieferung fort. Niemand hat diesen Umweg programmiert. Er entsteht aus der Prioritätsordnung des Ich unter dem Druck des KK.

Beide Simulationen sind öffentlich auf GitHub verfügbar. Weitere Entwicklungsstufen sind geplant: Mehr-Agenten-Szenarien, begrenzte Normanpassung, lernfähige Ich-Instanzen.

Vielleicht ist die ALI das einzige KI-Konzept, das nicht nur bewundert, sondern wirklich gebaut werden kann.

Weiterführende Literatur

Stegemann, W. (2025). Autopoiesis, causal poiesis, causal collapse.. Zenodo. https://doi.org/10.5281/zenodo.15599500

Stegemann, W. (2025). The Emergence of Causal Cores. Zenodo. https://doi.org/10.5281/zenodo.15558264

Stegemann, W. (2025). The Causal Core as a Structural Principle of Free Will. Zenodo. https://doi.org/10.5281/zenodo.17057739

Stegemann, W. (2026). The Causal Core as Interpreter. Zenodo. https://doi.org/10.5281/zenodo.18340973

Stegemann, W. (2026). Stegemann, W. (2026). From the Myth of AGI to the Architecture of a Controllable ALI. Zenodo. https://doi.org/10.5281/zenodo.20378675

Stegemann, W. (2026). Implementing the Causal Core: A Simulation of Artificial Local Intelligence. Zenodo. https://doi.org/10.5281/zenodo.20379008

Simulation 1 auf GitHub: https://github.com/drwolfgangstegemann-sudo/ALI-Simulation-Ein-minimalistischer-Prototyp-einer-Artificial-Local-Intelligence

Simulation 2 auf GitHub: https://github.com/drwolfgangstegemann-sudo/ALI-Simulation-v2-Kausaler-Kern-als-operatives-Prinzip

Einleitung: Dirk Boucsein, Gastbeitrag: Dr. Wolfgang Stegemann