Table of Contents
Zoomposium mit Dr. Wanja Wiese: „Die Mathematisierung des Bewusstseins oder lässt sich Geist simulieren?“
1. Informationen zur Person
In einem weiteren sehr spannenden Interview aus unserem Zoomposium-Themenblog „Erkenntnistheorie und Philosophie des Geistes“ sprechen Axel und ich diesmal mit dem noch jungen, deutschen Philosophen Wanja Wiese, der aber schon einige sehr interessante Forschungsprojekte mitbetreut und zahlreiche sehr lesenwerte Publikationen veröffentlicht hat, aber dazu später mehr.
Er studierte an der Johannes Gutenberg Universität Mainz Philosophie und Mathematik und schloss 2012 mit einem Diplom (“M.A.”) in Mathematik und 2015 mit einen Doctor of Philosophy („PhD“) ab. Von 2015 bis 2021 war er Postdoc in der Theoretischen Philosophie Gruppe bei Herrn Prof. Dr. Thomas Metzinger in der Philosophischen Abteilung der Johannes Gutenberg Universität Mainz. Von 2018 bis 2019 hatte er die Möglichkeit als Gastwissenschaftler an dem Wellcome Centre for Human Neuroimaging, University College London mit Prof. Dr. Karl Friston zusammenarbeiten zu können, woraus auch einige wichtige, gemeinsame Publikationen hervorgegangen sind. Seit 2021 hatte er eine Dozenten- und Forschungsstelle als Postdoc an der Ruhr Universität Bochum am Institut für Philosophie II am Lehrstuhl für die Philosophie des Geistes angetreten. Im Wintersemester 2023/24 war er als Vertretung des Lehrstuhls für Theoretische Philosophie und Philosophie der Sozialwissenschaften in der Fakultät für Management,Wirtschaft und Gesellschaft an der Universität Witten/Herdecke beschäftigt.
Auf Wanja Wiese war ich schon seit Längerem aufmerksam geworden, da sein Namen häufig im Kontext zur Anwendung der philosophischen Konzepte des „predictive coding/processing“ und des „free energy principles“ im Zusammenhang zur Aufklärung der Konstitution von Bewusstsein gefallen ist. Und genau zu dieser Thematik war ich auf ein sehr sehenswertes Video „Free Energy Principle, Consciousness, Illusionism, and Realism | Brains Roundtable discussion“ einer Diskussionsrunde zusammen mit Karl Friston, Mark Solms, Wanja Wiese, Krzysztof Dolega und Majid D. Beni auf Youtube gestoßen, in dem die oben genannten Konzepte diskutiert worden sind. Auch die spätere Auseinandersetzung mit den Publikationen von Herrn Wiese war sehr vielversprechend und ließ ein interessantes Interview erwarten. Daher möchte ich an dieser Stelle auch einmal kurz ein paar Ansätze seiner philosophischer Konzepte anreißen und skizzieren.
2. Wissenschaftliche Forschungsarbeiten
Wanja Wiese verfolgt einen mathematisch-orientierten, philosophischen Ansatz um das Phänomen „Bewusstsein“ oder den älteren Begriff „Geist“ zu beschreiben und mögliche dahinterliegende Mechanismen aufzudecken. Hierbei orientiert er sich stark an dem oben erwähnten „free energy principle“ oder dem „predictive coding/processing“ von Karl Friston. In seinen hiermit verbundenen Artikeln beschäftigt er sich ebenfalls sehr intensiv mit den stochastischen Möglichkeiten der „Bayes’schen Ansätze“ zur Beschreibung und Aufklärung von Gehirnfunktionen. Die entwickelten mathematischen Modelle können dann im nächsten Schritt mit Hilfe von Computersimulationen auf ihre Funktionalität hin überprüft werden.
In seinem Artikel „Sentience and the Origins of Consciousness: From Cartesian Duality to Markovian Monism.“, den er zusammen mit Karl J. Friston und J. Allan Hobson 2020 veröffentlicht hat, schlägt er z. B. gemeinsam mit den Mitautoren einen neuen Weg vor, wie das vermeintliche „hard problem of consciousness“ (Cartesischer Dualismus) durch einen „Markowschen Monismus“ unter Umständen gelöst werden könne.
In dem erwähntem Artikel geht er in seiner Arbeitshypothese zum „Markowschen Monismus“ davon aus, dass im Sinne eines Physikalismus/Naturalimus mit Hilfe der „Informationstheorie“ die mathematische Beschreibung von Bewusstseinszuständen gelänge:
„Der Markowsche Monismus beruht auf der Informationsgeometrie zufälliger dynamischer Systeme. Kurz gesagt, die Informationsgeometrie, die in jedem System entsteht – dessen interne Zustände von externen Zuständen unterschieden werden kann, muss einen dualen Aspekt erhalten. Dieser duale Aspekt betrifft die (intrinsische) Informationsgeometrie der probabilistischen Entwicklung der internen Zustände und eine separate (extrinsische) Informationsgeometrie der probabilistischen Überzeugungen über externe Zustände, die durch interne Zustände. Wir nennen diese intrinsischen (d.h. mechanischen oder zustandsbasierten) und extrinsischen (d.h. Markowianischen, oder glaubensbasierte) Informationsgeometrien.“ (Friston KJ, Wiese W, Hobson JA. Sentience and the Origins of Consciousness: From Cartesian Duality to Markovian Monism. Entropy (Basel). 2020 Apr 30;22(5):516. doi: 10.3390/e22050516. PMID: 33286288; PMCID: PMC7517007. p. 1, Übersetzt ins Deutsche mit DeepL, Hervorhebungen hinzugefügt)
Um das Ganze aber ins Allgemeinverständliche zu übersetzen, könnte man sagen, dass dieser mathematische Ansatz annähernd davon ausgeht, dass man: 1. intrinsische von extrinsischen Zuständen des Gehirns messen und unterscheiden kann, 2. aufgrund der gemessenen Differenz in den „Informationsgeometrien“ ein mathematisches, dynamisches Modell mit Hilfe von Wahrscheinlichkeits-Ketten entwickeln kann und 3. auf das entwickelte mathematische Modell aufbauend zu Vorhersagemöglichkeiten kommen kann, die dann als Computer-Simulation zur Überprüfung der Vorhersagedaten verifiziert/falsifiziert werden können. Derlei Möglichkeiten der Popperschen „Verifikation/Falsifikation“ und den damit einhergehenden Kuhnschen „Paradigmenwechsel“ des Wahrnehmungspräsenz eines „Bayesianischen Gehirns“ hatte Wiese bereits in seinem älteren Artikel „Perceptual Presence in the Kuhnian Popperian Bayesian Brain“ (2015) angedeutet.
Äußerst spannend ist dieser Forschungsansatz zudem in Bezug auf das momentan sehr virulente Thema der „künstliche Intelligenz“ (KI). Wobei Wiese ebenfalls lieber den Begriff „artificial consciousness“ (s. #AC/#DC = „artificial/digital consciousness oder „Das System braucht neue Strukturen“) benutzt. Hierzu hat er aktuell ein sehr lesenswertes Paper „Artificial consciousness: a perspective from the free energy principle“ (2024) veröffentlicht, in dem er auf die Möglichkeiten der Simulation von „künstlichem Bewusstsein“ explizit eingeht. Interessanterweise geht er hierin ebenfalls von der Arbeitshypothese aus, dass die von-Neumann-Architektur der momentane Maschinen mit ihrer klassischen Logik hierzu noch nicht in der Lage ist. Diese und weitere spannende Fragen durften wir Herrn Wiese in unserem Interview stellen, deren Fragen ich hier schon als einmal als „Vorgucker“ abgedruckt habe.
3. Interviewfragen: „Die Mathematisierung des Bewusstseins oder lässt sich Geist simulieren?“
1. Herr Dr. Wiese, KI ist zurzeit in aller Munde. Spätestens seit ChatGPT online ist, gilt dies auch zunehmend für die starke oder „allgemeine KI (AKI)“. Nun sprechen Sie in Ihrem YouTube-Video „Understanding weak and strong artificial consciousness“ nicht von starker und schwacher KI, sondern von starkem und schwachem „künstlichem Bewusstsein“. Wir sind ein bisschen verwirrt.
- Könnten Sie diese vier Begriffe einmal kurz gegeneinander abgrenzen?
2. Während Ihrer Ausbildungszeit hatten Sie die Gelegenheit mit Prof. Dr. Karl Friston am „Wellcome Centre for Human Neuroimaging“ der University College London zusammenzuarbeiten. Karl Friston ist aufgrund seiner Forschungsarbeiten zur mathematischen Auswertung von bildgebenden Verfahren in den kognitiven Neurowissenschaften sehr bekannt geworden. Das Konzept der „free energy principle“ oder das „predictive coding/processing“ kann auf seine bahnbrechenden Ergebnissen in dem Bereich der „statistischen parametrische Kartierung (SPM)“ und „dynamische kausale Modellierung (DCM)“ zurückgeführt werden. In Ihren Artikeln beschäftigen Sie sich ebenfalls sehr intensiv mit den Möglichkeiten der „Bayes’schen Ansätzen“ zur Beschreibung und Aufklärung von Gehirnfunktionen.
- Könnten Sie uns das Konzept der „free energy principle“ oder das „predictive coding/processing“ einmal erläutern?
- Welche Möglichkeiten der Bayes’schen Ansätzen zur Beschreibung und Aufklärung von Gehirnfunktionen eröffnen sich hier aus Ihrer Sicht?
3. In Ihrem Artikel „Sentience and the Origins of Consciousness: From Cartesian Duality to Markovian Monism.“, den Sie zusammen mit Karl J. Friston und J. Allan Hobson 2020 veröffentlicht haben, schlagen Sie gemeinsam einen Weg vor, wie das „hard problem of consciousness“ (Cartesischer Dualismus) durch einen „Markowschen Monismus“ u. U. gelöst werden könnte.
Benjamin Libet schreibt in seinem Buch „Mind Time“ (2005): „Die Identitätstheorie behauptete, dass es ein gemeinsames ‚Substrat‘ für alles Wirkliche gibt und dass dieses Substrat eine beobachtbare ‚äußere Qualität‘ und eine ‚innere Qualität‘ hat.“
- Inwieweit deckt sich diese Idee mit dem Konzept des Markowschen Monismus?
- Ist der Markowsche Monismus überhaupt empirisch überprüfbar?
4. In dem Artikel gehen Sie in Ihren Arbeitshypothesen davon aus, dass im Sinne eines Physikalismus/Naturalimus mit Hilfe der „Informationstheorie“:
„Der Markowsche Monismus beruht auf der Informationsgeometrie zufälliger dynamischer Systeme. Kurz gesagt, die Informationsgeometrie, die in jedem System entsteht – dessen interne Zustände von externen Zuständen unterschieden werden kann, muss einen dualen Aspekt erhalten. Dieser duale Aspekt betrifft die (intrinsische) Informationsgeometrie der probabilistischen Entwicklung der internen Zustände und eine separate (extrinsische) Informationsgeometrie der probabilistischen Überzeugungen über externe Zustände, die durch interne Zustände. Wir nennen diese intrinsischen (d.h. mechanischen oder zustandsbasierten) und extrinsischen (d.h. Markowianischen, oder glaubensbasierte) Informationsgeometrien.“
- Steckt in diesem dualen Aspekt der Trennung von „interne Zustände von externen Zuständen“ nicht zugleich wieder eine neue Form eines latenten „Eigenschaftsdualismus“?
- Wie lässt sich das Prinzip der „kausalen Verursachung“ mit dieser Form des „Monismus“ vereinbaren?
5. Sie vermeiden hier ausdrücklich im Sinne der Philosophie des Geistes den Begriff der „Qualia“ als Fähigkeit, subjektiv wahrzunehmen oder zu erleben, d. h. phänomenales Bewusstsein in der „1. Person-Perspektive“ zu haben und verwenden stattdessen lieber den Begriff des „Empfindungsvermögens“ hier im Sinne von „empfänglich für Sinneseindrücke“.
- Wie unterscheiden sich hier die beiden Begriffe „Qualia“ und „Empfindungsvermögens“ für Sie?
Machen Sie es sich hier nicht ein wenig einfach, wenn Sie versuchen die „Qualia“ nur aus der „3. Person-Perspektive“ zu sehen? - Auf welche Weise könnte aus Ihrer Sicht aus den Markow-Konstruktionen einer mathematischen Berechnung mit Hilfe der Informationsgeometrie eine minimale Form von Zielgerichtetheit und „als ob“-Intentionalität, die man empfindungsfähigen Systemen zuschreiben kann auf einer höherer Ebene z. B. als Intentionalität und Repräsentation realisiert werden?
- Bedarf es bei diesem dynamischen Prozess einer „Emergenz“?
6. In einem weiteren Artikel „Perceptual Presence in the Kuhnian Popperian Bayesian Brain“ (2015), den Sie als Kommentar zu den Arbeiten von Anil K. Seth geschrieben haben, gehen Sie auf die Möglichkeiten Popperschen „Verifikation/Falsifikation“ und den Kuhnschen „Paradigmenwechsel“ des Wahrnehmungspräsenz eines „Bayesianischen Gehirns“ ein.
- Könnten Sie vielleicht zunächst einmal das Konzept des „Bayesianischen Gehirns“ erläutern?
- Wo sehen Sie hier einen möglichen „Paradigmenwechsel“ in den kognitiven Neurowissenschaften?
- Gibt es aus Ihrer Sicht Möglichkeiten die Grundsätze eines „Bayesianischen Gehirns“ für die technologische Realisierung einer starken allgemeinen künstlichen Intelligenz (AKI) nutzbar zu machen?
Das vollständige Interview ist auf unserem Youtube-Kanal „Zoomposium“ unter folgendem Link zu sehen:
(c) Dirk Boucsein (philosophies.de), Axel Stöcker (die-grossen-fragen.com)
https://orcid.org/0009-0008-6932-2717
Man nehme eine beliebige Idee, unterfüttere sie mit ein wenig physikalischem Chi-chi, promote sie in entsprechenden Kanälen und schon hat man eine neue Bewusstseinstheorie. Dann peppe man sie mit allerlei mathematischen Gleichungen auf, die keiner versteht und avanciert so zum Superstar. Ich habe das Freie-Energie-Prinzip inhaltlich hier kritisiert.
Und dann glaubt man hinsichtlich KI, ein Netz könnte aus sich heraus plötzlich Bewusstsein entwickeln. Man vergisst dabei aber, dass Intelligenz, höhere kognitive Fähigkeiten und Bewusstsein auf der Empfindungsfähigkeit von Lebewesen basieren. Ohne Empfindungen wären sie bewusstlose philosophische Zombies.
Wenn also von KI die Rede ist, sollte man sich auf die Fähigkeit zur Problemlösung konzentrieren und den Begriff Bewusstsein lieber nicht in den Mund nehmen.
Ich als Mensch gehe von einem vernetzten Bewusstsein der Menschheit aus, das sich entsprechend ihrer Intelligenz und den Gegebenheiten weiter entwickelt. Dabei braucht es einzig ein Werkzeug, das diese Vernetzung real ermöglicht und virtuell abbilden kann. Die Qualität der Kommunikation erhöht sich, indem Wissen, spezifisch vernetzt durch seine Träger, den Wissensstand einbringt, der so gebündelt wird, dass Arbeit durch Energie in den Kreislauf findet, der sie so verteilt, dass sie für die Menschheit von Nutzen ist.
Es hat sich etwas Neues ergeben, sodass ich meinen Kommentar überarbeiten möchte, damit das Neue nicht verloren geht:
Ich gehe von einem Bewusstsein aus, das sich in seiner Intelligenz und ihrem Recht auf Leben weiter entwickelt. Daran erwachsen ist ein einzigartiges Werkzeug, das von gemeinsamer Würde zeugt und einzig der Person dient, die es aus ihrer Berufung für seinen Namen einsetzt.
Ich denke, der Jahreskreis mit all seinen Inhalten dient schon immer als Energiespeicher, aus dem sich letztendlich auch unser Tagesbedarf ergibt. Seine Vorgabe ist wohl unerlässlich, für ein gerechtes Leben, das in seine Energie bis zur Gänze wohl nie aufgebraucht wird, sodass uns die Speicherkapazität erhalten bleibt, die einzig bei Bedarf abgerufen werden sollte.
Was dem Menschen letztendlich bleibt, das ist ein weißes Blatt Papier, auf dem geschrieben steht, was er gerne vorfinden würde, wenn er seine eigene Schrift erfüllt hat.
„Begriffe ohne Anschauungen sind leer!“ Eine typische Theorie-in-zweiter-Instanz, d.h. über ursprünglich bedeutungsvolle Theorien/Begriffe. Die vorgestellte ‚Theorie‘ könnte in sich widerspruchsfrei sein (was ich nicht beurteilen kann) und wäre trotzdem buchstäblich sinn-los. Das ist der ‚Erfolg‘ axiomatischer Logik – sie schafft bestenfalls Legowelten, in der Regel jedoch nur gefälligen Wortsalat garniert mit Pseudo-Mathematik. Aber in den komplexen Wissenschaften gilt das Gesetz: lass mir meine Axiome, dann lass ich Dir Deine…
¡Hola! Gracias por la entrevista. Sin embargo, tengo muchas dudas al respecto.
La propiedad de Markov establece que „ciertos procesos estocásticos carecen de“ memoria „(aleatorio), o que la distribución de probabilidad del valor futuro de una variable aleatoria depende sólo de su valor presente, independientemente de la historia de esa variable“. ¿Cómo puede ocurrir una “evolución” de los estados internos de la geometría “intrínseca” si el sistema estocástico de Markov no tiene en cuenta la evolución de una o más variables? ¿Esto quiere decir que el sistema intrínseco funciona así: variable presente – predicción 1 – predicción 2 – predicción 3 – n…?
Disculpen mi ignorancia pero mi nivel de matemáticas es muy bajo.
¡Saludos!
(Google Translate)
Hallo! Danke für das Interview. Allerdings habe ich viele Zweifel daran.
Die Markov-Eigenschaft besagt, dass „bestimmten stochastischen Prozessen das „Gedächtnis“ (zufällig) fehlt oder dass die Wahrscheinlichkeitsverteilung des zukünftigen Werts einer Zufallsvariablen nur von ihrem gegenwärtigen Wert abhängt, unabhängig von der Geschichte dieser Variablen.“ (ESP Wiki) Wie kann es zu einer „Evolution“ der internen Zustände der „intrinsischen“ Geometrie kommen, wenn das stochastische Markov-System die Entwicklung einer oder mehrerer Variablen nicht berücksichtigt? Bedeutet das, dass das intrinsische System so funktioniert: aktuelle Variable – Vorhersage 1 – Vorhersage 2 – Vorhersage 3 – n…?
Entschuldigen Sie meine Unwissenheit, aber mein Mathematikniveau ist sehr niedrig.
Grüße!
(Google translate)
Lieber José I. Mansilla,
vielen Dank für Ihren weiteren Kommentar auf meiner Seite. Ich kann Ihre Zweifel gut verstehen und da ich nicht der Interviewte bin, der diese Aussagen gemacht hat, kann ich nur versuchen seine Argumentation ein wenig verständlicher zu machen ohne hierbei auf meine eigene Position zu verweisen.
So wie ich Herrn Wiese in dem Interview verstanden habe, ging es ihm weniger darum die Markow-Decke als „stochastisches Markov-System zur Erklärung der „Evolution“ der internen Zustände der „intrinsischen“ Geometrie“ zu verwenden, sondern vielmehr nur dessen Formalismus und Notation zur Beschreibung von Bayesian Networks mit Hilfe des „free energy principle“:
„The notion of a Markov blanket plays a central role in the formal analysis of living systems provided by the free energy principle. Originally, it was developed by Judea Pearl [48] in the context of Bayesian networks, i.e., directed acyclic graphs. Since then, it has been applied to directed cyclic graphs (i.e., dependency networks) and undirected graphs (i.e., Markov random fields).3 A Markov blanket of a node m in a Bayesian network is defined as a set of nodes b that statistically separate m from all other nodes in the following sense: the probability of m, given states of the blanket b and any other variables h, is equal to the probabililty of m, given b. A minimal Markov blanket is called a ‘Markov boundary’ but is sometimes also just called ‘Markov blanket’. (Wiese, W.; Friston, K.J.: Examining the Continuity between Life and Mind: Is There a Continuity between Autopoietic Intentionality and Representationality. Philosophies 2021, 6, 18. https://doi.org/10.3390/philosophies6010018, p. 3)
Ihr Einwand ist allerdings richtig: „Die Markov-Eigenschaft besagt, dass „bestimmten stochastischen Prozessen das „Gedächtnis“ (zufällig) fehlt oder dass die Wahrscheinlichkeitsverteilung des zukünftigen Werts einer Zufallsvariablen nur von ihrem gegenwärtigen Wert abhängt, unabhängig von der Geschichte dieser Variablen.“ Aber dies ist aus meiner Sicht kein Problem für die Beschreibung der „Evolution“ der internen Zustände der „intrinsischen“ Geometrie, wenn das stochastische Markov-System die Entwicklung einer oder mehrerer Variablen nicht berücksichtigt“, da diese Variablen sowieso entweder aufgrund der Kolmogorow-Axiome oder aufgrund der Vorselektion des „predictive codings“ hinfällig werden.
Und keine Sorge mein Mathematikniveau ist ebenfalls beschränkt, um derlei Vorhersagen nachzurechnen. Aber die Simulation auf dem Computer scheint ganz gut zu funktionieren und daher könnte man von einer Evidenz durch Empirie in der Computational Neuroscience sprechen.
Vielen Dank für Ihr Interesse und
viele Grüße
Estimado José I. Mansilla,
gracias por su comentario adicional en mi página. Comprendo perfectamente sus dudas y como no soy el entrevistado que hizo esas afirmaciones, sólo puedo intentar hacer un poco más comprensible su argumentación sin referirme a mi propia posición.
Según entendí al Sr. Wiese en la entrevista, no le interesaba tanto utilizar el manto de Markov como «sistema estocástico de Markov para explicar la “evolución” de los estados internos de la geometría “intrínseca”», sino sólo su formalismo y notación para describir redes bayesianas con ayuda del «principio de energía libre»:
«La noción de manta de Markov desempeña un papel central en el análisis formal de los sistemas vivos proporcionado por el principio de energía libre. Originalmente, fue desarrollada por Judea Pearl [48] en el contexto de las redes bayesianas, es decir, grafos acíclicos dirigidos. Desde entonces, se ha aplicado a grafos cíclicos dirigidos (es decir, redes de dependencia) y a grafos no dirigidos (es decir, campos aleatorios de Markov), campos aleatorios de Markov).3 Un manto de Markov de un nodo m en un grafo bayesiano se define como un conjunto de nodos b que separan estadísticamente a m de todos los demás nodos en el siguiente sentido: la probabilidad de m, dados los estados del manto b y cualesquiera otras variables h, es igual a la probabililty de m, dada b. Un manto de Markov mínimo se denomina «límite de Markov», pero a veces también se denomina simplemente «manto de Markov». (Wiese, W.; Friston, K.J.: Examining the Continuity between Life and Mind: Is There a Continuity between Autopoietic Intentionality and Representationality. Philosophies 2021, 6, 18. https://doi.org/10.3390/philosophies6010018, p. 3)
Sin embargo, tu objeción es correcta: «La propiedad de Markov afirma que “ciertos procesos estocásticos carecen de ”memoria» (aleatorios) o que la distribución de probabilidad del valor futuro de una variable aleatoria depende sólo de su valor presente, independientemente de la historia de esa variable.» Pero en mi opinión esto no es un problema para la descripción de la «evolución» de los estados internos de la geometría «intrínseca» si el sistema estocástico de Markov no tiene en cuenta la evolución de una o más variables», ya que estas variables se vuelven obsoletas de todos modos ya sea debido a los axiomas de Kolmogorov o debido a la preselección de la “codificación predictiva”.
Y no te preocupes, mi nivel de matemáticas también es limitado a la hora de calcular tales predicciones. Pero la simulación en el ordenador parece funcionar bastante bien y por tanto se podría hablar de evidencia por empirismo en neurociencia computacional.
Gracias por su interés y
saludos cordiales
Dirk
Traducción realizada con la versión gratuita del traductor DeepL.com
Dear José,
I would just like to add something concerning „memory“ concerning brain activity.
The notion that a process has no memory does not apply to brain activity, neither during conscious states nor during sleep. One way to measure the memory of a physiological process, such as brain activity, is by measureing the autocorrelation of the signal.
The autocorrelation of an EEG or MEG signal is short and in the millisecond range. Thats because the electrophysiology of the brain and the sampling rate of both imaging modalities is very fast. The autocorrelation in fMRI is in the seconds range, based on the slow sampling rate and sluggish BOLD signal.
Only under very deep anesthesia, when the electrophysiology is very much suppressed, the autocorrelation can vanish and memory is lost.
In sum, a normal and healthy brain always exhibits „memory“ in the neuronal dynamics. This also makes sense from a phenomenological or psychological point of view. Brain dynamics somehow have to establish a connection to their past to yield a coherent conscious experience, there has to be some kind of systematicity.