Zoomposium mit Professor Dr. Kristian Kersting: „Kein Terminator in Sicht. Zukunft und Chancen Künstlicher Intelligenz“

Wir konnten wieder einmal einen sehr spannenden Interviewpartner für unserem Zoomposium-Themenblog „Künstliche Intelligenz und ihre Folgen“ gewinnen. In dieser Folge sprechen Axel und ich diesmal mit dem sehr bekannten deutschen Informatiker und KI-Experten Kristian Kersting.

Seit dem revolutionären Durchbruch in der KI-Forschung am 30.11.2022  durch die Lancierung von „Chat-GPT-3“ des US-amerikanischen Softwareunternehmens „OpenAI“ ist nichts mehr wie vorher. Was ist nicht alles schon geschrieben, berichtet oder auch orakelt worden über den möglichen Nutzen und die eventuellen Gefahren der „Künstlichen Intelligenz“. Kaum ein Thema hat dermaßen stark die Gemüter erhitzt und zur Polarisierung zwischen Technikfeinden und Technikfreunden beigetragen. Die einen sahen schon „Terminator 7: Jetzt echt!“ realisiert oder zumindest als „Schwarzenegger-Double“ vor der Tür stehen. Die anderen träumten von einer besseren Welt, in der die Maschinen die „besseren Menschen“ sind und unsere Zukunftsprobleme lösen helfen.

Zu den Chancen und Risiken hatte ich mich ja auch bereits vor der Einführung von Chat-GPT in einem älteren Essay „Das System braucht neue Strukturen – nicht nur für/gegen die Künstliche Intelligenz (KI)“ (https://philosophies.de/index.php/2021/08/14/das-system-braucht-neue-strukturen/) auseinander gesetzt. In diesem Zusammenhang war ich auch auf Kristian gestoßen, da sein Namen häufiger im Zusammenhang zur KI-Forschung in Deutschland gefallen war.  So ist er auch oft als Experte in der Sendung „Scobel“ eingeladen worden, um z. B. auch in der sehr sehenswerten Folge „KI und Reinforcement Learning erklärt!“ die Möglichkeiten und Grenzen von KI aufzuzeigen.

Daher habe ich mich besonders gefreut, dass Kristian unsere Einladung zu einem Interview zum Thema „Zukunft und Chancen Künstlicher Intelligenz“ angenommen hatte. In unserem gemeinsamen Interview erläutert er einmal sachlich den momentanen „state-of-art“ der KI-Forschung und geht hierbei auch auf die gesellschaftlichen Auswirkungen dieser neuen Technologie ein. Hier aber erst einmal ein paar Informationen als „Handbuch zum Film“.

1. Informationen zur Person

„Von 2008 bis 2012 leitete er eine Forschungsgruppe am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme. Anschließend wurde er Juniorprofessor an der Universität Bonn; danach erhielt er eine Professur für Data Mining an der Fakultät für Informatik, die er von 2013 bis 2017 am Fachbereich Informatik der Technischen Universität Dortmund innehatte. Ab 2017 war er Professor für Maschinelles Lernen und seit 2019 Professor für Künstliche Intelligenz und Maschinelles Lernen im Department of Computer Science and Centre for Cognitive Science der Technischen Universität Darmstadt.^[2] Zudem ist er der Leiter des Artificial Intelligence and Machine Learning Lab (AIML), Co-Direktor von hessian.AI, Hessisches Zentrum für Künstliche Intelligenz und Gründungsmitglied des KI-Klubs, der versucht das Wissen von führenden KI-Experten aus Deutschland für Politik, Presse und Öffentlichkeit als kompetente und fachlich diverse Informationsquelle zur Verfügung zu stellen.

Seit 2019 ist er Ordentlicher Professor für Künstliche Intelligenz und Maschinelles Lernen am Fachbereich Informatik der TU Darmstadt. Seit 2022 ist er Leiter des Forschungsbereichs „Grundlagen der Systemischen KI“ (SAINT) am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Darmstadt. Seit 2024 ist er als zur Zeit einziger Deutscher und Europäer von der Association for the Advancement of Artificial Intelligence (AAAI) zum Fellow ernannt worden.

Kristian Kersting engagiert sich in zahlreichen Projekten, die mit KI-Forschung zusammenhängen, wie z. B. als Co-Sprecher der LOEWE Focus Area WhiteBox, die die Zwillingsdisziplinen KI und Kognitionswissenschaft zu „offenen Blackbox-Modellen“ verbindet, als Co-Sprecher des HMWK-Clusterprojekts The Third Wave of AI (3AI), das sich mit System-KI beschäftigt oder als Forscher bei ATHENE, dem größten Forschungsinstitut für IT-Sicherheit in Europa.^[3]

Er leitet zudem auch eine Forschungsabteilung am Deutschen Forschungszentrum für Künstliche Intelligenz^[4].“ (https://de.wikipedia.org/wiki/Kristian_Kersting, Hervorhebungen hinzugefügt.)

2. Forschungsschwerpunkte

„Sein Forschungsschwerpunkt liegt unter anderem auf der Entwicklung von statistischer, relationaler künstlicher Intelligenz, der probabilistischen Programmierung, neurosymbolischen Lernen und tiefem, probabilistischen Lernen des „Maschinenlernens (ML)“ und deren konkrete Anwendungsmöglichkeiten in der Forschung (z. B. Neurowissenschaften, wie in hessian.AI) aber auch im alltäglichen Leben (z. B. ChatBots, wie in „Aleph Alpha“).

In seinem Forschungsansatz beschäftigt er sich u. a. mit den Fragen, wie Computer aus z. T. komplexen Datensätzen wie Graphen aber auch unsicheren Datenbanken selbständig lernen können, Oder wie hierbei bereits vorhandenes Wissen ausgenutzt werden kann. Dabei geht es auch um die Frage, ob die gelernte Ergebnisse physikalisch plausibel sein können oder erst für den Menschen verständlich gemacht werden müssen. In diesem Zusammenhang geht es auch um die Frage nach den Möglichkeiten für ein kooperatives Lernen mit der Maschine.

Zu diesem Zweck entwickeln er und sein Team vom Artificial Intelligence and Machine Learning Lab (AIML) an der TU Darmstadt neuartige Methoden des maschinellen Lernens (ML) und der künstlichen Intelligenz (KI). Hierzu werden neuartige Berechnungsmethoden entwickelt, die z. B. logische und probabilistische Techniken für die Suche sowie (tiefe) (un)überwachte und verstärkende Lernmethoden enthalten und kombinieren.

Für dieses Vorhaben wird in dem Fachbereich Computer Science Department and Centre for Cognitive Science an der TU Darmstadt ein hohes Maß an Interdisziplinarität gefordert, da die Ergebnisse aus den kognitiven Neurowissenschaften und aus dem Maschinenlernen sich gegenseitig bei ihrer Forschungsarbeit unterstützen können. Dies drückt sich auch in interdisziplinären Cluster-Projekten, wie z. B. „The Adaptive Mind“ oder „WhiteBox“ aus.

Sein Forschungsgebiet betrifft die effiziente Wissensentdeckung in großen, komplexen und unsicheren Datenmengen, mit deren Methoden er unter anderem Anwendungen in der Medizin, der Phänotypisierung von Pflanzen, der Verkehrsprognose und des kollektiven Verhaltens von Menschen angeht.“ (https://de.wikipedia.org/wiki/Kristian_Kersting, Hervorhebungen hinzugefügt.)

3. Interviewfragen: „Kein Terminator in Sicht. Zukunft und Chancen Künstlicher Intelligenz“

Lieber Herr Professor Kersting, zunächst einmal möchte wir Ihnen sagen, welche große Ehre und Freude es für uns ist, dass Sie sich zu diesem Zoomposium-Interview mit uns bereit erklärt haben.

1. Zu Beginn stellen wir meistens eine nicht immer ganz ernst gemeinte Frage, um einen etwas lockeren Einstieg in die Thematik zu erhalten. Daher zunächst einmal die Frage an Sie:
Ihr Forschungsschwerpunkt liegt unter anderem auf der Entwicklung von statistischer, relationaler künstlicher Intelligenz, der probabilistischen Programmierung und tiefem probabilistisches Lernen des „Maschinen Lernens“ (ML)“ und deren konkrete Anwendungsmöglichkeiten in der Forschung (z. B. Neurowissenschaften, wie in hessen.AI) aber auch im alltäglichen Leben (z. B. ChatBots, wie in „Aleph Alpha“).

• Wie gut könnten Sie mit geeigneten Verfahren und Messmethoden herausfinden, ob die im Interview gestellten Fragen nicht von einem Chatbot geniert worden sind und die beiden Interviewer nicht vielleicht doch „KI-Avatare“ sind?
• Aber vielleicht könnten Sie zunächst einmal unseren Zuschauer:innen Ihre Forschungsarbeiten und Ihre bisherigen Ergebnisse, die Sie zusammen mit Ihrem Team im „Computer Science Department and Centre for Cognitive Science“ der TU Darmstadt im „Artificial Intelligence and Machine Learning lab (AIML)“ gewonnen haben, genauer erläutern.

2. Ein oben erwähnter ChatBot, ChatGPT, ist spätestens seit dem Hype am 30.11.2022 in aller Munde und die meisten Menschen haben es im wahrsten Sinne des Wortes „auf ihrem Schirm“. Es wurde seitdem sehr viel hierüber gesprochen und geschrieben.

• Könnten Sie aus Ihrer Sicht noch einmal diese rasante Entwicklung einordnen und hierbei auch auf die gesellschaftliche, wirtschaftliche und politische Bedeutung dieser KI-Systeme eingehen?
• Wie sehen Sie die aktuelle Lage der KI-Foschung in Deutschland oder Europa? Haben Start-Ups wie „Aleph Alpha“ aus Deutschland überhaupt noch eine Chance im internationalen Wettbewerb mit den „Tech Tycone“ aus den USA und Fernost mitzuhalten?
• Stichwort „Turing-Test“. Für wie wichtig halten Sie ihn und denken Sie, dass ChatGPT oder andere „Large Language Models“ ihn inzwischen bestanden haben?
• Denken Sie, dass diese Modelle durch die entsprechende probabilistische Gewichtung in Transformers, durch überwachtes Nachtrainieren und Verstärkungslernen aus menschlichem Feedback irgendwann die Semantik ihres Outputs erfassen werden? Oder werden sie eine Art „Deep Fake“, eine Simulation der Syntax von Sprache bleiben, auch wenn Menschen die Antworten des Chatbots für vermeintlich menschlich halten?
• Wie könnte sich dieses „unsupervised, reinforcement learning“ aus Ihrer Sicht selbst optimieren, um die Simulation von „künstlichen neuronalen Netzwerken“ als „Bayesian networks“ nachzubilden?
• Halten Sie eine „artificial general intelligence AGI“ für prinzipiell machbar? Falls ja, ist dies nur eine Frage der Scaling Laws für die Datenmenge im BigData und für den elaborierteren Algorithmus oder gehört hierzu vielleicht doch ein wenig mehr? Ist „3AI – The Third Wave of Artificial Intelligence“ aus Ihrem mitbegründeten Projekt „hessen.AI“ bereits ein Schritt in diese Richtung?

3. Die „dritte Welle der KI-Forschung“ im „Hessian Center for Artificial Intelligence“ (https://hessian.ai/) ist auch bereits in weitere „Clusterprojekte“, wie „Adaptive Mind“ (https://www.theadaptivemind.de/) oder LOEWE-Projekte, wie „Whitebox“ „geschwappt“.

• Könnten Sie unseren Zuschauer:innen zunächst einmal die Ziele und Ergebnisse dieser interdisziplinären Projekte erläutern?

Bei dem Forschungscluster des „Adaptive Mind“ versuchen Sie ja Wissenschaftler aus der experimentellen Psychologie, der klinischen Psychologie und der künstlichen Intelligenz zusammenzubringen um zu verstehen, wie sich der menschliche Geist erfolgreich an veränderte Bedingungen anpasst und was passiert, wenn diese Anpassungsprozesse versagen. Bei dem Forschungsprojekt „Whitebox“ versuchen Sie noch einen Schritt weiterzugehen und „das Licht in der Black Box anzumachen“.

• Wie „erhellend“ sind denn Ihre momenten Forschungsergebnisse hinsichtlich der Funktionsweise des menschlichen Gehirns?
• Kann man schon verstehen, was Maschinen oder vielleicht sogar Menschen machen, wenn sie lernen?
• Sehen Sie Möglichkeiten gegeben aufgrund der Simulation von kognitiven Prozessen vielleicht auch Aussagen zu der Konstitution von Bewusstsein zu machen?

4. Ray Kurzweil sprach schon 2014 in seinem Buch „Menschheit 2.0“ von einer nahenden Singularität: Sobald die KI so intelligent sei, dass sie ihre eigene Programmierung schneller verbessern könne als Menschen, könnte dies zu einer explosionsartigen Verbesserung von KI und damit zu einer AKI oder gar einer „Superintelligenz“ führen. Was das bedeuten könnte, schrieb schon 1965 der britische Mathematiker Irving J. Good: „Die erste ultraintelligente Maschine ist die letzte Erfindung, die der Mensch je machen muss, vorausgesetzt, die Maschine ist gutmütig genug, um uns zu sagen, wie man sie unter Kontrolle behält.“

• Wie stehen Sie zur Möglichkeit einer solchen Singularität und welches Szenario für die Zeit danach halten Sie für wahrscheinlich?

Der Teaser zum Interview ist auf unserem Youtube-Kanal „Zoomposium“ unter folgendem Link zu sehen:

https://youtu.be/aWRYcGl3b1c

(c) Dirk Boucsein (philosophies.de), Axel Stöcker (die-grossen-fragen.com)