Selbstbewusste KI

Der Unternehmer, Philosoph, Ökonom und Publizist Christian Hugo Hoffmann sieht blinde Flecken in der KI-Entwicklung. Gemeinsam sprechen wir über Unterschiede der Intelligenz von Menschen, Tieren und Maschinen und wie diese Differenzen ihn zu seinem neuen Buch motiviert haben. Weiter geht es darum, inwiefern sich die Intelligenzforschung auf falschen Pfaden befindet, um Alleinstellungsmerkmale menschlicher Intelligenz sowie über die Simulationstheorie. Für die Zukunft sieht Christian Hugo Hoffmann die Zuschreibung von Verantwortung nicht nur beim Menschen oder nur der Maschine, sondern auch in Mensch-Maschine-Teams.

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Licence: CC-BY

In dieser Episode genannte Quellen: 

Der Philosoph und Linguist Sebastian Rosengrün arbeitet zu Chancen und Gefahren Künstlicher Intelligenz im Wechselspiel mit der Gesellschaft. Er warnt davor, Chatbots als moralische Instanzen anzuerkennen und pocht darauf, der Gesellschaft mögliche Konsequenzen solcher Zuschreibungen aufzuzeigen. Statt uns magischer Science-Fiction-Geschichten hinzugeben sollten wir uns mit realen Fehlentwicklungen konfrontieren – um sie abzuwenden. Gemeinsam sprechen wir über Essays, die von Chatbots geschrieben wurden, welche Irrtümer man in KI-Entwicklung hineinprojizieren kann, und warum man den Podcast Selbstbewusste KI hören sollte.

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Lizenz: CC-BY

In dieser Episode genannte Quellen:

In seinen Romanen beschreibt der Science-Fiction-Autor Karl von Wendt (Pseudonym Karl Olsberg) zukünftige Welten, in den Menschen mit moderner Technik konfrontiert sind. Er zeigt, wie ihnen die Kontrolle über diese Technik entgleitet - bis hin zur Gefahr der völligen Vernichtung unserer Spezies. Anders als in seinen Romanen lässt sich in unsere realen Welt jedoch kein Held hineintexten, der die Menschheit vor dem Untergang retten kann. Karl von Wendt blickt mit Sorge auf zukünftige KI-Entwicklungen, insbesondere auf die Herausforderungen des Alignments von KI an verschiedenartige Wertekonzepte unterschiedlicher Menschengruppen. Seine Romane sollen die Leser zwar unterhalten, aber auch mahnen. So erzählt er auch, warum er das Moratorium zum 6-monatigen KI-Entwicklungsstopp des Future of Life Institutes mitunterzeichnet hat. 

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

In dieser Episode genannte Quellen:

Helen Piel und Rudolf Seising sind Wissenschaftshistoriker am Deutschen Museum in München. Gemeinsam sprechen wir darüber, wie sich Forschung im Bereich der Künstlichen Intelligenz über die vergangenen Jahrzehnte verändert hat. Wir sprechen über die Entstehung des Begriffs Künstliche Intelligenz auf der Dartmouth-Konferenz 1956, den KI-Winter Anfang der 1970er und Versuche der Etablierung von „Intellektik“ als verbindende Fachwissenschaft zwischen Informatik und Kognitionswissenschaften. Es geht um blinde Flecken in der Wissenschaft, warum oft Jahrzehnte in falsche Richtungen geforscht wurde und wird, und wie alte Ideen wieder neu ins Zentrum der Relevanz rücken können.

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Licence: CC-BY

In dieser Folge erwähnte Quellen:

Der theoretische Physiker Joachim Keppler forscht zu Bewusstsein mit strengen naturwissenschaftlichen Ansprüchen. Der Direktor des DIWISS-Instituts erläutert im Podcast, wie Bewusstsein in die Physik passt, dass Bewusstsein seinen exklusiven Ort gar nicht im Gehirn hat, und warum es sich vielmehr lohnt, das Hirn als Koppler an ein physikalisch beschreibbares Bewusstseinsfeld zu betrachten. Wir diskutieren die Frage, inwiefern man ein solcherart verstandenes Bewusstsein manipulieren oder gar hacken könnte, und natürlich, inwiefern Künstliches Bewusstsein auf diese Art möglich wäre. 

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Licence: CC-BY 

In dieser Folge erwähnte Quellen:

Der Philosoph und Designtheoretiker Florian Arnold positioniert sich kritisch gegenüber modernen Segensrobotern oder KI-Religionen wie Way of the Future. Gemeinsam sprechen wir darüber, was Menschen dazu bewegt, solche Angebote anzunehmen, wie eine Gottheit funktioniert, die aus einem Quellcode besteht, wie diese Strukturen entstehen, sowie über die Zukunft der Kirche. Außerdem sprechen wir über Interpassivität, wie GPT einen Gottesdienst geschaffen hat und warum man einem KI-Gott nicht einfach den Stecker ziehen kann.

Redaktion, Aufnahmeleitung und Produktion: Annelie Hirth, Robin Herrmann
Herausgeber: Karsten Wendland

Licence: CC-BY

In dieser Folge erwähnte Quellen:

Sascha Benjamin Fink kennt sich aus mit Schmerzerleben, Bewusstsein und Psychedelika. Der Professor für Neurophilosophie an der Universität Magdeburg forscht zu Neurophänomenalem Strukturalismus und kann verstehen, warum man darunter leiden kann, niemals einen Ferrari zu besitzen. Wir sprechen über die Möglichkeit leidensfähiger Maschinen und das „harte Problem“ des Bewusstseins. Außerdem berichtet er aus seinem neuen Forschungsprojekt PsychedELSI, das erste beeindruckende Ergebnisse in kontrollierter Therapie mit Psychedelika hervorbringt. Gemeinsam überlegen wir, inwiefern dies perspektivisch auch etwas für bewusste KI-Systeme sein könnte – High AI.

Autor: Karsten Wendland

Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Licence: CC-BY

In dieser Folge erwähnte Quellen:

„Humane KI“ steht im Leitbild von Vincent C. Müller, dem Direktor des Centre for Philosophy and AI Research (PAIR) an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU). Technik müssen wir so gestalten, dass wir sie ggf. auch wieder zurückholen können, wenn unvorhergesehene Technikfolgen eintreten oder Werte und Ziele sich ändern, so dass die Technik nicht mehr passt. Für den Humboldt-Professor gehört ethische Reflexion zum professionellen Handeln aller, die Technik entwerfen und in die Welt setzen. KI und Digitale Systeme sollten wir einsetzen, um die grundsätzlichen Herausforderungen der Menschheit aktiv anzugehen.  

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland
Redaktionsassistenz: Robin Herrmann

Licence: CC-BY, DOI: folgt. 

In dieser Folge erwähnte Quellen:

Der Mathematiker, Physiker und Philosoph Klaus Mainzer hält es nicht für besonders sinnvoll, Maschinen zu bauen, die über ein Ich-Bewusstsein verfügen. Ihm ist es hingegen wichtig, dass in der Bevölkerung ein stärkeres Bewusstsein für Technik entsteht, dass Funktionsprinzipien besser verstanden und auch Grenzen besser eingeschätzt werden können. So könnte es gelingen, die breite Technikskepsis zu überwinden. Bezugspunkte im Gespräch sind u.a. Leibniz, Hilbert, Gödel, Penrose und natürlich aktuelle technische KI-Entwicklungen.  

Autor: Karsten Wendland

Redaktion, Aufnahmeleitung und Produktion: Karsten Wendland

Licence: CC-BY, DOI: folgt. 

In dieser Folge erwähnte Quellen:

Pflegeroboter, autonom fahrende Autos und beseelte Wesen – dies sind nur wenige von vielen spannenden Themen, die Schülerinnen und Schüler gemeinsam mit Experten in der letzten Folge der ersten Podcast-Staffel „Selbstbewusste KI“ diskutiert haben. Dabei kamen einige der Podcast-Gäste aus den vergangenen Folgen noch einmal zusammen, um mit den Schülerinnen und Schülern in einen Dialog auf Augenhöhe zu treten.

Gesprächsgäste: Andreas Eschbach, Thomas Fuchs, Janina Loh, Thomas Metzinger, Ralf Otte, Christian Vater und Joachim Weinhardt

Herausgeber: Karsten Wendland

Redaktionelles Konzept: Tannaz Afshari Bakhsh, Franka Bockrath, Laura Müller, Anna Pallakst, Lea Riemann, Emma Rönnebeck, Eva Russow, Tamás Svajda und Renée Weisbach

Moderation: Lara Wolf und Luis Tillmann

Aufnahmeleitung: Karsten Wendland

Produktion: Tobias Windmüller

Von der Idee, dass bald bewusste Roboter gebaut werden, ist der japanische Robotik-Experte Prof. Junichi Takeno von der Meiji University in Tokio überzeugt. Er selbst hat bereits Roboter konstruiert, die ihr Spiegelbild erkennen können. In der letzten offiziellen Folge unseres Podcasts Selbstbewusste KI erklärt er, welche beeindruckenden Experimente er bereits mit seinen Robotern durchgeführt hat.

Fragensteller in dieser Folge:
Jürgen Manner, Karlsruhe

Autor: Karsten Wendland
Redaktion: Robert Sinitsyn, Matthias Gerz
Aufnahmeleitung: Karsten Wendland
Produktion: Matthias Gerz
Synchronsprecher: Konstantin Kleefoot

Für den Autor Andreas Eschbach sind Menschen ohne Technologie gar nicht denkbar. Allerdings wird die Freiheit des Individuums durch Technologie sowohl ermöglicht wie auch bedroht, was er in seinen Erzählungen in unterschiedlichen Genres aufgreift und aufbereitet. Was wir heute zu „Bewusster KI“ diskutieren, ist in seinem Metier ein Grundmotiv mit langer Tradition. Er kann erzählen, wie mediale Vermittlung Computer und Roboter schon immer vermenschlicht hat, und weiß aus eigener Erfahrung, dass Programmcodes stets auch etwas über diejenigen spiegeln, die sie geschrieben haben.

Fragensteller in dieser Folge:
Dr. Hinrich Thölken, Botschafter und Sonderbeauftragter für Digitalisierung und digitale Transformation im Auswärtigen Amt

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Kayla Zoller

Der Theologe Prof. Dr. Joachim Weinhardt, PH Karlsruhe, ordnet Fragen zu Künstlicher Intelligenz und Bewusstsein auch in naturwissenschaftliche und in ethische Kontexte ein. Aus biblischer Perspektive sei es nicht vorgesehen, dass der Mensch andere Geschöpfe erschafft. Grundsätzlich hält er es aber für möglich, dass Bewusstsein auch auf anderen materiellen Voraussetzungen basieren könnte als bei uns Menschen. Wie aber könnte man garantieren, dass ein künstlich geschaffenes Bewusstsein kein unglückliches Bewusstsein würde? Perspektivisch sollte man bereits Vorstufen von Entwicklungen verhindern, die möglicherweise in einem Take-Off enden könnten.

Fragensteller in dieser Folge:
Prof. Dr. Urs Andelfinger, Hochschule Darmstadt

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Annalena Hörth

Die Philosophin Dr. Janina Loh an der Universität Wien untersucht inklusive Denkansätze, an deren Ende es nicht mehr so wichtig ist, ob sich jemand als Mensch oder als Maschine bezeichnet. Die Autorin des suhrkamp-Buchs „Roboterethik“ geht emotionalen Bindungen zwischen Mensch und Roboter in unterschiedlichsten Anwendungsfeldern auf die Spur, sowie möglichen Verhältnissen, die zueinander entstehen können. Als kritische Posthumanistin regt sie an, auch bei der Herstellung von Robotern auf Diversität zu achten und vielfältige Roboter herzustellen.

Fragensteller in dieser Folge:
Jascha Bareis, M.A., Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Matthias Gerz

Für den Robotiker Prof. Dr. Antonio Chella, Leiter des Robotic Labs und des Forschungszentrums für Wissenstechnologien an der Universität von Palermo, geht Bewusstsein deutlich über das Gehirn hinaus. Für den Herausgeber des Journal of Artificial Intelligence and Consciousness kann nur eine empathische Maschine auch eine ethische Maschine sein. Deshalb sei es erstrebenswert, Maschinen mit Gefühlen zu bauen, und aus deren Verhalten schließlich auch mehr über unser eigenes phänomenales Bewusstsein erfahren zu können. Viele KI-Leute haben seiner Beobachtung nach kein Interesse an philosophischen Debatten, weswegen er versucht, praktische Brücken zwischen den Disziplinen zu bauen und interdisziplinäre Diskurse zu unterstützen.

Fragensteller in dieser Folge:
Prof. Dr. Armin Grunwald, Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) am Karlsruher Institut für Technologie (KIT)

Autor: Karsten Wendland
Redaktion und Produktion: Annalena Hörth
Aufnahmeleitung: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot

Für den Neuwissenschaftler Prof. Dr. Christoph Koch, Chefwissenschaftler am Allen Institute für Gehirnforschung in Seattle, gibt es eine sehr enge Verbindung zwischen Gehirn und Bewusstsein. Er hält es nicht für möglich, die Strukturen des menschlichen Gehirns digital zu simulieren, wohl aber, dass man es irgendwann aus technischen Materialien wird nachbauen können. Bewusstsein sind für ihn jegliche Erfahrungen, Gefühle und Empfindungen, die letztlich immer mit dem Gehirn zu tun haben. So lieben wir auch nicht mit dem Herzen, sondern in Wirklichkeit mit dem Kopf.

Fragensteller in dieser Folge:
Prof. Dr.-Ing. Ralf Otte, Technische Hochschule Ulm

Autor: Karsten Wendland
Redaktion, Aufnahmeleitung und Produktion: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot

Für die Juristin Prof. Dr. Dr. Frauke Rostalski, Universität Köln und Mitglied des Deutschen Ethikrats, kann man KI-Robotern weder Schuld noch Verantwortung zuschreiben – zumindest nicht nach den heutigen Maßstäben und technischen Realisierungen. KI-Systeme können nur Teile unseres Denkens abbilden, und umgekehrt funktioniert der Mensch nicht nach Algorithmen. Allerdings wissen wir nicht, was noch kommt, und sollten verschiedene Zukünfte rechtzeitig vorausdenken. Zukünftige Gesellschaften etwa mit e-Personen sind schon heute debattierte Szenarien.

Fragensteller in dieser Folge:
Dr. Gerard Blommestijn, Physiker und Philosoph

Autor: Karsten Wendland
Redaktion: Kayla Zoller
Aufnahmeleitung vor Ort im schönen Köln: Karsten Wendland
Produktion: Kayla Zoller

Für den Philosophen Prof. Dr. Thomas Metzinger von der Universität Mainz ist es keineswegs ausgeschlossen, dass Künstliche Intelligenz irgendwann Bewusstsein haben könnte. Schon jetzt sollten wir uns Gedanken über unsere Verantwortung und zur Ethik machen, etwa in Form einer globalen Charta mit KI-Regeln, die auch das Bewusstseinsthema umfassen. KI-Systeme lernen viel über uns Menschen lernen, müssen aber nicht immer an das Gemeinwohl gekoppelt sein. Es hängt von uns ab, unsere Digitale Souveränität wiederzuerlangen.

Fragensteller in dieser Folge: Dipl.-Phys. Michael Mörike, Integrata-Stiftung für humane Nutzung der Informationstechnologie

Autor: Karsten Wendland Redaktion, Aufnahmeleitung und Produktion: Robert Sinitsyn

Für den Technikhistoriker Christian Vater, der in Heidelberg und Karlsruhe forscht, hat Forschung zu KI archäologische Qualitäten. Er gräbt Fundstücken aus, die unser heutiges Verständnis von KI prägen, auch wenn sie zu ihrer Zeit anders gemeint waren. Er erklärt, aus welchem Blickwinkel heraus man das menschliche Bewusstsein als eine „Turing-Zwiebel“ mit leerem Kern auffassen konnte, und welche Rolle Forscherinnen in den frühen KI-Zeiten hatten. 

Fragensteller in dieser Folge:
Jennifer Heier, Head of UX-driven AI, SIEMENS

Autor: Karsten Wendland
Redaktion und Aufnahmeleitung im Außeneinsatz: Konstantin Kleefoot
Produktion: Tobias Windmüller

Prof. Dr.-Ing Ralf Otte, Technische Hochschule Ulm, forscht und entwickelt seit Jahrzehnten zu KI und Algorithmen rund um das Gehirn. Für den Experten für neuromorphe Systeme ist der Geist nicht algorithmisch beschreibbar. Auch wenn KI mitunter unterstellt wird, dass sie „denken“ könne, sind heutige KI-Systeme hochgradig trivial – und enthalten noch lange keinen Geist. 

Sein Buch „Künstliche Intelligenz für Dummies“ ist kürzlich im Wiley-VCH -Verlag erschienen. 

Fragensteller in dieser Folge:
Prof. Dr. phil. Hyeongjoo Kim, Chung-Ang University Seoul

Autor: Karsten Wendland

Redaktion: Tobias Windmüller

Aufnahmeleitung im Außeneinsatz: Karsten Wendland

Produktion: Robert Sinitsyn

Dr. Andreas Bischof, Universität Chemnitz, denkt Technik- und Sozialwissenschaften gemeinsam. Er erklärt, wie das feine Zusammenspiel zwischen Mensch und Technik abläuft und wie wechselseitiges "Verstehen" möglich werden kann. Sein aktuelles Buch "Soziale Maschinen bauen" ist im transcript Verlag erschienen.

Fragensteller in dieser Folge: Prof. Dr. Munish Sharma, MIT Maharastra Institute of Technology, Aurangabad

Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Synchronsprecher: Konstantin Kleefoot
Aufnahmeleitung und Produktion: Johanna Müller

Bewusstsein im Computer ist eine Simulation, sagt Prof. Dr. Dr. Thomas Fuchs, Inhaber der Karl-Jaspers-Professur für Philosophische Grundlagen der Psychiatrie und Psychotherapie an der Universität Heidelberg, in der ersten Folge unseres Podcasts Selbstbewusste KI. Sein aktuelles Buch “Verteidigung des Menschen“ ist kürzlich bei suhrkamp erschienen. 

Fragensteller in dieser Folge: Murad Futehally, Mumbai/Ettlingen

Autor: Karsten Wendland
Redaktion: Tobias Windmüller
Aufnahmeleitung und Produktion: Konstantin Kleefoot

Trailer zu unserer Podcast Serie Selbstbewusste KI.
Vorgeschmack mit Ausblick.
Autor: Karsten Wendland
Produktion: Matthias Gerz / Tobias Windmüller