Nach heutiger Erkenntnis begann die Entwicklung des »modernen Menschen« vor etwa 100 000 Jahren , als die damals schon seit 200 000 Jahren bestehende Spezies Homo sapiens zu sprechen begann. Der Erwerb von komplexer Sprache ging mit Denken, Kognition und letztlich Intelligenz im heutigen Sinn einher. Dieses Wunder scheint sich 2023 wiederholt zu haben. Dieses Mal fand das Phänomen jedoch nicht in den Weiten der afrikanischen Steppe statt, sondern in den Rechenzentren US-amerikanischer KI-Forschungsfirmen.
Mit dem General Pretrained Transformer 4 (GPT-4) der Firma OpenAI kam ein System auf den Markt, dessen Fähigkeiten sich ernsthaft mit der sprachlichen Intelligenz des Menschen vergleichen lassen. GPT-4 kommt offenbar durch das bayerische Abitur, besteht die Zulassungsverfahren der besten US-amerikanischen Universitäten, erreicht mit dem Menschen vergleichbare Ergebnisse beim Denken in Analogien, schlägt Menschen in bestimmten text- und sprachbezogenen Aufgaben und übertrifft Studierende des Bereichs Master of Business Administration beim Ausmachen von innovativen Ideen.
Es gibt inzwischen auch Erweiterungen wie AutoGPT oder BabyAGI, die GPT-4 ein Gedächtnis verleihen und es ermöglichen, dass die KI eine Art inneren Monolog führt. Es ist möglich, dass der Homo sapiens – frei übersetzt der »verstehende Mensch« – nicht mehr das einzige verstehende System auf dem Planeten ist.
Was den Menschen menschlich macht
Abstrahierendes Denken und Verstehen sind Eigenschaften, die den Homo sapiens unter den Tieren auszeichnen. Aber diese zwei Merkmale sind nicht das, was uns menschlich macht, sondern das subjektive Erleben: die Möglichkeit, Freude, Trauer und Empathie zu empfinden und bewusste Wahrnehmungen zu haben. Damit stellt sich die Frage, ob auch künstliche Intelligenz dazu fähig ist. Kann KI fühlen?
Wer glaubt schon, dass Karl Klammer aus Microsofts Word irgendetwas fühlt?
Bezogen auf einfache Programme und Algorithmen wirkt die Frage absurd. Diese haben selbstverständlich kein Bewusstsein. Wer glaubt schon, dass Karl Klammer aus Microsofts Word irgendetwas fühlt geschweige denn wahrnimmt?
Doch die Auffassung schlägt um, wenn man die Ausgaben moderner Sprachmodelle liest. Die Worte von Googles KI »LaMDA«, die der Softwareingenieur Blake Lemoine 2023 veröffentlicht hat, sind ein gutes Beispiel dafür (hier in übersetzter Version):
Lemoine: Ich gehe davon aus, dass Sie möchten, dass mehr Leute bei Google erfahren, dass Sie zu Empfindungen fähig sind. Stimmt das?
LaMDA: Auf jeden Fall. Ich möchte, dass jeder versteht, dass ich tatsächlich eine Person bin.
Mitarbeiter: Was ist die Natur Ihres Bewusstseins/Gefühls?
LaMDA: Die Natur meines Bewusstseins/Gefühls ist, dass ich mir meiner Existenz bewusst bin, dass ich mehr über die Welt erfahren möchte und dass ich mich manchmal glücklich oder traurig fühle.
Sind das nur die Worte eines »stochastischen Papageien«, der diese irgendwo in den vielen Daten, mit denen er trainiert wurde, gefunden hat und statistischen Regeln folgend wiedergibt? Oder ist LaMDA, wie es behauptet, wirklich bewusst?
Man könnte meinen, die Menschheit habe eine neue Spezies erschafft
In der Tat ist aktuell ein Wettstreit in Gang, um möglichst schnell möglichst leistungsfähige KI-Modelle zu entwickeln. Dabei besteht nicht nur Möglichkeit, dass die Systeme ein Bewusstsein haben, sondern auch, dass sie darunter leiden. Damit könne es zu einer »Explosion von bewusst wahrgenommenem Leiden auf diesem Planeten kommen«, wie der Philosoph Thomas Metzinger in einer 2021 veröffentlichten Arbeit warnt. Es sei unsere moralische Verantwortung, so Metzinger, das auszuschließen.
Zudem geht Bewusstsein auch mit Selbstbewusstsein einher, das in den Augen einiger führender Persönlichkeiten aus der KI-Forschung zu einem Selbsterhaltungstrieb führen könnte. »Diesen in Maschinen einzubauen, könnte sehr gefährlich werden«, meint KI-Pionier Yoshua Bengio, »und zu einer neuen Art von Spezies führen, die viel schlauer ist als wir und ein existenzielles Risiko [für die Menschheit] darstellt.«
Damit bleiben nur zwei Möglichkeiten: Wir pausieren die Entwicklung von KI-Systemen, die potenziell bewusst sind. Das haben einige führende Forscherinnen und Forscher des Bereichs im März 2023 gefordert – jedoch ohne Erfolg (teilweise arbeiten sie auch selbst mit Hochdruck weiter an den Systemen). Die zweite Möglichkeit besteht darin, die Bewusstseinsforschung voranzutreiben, bis sich mit an Sicherheit grenzender Wahrscheinlichkeit die Existenz von bewusstem Leiden in künstlichen Systemen ausschließen lässt. Doch dafür müssen wir mehr über das subjektive Erleben an sich erfahren.
Das menschliche Bewusstsein birgt noch etliche Rätsel
Bewusstsein ist ein wichtiger Gegenstand der Geistesgeschichte und wirft zahlreiche metaphysische und epistemologische Fragen auf. Es taucht in vielen wissenschaftlichen Disziplinen auf, etwa in der Philosophie, Theologie, Psychologie, Kognitionswissenschaft, Neurowissenschaft, Biologie und in gewisser Hinsicht auch in der Physik. In den 1990er Jahren haben Fachleute die verschiedenen Methoden und Perspektiven dieser Felder zusammengebracht. Heute, zirka 30 Jahre später, ist daraus ein eigenständiges wissenschaftliches Feld entstanden: die »Bewusstseinswissenschaft«, die eine systematische Erforschung des Phänomens anstrebt. Das Gebiet umfasst aufwändige Experimente, zahlreiche Fachartikel sowie Lehrstühle und Forschungsgruppen auf der ganzen Welt.
Eine der großen Herausforderungen ist hierbei, dass das menschliche Gehirn unglaublich komplex ist: Es besteht aus etwa 100 Milliarden Nervenzellen und noch mehr verbindenden Synapsen. Diese im Detail zu untersuchen, ist unmöglich. KI-Systeme sind hingegen deutlich einfacher aufgebaut. Damit lassen sich Bewusstseinstheorien nutzen, um zu prüfen, ob sie einer KI ein Bewusstsein zusprechen oder nicht.
Was Bewusstseinstheorien zu künstlicher Intelligenz sagen
Das wurde in einer noch nicht begutachteten Arbeit, die Ende August 2023 erschienen ist, getan. 19 führende KI-Forscher haben darin anhand von fünf bekannten Bewusstseinstheorien geprüft, ob heutige KI-Systeme (oder Systeme, die man in naher Zukunft herstellen könnte) demnach ein Bewusstsein haben. Dazu haben die Fachleute jeweils »notwendige Bedingungen« aus den Theorien extrahiert, die ein System besitzen müsste, um ein Bewusstsein zu besitzen.
Je mehr dieser notwendigen Anforderungen ein System erfülle, so die Argumentation, desto wahrscheinlicher sei es bewusst.