Wer erklärte den Algorithmus für intelligent? Und wann beschloss die Menschheit, daran zu glauben?

Wer hat eigentlich wann und auf welcher wissenschaftlichen Grundlage entschieden, dass ein Algorithmus intelligent ist? Haben mathematische Berechnungen plötzlich Verstand entwickelt, während wir diesen historischen Augenblick irgendwie verpasst haben? Oder hat einfach jemand einen ausreichend eindrucksvollen Namen für eine Technologie gefunden, die uns heute als Krönung der menschlichen Zivilisation verkauft wird? Ich muss zugeben, die Marketingstrategie ist bemerkenswert. Man bezeichnet ein Computersystem als intelligent, bringt ihm bei, überzeugende Antworten zu generieren, und schon beginnen Millionen Menschen, sich mit ihm zu unterhalten, als säße ihnen ein denkendes Wesen gegenüber. Noch faszinierender ist, wie bereitwillig dieselben Menschen eine generierte Antwort gelegentlich als Beweis dafür betrachten, dass die Maschine ihre Frage tatsächlich verstanden hat. Wie praktisch! Offenbar müssen wir die Existenz von Intelligenz gar nicht mehr nachweisen. Es genügt, einen möglichst überzeugenden Eindruck davon zu erzeugen.

Die Geschichte ist allerdings wesentlich interessanter als die Werbeslogans. Im Jahr 1955 schlugen John McCarthy und seine Kollegen ein Forschungsprojekt vor, in dem sie den Begriff Artificial Intelligence verwendeten. Ein Jahr später trug die Dartmouth-Konferenz zur Entstehung eines wissenschaftlichen Forschungsgebiets bei, das untersuchen sollte, ob bestimmte Aspekte des Lernens und intelligenten Verhaltens so präzise beschrieben werden können, dass Maschinen sie reproduzieren können. Beachten wir den Unterschied. Hier ging es um eine wissenschaftliche Hypothese und ein Forschungsprogramm, nicht um eine Bescheinigung darüber, dass Algorithmen über menschliches Verständnis, Bewusstsein oder die Fähigkeit zum eigenständigen Denken verfügen. Doch irgendwo zwischen Universitätslaboren, Technologiekonzernen und Werbekampagnen begann diese Unterscheidung auf verdächtige Weise zu verschwimmen. Die Wissenschaft stellte die Frage, ob Maschinen intelligentes Verhalten zeigen können. Das Marketing beeilte sich, uns mitzuteilen, dass sie bereits intelligent seien.

Und genau hier beginnt das große Abenteuer, zusammen mit den wirklich interessanten Fragen. Als Linguistin und Programmiererin kenne ich den Unterschied zwischen der Verarbeitung sprachlicher Strukturen, der Berechnung von Wahrscheinlichkeiten und der menschlichen Interpretation von Bedeutung. Ein Sprachmodell kann einen grammatikalisch einwandfreien Satz formulieren, Argumentationsmuster nachbilden und Lösungen für komplexe Aufgaben vorschlagen. Aber bedeutet das, dass es über Verständnis im menschlichen Sinne verfügt? Beweist eine überzeugende sprachliche Leistung das Vorhandensein von Denkprozessen, oder zeigt sie vielmehr, wie leicht wir einem System kognitive Fähigkeiten zuschreiben, sobald es bestimmte Verhaltensmuster demonstriert? Und vor allem: Wer profitiert von dieser begrifflichen Verwirrung? Denn wenn eine Technologie einen Namen erhält, der Intelligenz suggeriert, gewinnt sie nicht nur eine wissenschaftliche Identität, sondern auch einen erheblichen kommerziellen Vorteil. Und ich frage mich weiterhin, was eigentlich beeindruckender ist: die Fähigkeit der Maschine, Antworten zu generieren, oder die Bereitschaft des Menschen, zu glauben, dass dahinter zwangsläufig ein denkender Verstand stehen muss.

Wer verlieh dem Algorithmus den Titel intelligent?

Die Wissenschaft stellt Fragen, untersucht Hypothesen, überprüft Ergebnisse und erkennt Grenzen an. Das Marketing hingegen scheint beschlossen zu haben, einige dieser lästigen Zwischenschritte einfach zu überspringen. Es reicht, wenn ein System überzeugende Texte generiert, einen intelligent klingenden Namen erhält und als nächste große Revolution präsentiert wird. Danach folgt der einfachste Teil: der Menschheit zu erklären, dass die Zukunft bereits angekommen sei, der vollständige Zugang allerdings ein kostenpflichtiges Abonnement voraussetze. Und wenn sich die Ergebnisse als falsch herausstellen? Nun ja, Revolutionen haben schließlich nie einen technischen Kundendienst für menschliche Erwartungen versprochen.

Bevor wir jedoch beginnen, diese großartige neue Maschinenintelligenz zu feiern, möchte ich auf eine ziemlich elementare Frage zurückkommen. Wer hat eigentlich entschieden, dass der Algorithmus intelligent ist? An welchem Punkt erhielten mathematische Operationen, logische Regeln und computergestützte Verfahren jene Eigenschaft, die die Menschheit seit Jahrhunderten mit Wissen, Schlussfolgerungen und Verstehen verbindet? Und noch interessanter: Wer hat festgestellt, dass die erfolgreiche Ausführung einer bestimmten Aufgabe bereits ausreicht, um dem ausführenden System Intelligenz zuzuschreiben? Wenn wir dieser Logik ohne die notwendigen Differenzierungen folgen, werden wir wohl demnächst eine internationale wissenschaftliche Konferenz zu Ehren des Taschenrechners organisieren müssen. Schließlich führt er seit Jahrzehnten mathematische Berechnungen schneller aus als die meisten Menschen. Dennoch hat ihn bisher niemand eingeladen, einen Vortrag über die Philosophie der Zahlen zu halten.

Die Geschichte führt uns zurück ins Jahr 1955, als John McCarthy den Begriff Artificial Intelligence in einem wissenschaftlichen Forschungsvorschlag einführte. Die ursprüngliche Idee bestand darin zu untersuchen, ob bestimmte Fähigkeiten, die wir mit menschlicher Intelligenz verbinden, mathematisch beschrieben und von Maschinen simuliert werden können. Wohlgemerkt: Wir sprechen von einer wissenschaftlichen Hypothese, nicht von einem Beweis dafür, dass ein Algorithmus denkt, versteht oder Bewusstsein besitzt. Offenbar hat diese Hypothese jedoch irgendwo auf dem Weg vom Forschungslabor in die Marketingabteilung eine erstaunliche Beförderung erhalten. Von der Simulation von Intelligenz zur intelligenten Maschine. Was für ein bemerkenswerter Karrieresprung für einen Algorithmus!

Und ich kann nicht umhin, die außergewöhnliche Karriere des Wortes intelligent selbst zu bewundern. Früher erforderte dieser Begriff ernsthafte Diskussionen über Wissen, Logik, Gedächtnis, Lernen, Abstraktion und Problemlösungsfähigkeit. Heute begegnet er uns auf Smartphones, Uhren, Haushaltsgeräten, Autos, Unternehmensplattformen und praktisch jedem neuen digitalen Dienst, der eine eindrucksvollere Marktpositionierung benötigt. Natürlich kann intelligent in der technischen Fachsprache automatisierte Anpassung, komplexe Informationsverarbeitung oder bestimmte funktionale Eigenschaften bezeichnen. Problematisch wird es jedoch, wenn der Begriff so verwendet wird, dass beim Verbraucher der Eindruck von Verständnis, eigenständigem Urteilsvermögen oder beinahe menschlichen Fähigkeiten entsteht, ohne dass tatsächlich erklärt wird, was das System kann und was nicht. Wie bemerkenswert! Ein einziges Wort, flexibel genug, um eine ganze wissenschaftliche Disziplin zu bezeichnen, und gleichzeitig kommerziell so attraktiv, dass es nahezu jedes Produkt aufwertet, an das man es anhängt.

Ich würde allerdings nicht die Forscher von Dartmouth für die anschließende begriffliche Verschwendung verantwortlich machen. Sie formulierten Forschungsfragen innerhalb eines neu entstehenden wissenschaftlichen Gebiets. Die Verantwortung dafür, wie diese Begriffe heute verwendet werden, lässt sich nicht einfach auf ihre Urheber abwälzen. Ganz im Gegenteil. Gerade ihre ursprüngliche Formulierung liefert uns allen Grund, große Behauptungen mit größerer Vorsicht zu betrachten. Eine wissenschaftliche Hypothese wird nicht allein durch ihre Popularität zu einer erwiesenen Tatsache. Und die Simulation eines bestimmten Verhaltens beantwortet nicht automatisch sämtliche Fragen nach der Natur dieses Verhaltens. Eine Technologie kann außerordentlich nützlich sein, ohne dass wir ihr Fähigkeiten zuschreiben müssen, für die bislang keine ausreichenden Belege vorliegen. Leider lässt sich die Zukunft mit einer nüchternen technischen Beschreibung offenbar nicht ganz so erfolgreich verkaufen wie mit dem Versprechen einer Maschine, die an unserer Stelle denkt.

Damit gelangen wir zu einem Widerspruch, der meiner Ansicht nach wesentlich mehr Aufmerksamkeit verdient. Wenn eine Maschine ein Ergebnis erzeugt, das dem Resultat menschlicher geistiger Tätigkeit ähnelt, was genau haben wir dann bewiesen? Dass die Maschine denkt? Dass sie bestimmte Merkmale des Denkens erfolgreich reproduziert? Oder dass wir selbst nicht immer besonders gut darin sind, die äußere Erscheinung von Intelligenz von den Mechanismen zu unterscheiden, die sie hervorbringen? Das ist kein belangloser Streit um Begriffe. Die Antwort beeinflusst, wie wir diese Systeme bewerten, welche Entscheidungen wir ihnen zur Unterstützung oder Ausführung überlassen und wie viel Vertrauen wir ihnen entgegenbringen.

Denn dass eine Maschine bestimmte Erscheinungsformen von Intelligenz imitieren kann, ist eine Sache. Dass der Mensch diese Imitation bereitwillig als Beweis akzeptiert, ist eine ganz andere. Und wirklich interessant wird es, sobald jemand entdeckt, wie gewinnbringend sich dieser Unterschied als technologisches Wunder vermarkten lässt.

Bevor wir der Maschine allerdings ein Diplom für Intelligenz verleihen, sollten wir eine wesentliche Einzelheit klären. Ein Algorithmus ist eine Folge formal definierter Operationen und kein winziges elektronisches Gehirn, das zwischen zwei Berechnungen über den Sinn des Lebens philosophiert. Moderne Systeme des maschinellen Lernens sind wesentlich komplexer als klassische Algorithmen. Sprachmodelle können enorme Informationsmengen verarbeiten, Muster erkennen, Texte generieren und bestimmte Aufgaben mit beeindruckender Genauigkeit lösen. Aber ab welchem Punkt wird aus rechnerischer Komplexität tatsächliches Verständnis? Bedeutet die Fähigkeit, eine richtige Antwort zu produzieren, dass ein System deren Bedeutung begreift? Und wenn eine Maschine bestimmte Aspekte menschlichen Denkens imitieren kann, reicht das aus, um daraus zu schließen, dass sie über dieselben kognitiven Fähigkeiten verfügt? Offenbar liegt zwischen technischer Funktionalität und menschlicher Intelligenz eine beträchtliche Distanz, die das Marketing vorzugsweise in monatlichen Abonnementgebühren misst.

Bereits 1950 stellte der britische Mathematiker Alan Turing die Frage, ob Maschinen denken können. Anstatt sich in einer endlosen Debatte über die Definition von Denken und Intelligenz zu verlieren, schlug er sein berühmtes Imitationsspiel vor. Die Idee bestand darin zu untersuchen, ob das Verhalten einer Maschine in einer schriftlichen Unterhaltung so überzeugend sein könnte, dass ein menschlicher Beobachter Schwierigkeiten hätte, sie von einem anderen Menschen zu unterscheiden. Hier entsteht allerdings ein faszinierender Widerspruch. Eine erfolgreiche Unterhaltung kann überzeugendes sprachliches Verhalten demonstrieren. Sie beweist jedoch für sich genommen nicht, dass dahinter menschliches Verständnis oder Bewusstsein existiert. Trotzdem begegnen uns heute immer wieder Behauptungen, die Fähigkeit von Sprachmodellen zu natürlichen Gesprächen sei beinahe ein endgültiger Beweis für maschinelle Intelligenz. Wenn es einem System also gelingt, mich davon zu überzeugen, mit einem denkenden Wesen zu sprechen, muss ich dann zwangsläufig akzeptieren, dass es tatsächlich denkt? Was für eine faszinierende wissenschaftliche Logik. Besonders dann, wenn die Verwirrung des Beobachters plötzlich als Beweis für die Fähigkeiten des Beobachteten gilt.

Darin sehe ich eines der interessantesten Probleme unserer gegenwärtigen Technologiekultur. Menschen neigen dazu, überall dort Bedeutung, Absichten und Intelligenz zu suchen, wo sie vertraute Verhaltensmuster erkennen. Schön und gut. Aber sobald wir einen logisch aufgebauten Satz erhalten, sobald ein System höflich antwortet oder Worte verwendet, die wir mit Verständnis und Mitgefühl verbinden, beginnen wir erstaunlich schnell, ihm die Eigenschaften eines echten Gesprächspartners zuzuschreiben. Doch was wir wahrnehmen und was das System tatsächlich tut, ist nicht zwangsläufig dasselbe. Und sobald wir bereit sind, in überzeugendem Verhalten Intelligenz zu erkennen, stellt sich für mich die nächste unausweichliche Frage. Täuscht uns die Maschine, oder beweisen wir selbst gerade ein bemerkenswertes Talent dafür, unsere eigenen Illusionen zu produzieren?

Compass Insight | Wer soll hier eigentlich noch denken?

Mich beunruhigt nicht besonders, dass Maschinen immer besser darin werden, menschliches Verhalten zu imitieren. Was mich beunruhigt, ist die Leichtigkeit, mit der Menschen beginnen, eine überzeugende Imitation als Beweis für Intelligenz zu akzeptieren. Zwischen Berechnung, Generierung, Verständnis und Bewusstsein bestehen wesentliche Unterschiede. Diese verschwinden nicht einfach deshalb, weil das Marketing beschlossen hat, alles unter einer eindrucksvollen Bezeichnung zusammenzufassen.

Und wenn wissenschaftlicher Fortschritt Beweise verlangt, weshalb sind wir dann so bereitwillig bereit, Werbeversprechen als wissenschaftliche Erkenntnisse zu akzeptieren? Eine Maschine kann Antworten generieren, ohne dass damit nachgewiesen wäre, dass sie diese auf menschliche Weise versteht. Wer diesen Antworten jedoch blind vertraut, verzichtet freiwillig auf einen der wichtigsten Vorzüge menschlicher Intelligenz: die Fähigkeit, Dinge kritisch zu hinterfragen.

Die Ironie? Wir haben die Maschine intelligent genannt. Und jetzt müssen wir den Menschen daran erinnern, selbst zu denken.

Was für ein grandioser Triumph menschlicher Intelligenz! Wir haben einen Algorithmus entwickelt, der bestimmte Aspekte des Denkens imitieren kann, ihn intelligent genannt, daraus ein Milliardengeschäft gemacht und vertrauen ihm nun freiwillig unser eigenes Urteilsvermögen an.

Jetzt fehlt nur noch der Nobelpreis dafür, dass er die Menschheit davon überzeugt hat, Denken sei ein überflüssiger Kostenfaktor.