Zu Beginn dieses Jahres faszinierte uns Watson, ein IBM-Computer, der im Spiel Jeopardy die menschlichen Meister auf dem Gebiet des assoziativen Wissens schlug. Dieser Sieg einer Maschine über den Menschen bewegt uns deshalb ganz besonders, weil er auf einem Gebiet errungen wurde, das bisher als unsere ureigenste Domäne galt: der Fähigkeit, durch Analogien und Kreativität Schlussfolgerungen ziehen zu können, die sich erst im Nachhinein rational begründen lassen – kurz gesagt: zu raten, Rätsel zu lösen. Darin hat uns nun also, wie es scheint, eine Maschine, ein Computer geschlagen. Man kann natürlich darüber streiten ob er das wirklich getan hat, denn er löste zwar die gestellten Rätsel richtig und das auch noch schneller als jeder Mensch, aber er tat das nicht auf menschliche Weise. Wir würden nicht sagen, dass ein Auto einen Menschen im 100-m-Lauf schlägt, denn jeder sieht, dass das Auto nicht läuft wie ein Mensch, sondern fährt.
Wir können aber weder einem Menschen noch einem Computer beim Rätselraten zusehen, wir sehen nicht wie einer denkt, und wir sehen auch nicht, was die Maschine macht. Wir müssen zugeben: Dass jemand irgendwie intuitiv und kreativ oder scharfsinnig auf die richtige Lösung eines Rätsels gekommen ist, erkennen wir nur am Ergebnis, wie das ging, können wir nicht sehen, so wenig, wie wir sehen können wie das der Computer macht und damit wird beides ununterscheidbar.
Es ist ein wesentlicher Unterschied zwischen den Leistungen herkömmlicher Maschinen und einem Computer wie Watson: Bei der Maschine sieht jedermann auf den ersten Blick, dass die Sache anders läuft als beim Menschen – wie Watson Rätsel löst, können wir nicht sehen, hören, riechen, wir haben kein Sinnesorgan, mit dem wir das Denken beobachten können, es findet hinter einer undurchdringlichen Wand statt, die nicht nur aus Schädelknochen oder Blech besteht, denn selbst wenn wir dahinter schauen, sehen wir kein Denken, sondern nur graue Substanz oder Schaltkreise, und wenn wir überhaupt etwas messen können dann ist es beim Gehirn und beim Computer sogar das selbe, nämlich elektromagnetische Felder, und wir wissen, das diese Felder nicht das Denken sind.
Der Computer kann Rätsel lösen, aber er tut das auf andere Weise als der Mensch. Im Computer wird das Rätsellösen zum mathematisch-logischen Kalkül, verbunden mit effektiven Verfahren zur Suche in großen Datenmengen. So lösen Menschen keine Rätsel, und eigentlich weiß niemand, wie wir das tun.
Aber vielleicht sollten wir versuchen, so zu denken, wie es der Computer tut? Sollen wir unser Gehirn auf das Durchforsten von Fakten trainieren, sollen wir uns in fehlerfreiem Strukturieren, Analysieren und logischem Schließen üben? Werden unsere Entscheidungen dann besser? Und wenn wir da unsere Grenzen haben: Sollen wir nicht die Cloud-Services nutzen, die uns diese Arbeit abnehmen können, und dann unsere Entscheidungen entsprechend ihres Urteils treffen, so wie die alten Griechen auf das Orakel von Delphi gehört haben?
Cloud-Services könnten tatsächlich etwas Orakelhaftes bekommen: Auch wenn wir nämlich glauben, dass Logik und Fakten den Empfehlungen des Services zugrunde liegen, können wir die Logik nicht mehr nachvollziehen, die Fakten nicht mehr prüfen. Somit ist das Ergebnis, der Entscheidungsvorschlag, uns vermutlich nicht mehr transparent.
Besteht also die Gefahr, dass wir uns von der Cloud eines Tages bevormunden lassen? Ja, diese Gefahr besteht, sie wächst in dem Maße, in dem wir zu glauben bereit sind, dass Entscheidungen, die sich rational aus einer umfassenden Faktenanalyse mit logischen Schlussverfahren gewinnen lassen, die besseren Entscheidungen sind, und dass wir diese Entscheidungen akzeptieren und im Handeln befolgen müssen. Dieses Handeln wäre dann allerdings im eigentlichen Sinne kein Handeln mehr, es wäre nur noch ein „sich verhalten“. Ich möchte behaupten, dass wir von einer solchen Welt, in der nur rationale Entscheidungen des eben genannten Typs als „gute“ Entscheidungen angesehen werden, gar nicht so weit entfernt sind.
Um herauszufinden, welche Möglichkeiten wir haben, die Cloud-Services zu nutzen und trotzdem der Bevormundung zu entgehen, sollten wir unser Augenmerk auf die Verfahren richten, die wir sonst benutzen, wenn wir Entscheidungen zum Handeln treffen und wenn wir keine gesicherte Faktenbasis und keine mathematisch-logischen Schlussverfahren haben. Wir haben dafür von Alters her zwei Prinzipien, die bekanntlich zusammenhängen: Erfahrung und Vertrauen. Beide Prinzipien sind der Cloud und den Maschinen, die darin stehen, grundsätzlich fremd. Kein Computernetzwerk ist je selbst auf einen Berg gestiegen, und kein Großrechner hat je selbst einen Abgeordneten oder einen Präsidenten gewählt und ist von ihm enttäuscht worden. Erfahrung ist nicht die Summe des Wissens über das, was geschehen ist, Erfahrung ist ein ganz individuelles Sediment aus Erfolgen und Niederlagen, aus Bestätigungen und Enttäuschungen, das nur wir Menschen ausbilden können und das jedem nur selbst gehört.