Wie eine Wahnsinnige wäscht sich Lady Macbeth die Hände, doch das Blut will und will nicht weichen. Die Schuld lässt sich nicht abwaschen. Wenn das ist mehr als eine Metapher, wenn Mörder tatsächlich mehr Seife kaufen: Dann wird es in einer Autokratie, die zur Durchsetzung ihrer Gesetze auf Algorithmen vertraut, bald keine Seife mehr geben. Das gilt besonders dann, wenn das Muster, das der Algorithmus nutzt, öffentlich wird. Macht man sich mit dem Kauf von Seife bekanntermaßen verdächtig, wird niemand mehr Seife kaufen.

Aber, und das ist der interessantere Fall: Auch, wenn niemand weiß, dass der Seifenkauf die Wahrscheinlichkeit erhöht, als Krimineller verurteilt zu werden, wird nach und nach immer weniger Seife verkauft werden – und zwar so lang, bis der zugrundeliegende Zusammenhang statistisch nicht mehr relevant ist. Im Extremfall, wenn also unter Kriminellen tatsächlich ein viel stärkerer Seifenverbrauch herrscht als unter Gesetzestreuen, wird die Nachfrage so weit zurückgehen, dass bald keine Seife mehr angeboten wird. Händewaschen ist dann in der Autokratie nur noch mit Wasser möglich. Der Algorithmus indes hat alles richtig gemacht: Er hat die Gesellschaft im Sinne der Gesetze optimiert. Nicht allerdings im Sinne der Hygiene. Die Autokratie ist nun dem Einfluss von Krankheitserregern gegenüber deutlich anfälliger geworden.

Die Prognose regiert die Zukunft

Das ist kein Prinzip, das erst seit Machine Learning und Social Scores wirkt. Eine Firma, die Autos baut und ihre Strategie an Prognosen über die Nachfrage nach Autos ausrichtet, wird ihr Geld nie mit etwas anderem als mit Autos verdienen können. Eine Zeitung, die nur noch für zukünftige Abonnenten schreibt – indem sie Autoren und Themen bevorzugt, die zu mehr Aboabschlüssen führen -, wird bald eine Zeitung für niemanden sonst als ihre Abonnenten sein. Wie also können wir die Gefangenschaft unserer Vergangenheit verlassen – ohne in die völlige Richtungslosigkeit zu stürzen?

Je mehr Macht wir der Prognose geben, desto mehr Macht hat die Prognose. Denn wenn wir unser Handeln an der Prognose ausrichten, machen wir ihr Eintreten wahrscheinlicher. Dabei ist die Prognose immer die Reproduktion der Vergangenheit: Wir verlängern die Linien, die wir im Rückblick zu erkennen glauben, in die Zukunft. Indem wir den wahrscheinlichsten Fall zu unserer Realität machen – denn die Realität kennt nur ganze Fälle, ganze Menschen – zementieren wir das, was im Einflussbereich der Hypothese liegt. Und machen es damit umso anfälliger für das, was außerhalb liegt.

Ein Gerüst für unsere Vorstellung

Robuste Annahmen über die Welt von morgen sind die Alternative zu trügerisch genauen Prognosen über den künftigen Zustand dessen, was wir heute schon kennen. Sie sind grobe, abstrakte Vermutungen, auf die sich die meisten Menschen schnell einigen können. Sie bieten uns ein Gerüst, an dem wir unsere Vorstellung von der Welt, in der wir leben wollen, ansetzen und aufbauen können. Um aus dieser Vorstellung unsere Aufgabe abzuleiten. Vielleicht verändern sich die Annahmen im Zusammenspiel mit unserem Wollen. Vielleicht sind sie schließlich nicht mehr wichtig, wie ein Gerüst, das man schließlich wieder abbaut: Dann nämlich, wenn sich unsere Vorstellung von der Welt, die wir gestalten wollen, selbst trägt.