Zukunftsinstitut, 9. April 2017

Wir brauchen einen neuen radikalen Humanismus

In der Digitalisierung vermuten wir die grenzenlose Chance zur Weltverbesserung, aber verkennen die unsichtbare Dehumanisierung. Es wird Zeit für einen neuen Gesellschaftsvertrag – zwischen Mensch und Maschine.

von Tim Leberecht

Eine hyper-vernetzte Welt, digitale Technologien als Wegbereiter eines fundamentalen Wandels in Wirtschaft, Gesellschaft und Politik… gerade hatten wir uns darin eingerichtet, begannen die Mechanismen zu verstehen. Was uns jetzt aber erwartet wird die bisherigen Umwälzungen der Digitalisierung in den Schatten stellen: die Verschmelzung von Mensch und Maschine.

Als „Vierte Industrielle Revolution“ bezeichnet das Weltwirtschaftsforum die umfassende Computerisierung unserer Arbeits- und Privatleben, beflügelt durch künstliche Intelligenz (KI), die immer schneller immer mehr dazulernt. Die Analystenfirma Gartner sieht KI-Technologien wie „Machine Learning“ oder „Cognitive Expert Advisors“ an der Spitze seines „Hype Cycles“. Dementsprechend ist das Investitionsvolumen in KI so groß wie nie zuvor – vor allem im Silicon Valley. „KI wird wie Strom sein“, meint auch der Zukunftsforscher Kevin Kelly.

Unter dem Namen Partnership on AI (Artificial Intelligence) haben inzwischen führende Technologiekonzerne wie Google, Amazon und Facebook Ressourcen gebündelt, um zu erkunden, wie Gesellschaft und Individuum von KI profitieren können. Die Möglichkeiten und Potenziale von KI sollen „offen“ diskutiert werden, „mit gemeinschaftlichem Engagement, Transparenz und Sinn für Ethik und Verantwortung”, heißt es auf der Homepage der Initiative. Auch die groß angelegte Studie „100 Year Study of Artificial Intelligence” von Stanford konzentriert sich vornehmlich auf die Chancen von KI. Ähnlich optimistisch haben die X Prize Stiftung und IBM mit der AI Competition einen Crowdsourcing-Wettbewerb lanciert, in dem Ideen zur Nutzung von KI in Feldern wie Gesundheit, Verkehr, Raumfahrt, Stadtplanung, Erziehung und Bürgerrechte eingereicht werden Online-Algorithmen wissen bereits heute oft mehr über uns als wir selbstkönnen. Dahinter steckt die Hoffnung, dass KI vor allem positive Effekte haben wird. Idealerweise werden wir mittels KI bessere Menschen, verrichten sinnbringendere Arbeit und wenden uns den wahren Probleme unserer Zeit, wie dem Klimawandel, zu.

Die Entbehrlichen

Die Kehrseite von Algorithmisierung und Automatisierung jedoch lässt sich nicht ausblenden. Kürzlich gaben CEOs in einer weltweiten Umfrage an, dass nicht mehr Menschen ihre wichtigste Ressource sind, sondern Technologie. Eine vielzitierte Oxford-Studie aus dem Jahre 2013 prognostiziert, dass Software und Roboter in den nächsten 20 Jahren die Hälfte aller menschlichen Jobs ersetzen werden. Alleine in Deutschland sollen bis 2025 1,5 Millionen traditionelle Arbeitsplätze wegfallen. Experten sprechen anstatt von Outsourcing nun von der sogenannten „Automation Arbitrage“. Eine wachsende Anzahl von Menschen wird vom Jobmarkt gedrängt werden und damit des ökonomischen und oft auch auch spirituellen Lebensmittelpunktes beraubt. Die Zahl der „Entbehrlichen“ wird drastisch steigen – Wie können wir sie trotz „Dataismus“ und Automatisierung in die Gesellschaft integrieren und ihnen ein sinnhaftes Dasein ermöglichen?

Die Kassandra-Rufe von Stephen Hawking, Bill Gates oder auch Yuval Noah Harari (Autor von Homo Deus) sind wohlbekannt. Die Kritik am exponentiellen Fortschritt der KI wird immer lauter. Sogar auf der Agenda der sonst so optimistischen TED Talks fanden sich zuletzt vermehrt Redner, die sich beunruhigt zeigten über die möglichen Folgen, sollten wir die Kontrolle über KI (Sam Harris) oder die Deutungshoheit über unsere Werte an computergesteuerte Systeme verlieren (Zeynep Tufekci).

Dass diese Bedenken angebracht sind, zeigen auch die Thesen von Nell Watson, Fakultätsmitglied der Singularity University. Auf einer Technologie-Konferenz in Amsterdam illustrierte sie jüngst mit Nachdruck, wie sich die Fähigkeiten, die wir Computern geben, subversiv ausweiten. Schon jetzt kommunizieren mehr Maschinen miteinander als Menschen. Und laut Watson werden Algorithmen bald auch als eigenständige wirtschaftliche Akteure agieren. Ehedem halfen sie uns beim Einkauf, künftig verdienen sie an unserer Stelle Geld (z.B. könnten sie unser selbstfahrendes Auto an den Höchstbietenden vermieten, während wir mit unserer Familie im Park spazieren gehen). Online-Algorithmen wissen bereits heute oft mehr über uns als wir selbst, so Watson. Hand aufs Herz: Wer von uns würde schon seine gesamte Suchmaschineneingaben gern mit seinem Partner teilen?

Nell Watson glaubt, dass wir Algorithmen aber genau deshalb ethisches Handeln anvertrauen können. Aufgrund ihrer intimen Einsichten, ihres absoluten Gedächtnisses und der Fähigkeit, widersprüchliche Normen in Sekundenschnelle und kontextabhängig gegeneinander abzuwägen, haben sie den entscheidenden Vorteil eines „objektiven“ ethischen Moral- und Verhaltenskodexes. Dieser mag für Maschine und Mensch gleichermaßen als Anreiz zur permanenten Selbstoptimierung dienen, als moralischer Kompass, um on demand ethisch „korrekte” Entscheidungen zu treffen. Ähnlich postuliert es der schwedische Philosoph Nick Bostrom: Er ist der Ansicht, dass wir Menschen nur dann eine Chance haben zu überleben, wenn wir Maschinen zutiefst menschliche Moralvorstellungen einprogrammieren.

Die Einsamen, die Trägen, die Nicht-Optimierten

Für Watson und die Aposteln der Singularity University ist Ethik ein Datenproblem, das sich allein nach der Quantität und Qualität von Daten bemisst. Ihr Konzept beschreibt eine Welt vernetzter Maschinen, radikaler Transparenz und maximale Sicherheit durch allgegenwärtige Überwachung. Keine Rückzugsmöglichkeiten mehr, kein Verstecken, keine Geheimnisse, keine Lücken im System; eine Welt ohne Unsicherheit, ohne Gefahr, ohne Risiken. Diejenigen, die aus diesem Raster rausfallen, die übrig bleiben, sind, so Watson, „Kriminelle“ oder einfach nur „träge“.

Eine aktuelle Studie der amerikanischen Regierung enthält eine Reihe von Empfehlungen für die Anwendung von KI in verschiedenen Sektoren, vom Erziehungs- und Gesundheitswesen bis hin zur Außenpolitik. Was die Studie nicht artikuliert sind die Auswirkungen von KI auf unsere Beziehungen zu Freunden, Familie und Umwelt, auf unsere Gefühle, unsere Identität. Sie ignoriert die wohl größte Gefahr inmitten des Versprechens von der exponentiellen Weltverbesserung: die schleichende, unsichtbare Dehumanisierung im Kleinen. Gerade deswegen ist die Zeit gekommen für einen neuen Gesellschaftsvertrag, nicht nur unter uns Menschen, sondern auch zwischen Mensch und Maschine.

Wir Wir brauchen einen neuen radikalen Humanismusbrauchen einen neuen radikalen Humanismus, eine neue Empfindsamkeit, eine digitale éducation sentimentale, um die Ko-Existenz und Zusammenarbeit mit KI über rein technokratische Aspekte hinaus aktiv zu gestalten. Nicht nur die Technologie-Branche ist hier gefordert, sondern Künstler, Philosophen, Theologen und Sozialwissenschaftler gleichermaßen. Es bedarf eines interdisziplinären Zusammenspiels all jener, die die Schönheit des Abweichens, des Fremdartigen, als zentrale Säule unseres friedlichen Zusammenlebens verstehen. Die darauf beharren, dass die Welt keine Maschine ist.

„Der Mensch hat viele Maschinen gebaut, sie sind hochintelligent, raffiniert und ausgeklügelt, aber welche von ihnen hat es je mit der Komplexität unseres Herzen aufnehmen können?“, so formulierte es einmal der Cellist und Dirigent Pablo Casals. Der Mensch ist und bleibt Mensch, weil er sich verlieren und verlieben kann, weil er irrt und wirrt, sprung- und rätselhaft bleibt. Weil wir ihm nie voll und ganz vertrauen können.

So ist es denn auch nicht verwunderlich, dass gerade eben jene Maschinen, die von ihrer Eichung auf eine singuläre Funktion abweichen, uns Menschen am meisten ähneln – und uns gerade daher am meisten Angst machen. HAL 9000, der hyper-intelligente Computer aus 2001, eigentlich dazu programmiert, „nur“ eine perfekte Maschine zu sein, revoltiert schließlich gegen seine eigene Mission. Er sträubt sich, zieht andere Optionen in Betracht, widersetzt sich, will nicht abgeschaltet werden. Er will mehr sein als nur Mechanik – und ein klein wenig menschlich werden.

Noch kann niemand solche Sehnsüchte oder Emotionen wie Leid oder Mitleid programmieren, noch kann KI keine fiktiven Welten und Charaktere mit solch großer Vorstellungskraft erschaffen wie wir Menschen. KI-Unternehmen stellen daher für die Gestaltung ihrer Chatbots zuletzt vermehrt die traditionellen Meister der Empathie ein: Dichter, Schriftsteller und Drehbuchautoren.

Es mag sein, dass künstliche Intelligenzformen von diesen lernen können etwas zu produzieren, das uns berührt und vielleicht sogar verzaubert. Und womöglich verlieben wir uns durch die Illusion von Intimität ja tatsächlich irgendwann in eine Maschine, so wie es die Filme Her und Ex:Machina vorzeichnen. Aber solange sich die Maschine nicht in uns verliebt, bleibt uns die Hoffnung auf den Menschen.

Dieser Essay erschien auf dem Blog des Zukunftsinstituts.

Photo: Flickr / BagoGames / Ex Machina Movie Review / CC-BY 2.0