Wie der Mensch Mensch bleibt

von Tim Leberecht
Referent des 10. DEUTSCHEN INNOVATIONSGIPFELS am 09. März im The Charles Hotel.

 

 

Tim Leberecht

 

Eine hyper-vernetzte Welt, digitale Technologien als Wegbereiter eines fundamentalen Wandels in Wirtschaft, Gesellschaft und Politik. Gerade hatten wir uns darin eingerichtet, begannen die Mechanismen zu verstehen.

 

Was uns jetzt aber erwartet wird die bisherigen Umwälzungen der Digitalisierung in den Schatten stellen: die Verschmelzung von Mensch und Maschine. Als „Vierte Industrielle Revolution“ bezeichnet das Weltwirtschaftsforum die umfassende Computerisierung unserer Arbeits- und Privatleben, beflügelt durch künstliche Intelligenz (KI), die immer schneller immer mehr dazulernt.

 

Analystenfirma Gartner sieht KI-Technologien wie „Machine Learning“ oder „Cognitive Expert Advisors“ an der Spitze seines sogenannten „Hype Cycles“, und dementsprechend ist das Investitionsvolumen in KI so groß wie nie zuvor, vor allem im Silicon Valley. „KI wird wie Strom sein“, mutmaßt Zukunftsforscher Kevin Kelly.

 

Unter dem Namen Partnership on AI (Artificial Intelligence) haben inzwischen führende Technologiekonzerne wie Google, Amazon und Facebook Resourcen gebündelt, um zu erkunden, wie Gesellschaft und Individuum von KI profitieren können. Es sollen die Möglichkeiten von KI „offen“ diskutiert werden: mit „gemeinschaftlichem Engagement, Transparenz und Sinn für Ethik und Verantwortung“.

 

Auch die Stanford 100 Year Study of Artificial Intelligence konzentriert sich vornehmlich auf die Chancen von KI. Ähnlich optimistisch haben die X Prize Stiftung und IBM mit der AI Competition einen Crowdsourcing-Wettbewerb lanciert, in dem Ideen zur Nutzung von KI in Feldern wie Gesundheit, Verkehr, Raumfahrt, Stadtplanung, Erziehung und Bürgerrechte eingereicht werden können.

 

Hinter all diesen Bestrebungen steckt die Hoffnung, dass KI vor allem positive Effekte haben wird. Idealerweise, so die Annahme, werden wir mittels KI bessere Menschen, verrichten sinnbringendere Arbeit und können die wahren Probleme unserer Zeit lösen, wie zum Beispiel den Klimawandel.

 

Die Entbehrlichen

Aber die Kehrseite von Algorithmisierung und Automatisierung lässt sich nicht ausblenden. Kürzlich gaben CEOs in einer weltweiten Umfrage an, dass Menschen nicht mehr ihre wichtigste Resource sind, sondern Technologie. Eine vielzitierte Oxford-Studie aus dem Jahre 2013 prognostiziert, dass Software und Roboter in den nächsten 20 Jahren die Hälfte aller menschlichen Jobs ersetzen. Alleine in Deutschland werden bis 2025 angeblich 1,5 Millionen traditionelle Arbeitsplätze wegfallen. Und in den „Rustbelt“-Staaten der USA, in denen viele Fabrikarbeiter Trump wählten in der Hoffnung auf bessere wirtschaftliche Aussichten, werden sie sich wundern, dass die Jobs trotzdem nicht zurückkommen. Statt an Offshoring-Länder gehen sie schon längst an Roboter. Experten sprechen anstatt von Outsourcing nun von der sogenannten „Automation Arbitrage“.

 

Eine wachsende Anzahl von Menschen wird vom Jobmarkt gedrängt werden und an den Rändern der Gesellschaft driften, eines ökonomischen und auch spirituellen Lebensmittelpunktes beraubt. Die Zahl der „Entbehrlichen“ wird drastisch steigen. Wie aber können wir sie in die Gesellschaft integrieren und ihnen ein sinnhaftes Dasein ermöglichen, wenn uns bald nur noch „Dataismus” als universelle Religion und einzig verbleibende Sinnstiftungsquelle bleibt, wie es der israelische Historiker Yuval Noah Harari, Autor der Bücher Sapiens und Homo Deus, vorhersagt?Harari befürchtet einen Wettlauf zwischen Intelligenz und Bewusstsein. Für ihn wird die entscheidende Frage sein: „Was ist wertvoller?“ Die Antwort darauf hat erhebliche moralische Konsequenzen.

 

Computerisierte Ethik

Harari ist nicht der einzige, der sich sorgt. Die Kassandra-Rufe von Stephen Hawking oder Bill Gates sind wohlbekannt, zudem gibt es nun auch zahlreiche Initiativen, die dem exponentiellen Fortschritt von KI mit Skepsis begegnen. Open AI zum Beispiel, eine Non-Profit-Organisation, die unter anderem von Elon Musk ins Leben gerufen wurde. Und auch auf der Agenda der sonst so optimistischen TED Talks fanden sich zuletzt vermehrt Beiträge, die sich beunruhigt zeigen über die möglichen Folgen, wenn wir die Kontrolle über KI (Sam Harris) oder die Deutungshoheit über unsere Werte an computergesteuerte Systeme verlieren (Zeynep Tufekci).

 

Dass diese Beunruhigung angebracht ist, beweisen die Thesen von Nell Watson, Fakultätsmitglied der Singularity University. Auf einer Technologie-Konferenz in Amsterdam illustrierte sie jüngst mit Nachdruck, wie sich die Fähigkeiten, die wir Computern geben, subversiv ausweiten. Schon jetzt kommunizieren mehr Maschinen miteinander als Menschen. Und laut Watson werden Algorithmen bald auch als eigenständige wirtschaftliche Akteure agieren. Ehedem halfen sie uns beim Einkauf, zukünftig verdienen sie an unserer Stelle Geld (z.B. könnten sie unser selbstfahrendes Auto an den Höchstbietenden vermieten, während wir mit unserer Familie im Park spazieren gehen). Watson wies darauf hin, dass Online-Algorithmen bereits heute oft mehr über uns wissen als wir selbst. Hand aufs Herz: Wer von uns würde schon seine Suchmaschineneingaben mit seinem Lebenspartner oder besten Freund teilen?

 

Watson geht noch einen Schritt weiter und glaubt, dass wir Algorithmen eben deshalb auch ethisches Handeln anvertrauen können. Aufgrund ihrer intimen Einsichten, ihres absoluten Gedächtnisses und der Fähigkeit, widersprüchliche Normen in Sekundenschnelle und kontextabhängig gegeneinander abzuwägen, haben sie den entscheidenden Vorteil eines „objektiven“ ethischen Moral- und Verhaltenskodexes. Dieser mag für Maschine und Mensch gleichermaßen als Anreiz zur permanenten Selbstoptimierung dienen, als moralischer Kompass, um on demand ethisch „korrekte” Entscheidungen zu treffen.

 

Schon jetzt gibt es Überlegungen, selbstfahrende Fahrzeuge dahingehend zu programmieren, im Falle eines Unfalls das Leben des Fahrers zu priorisieren, mit anderen Verkehrsteilnehmern als Kollateralschaden. Maschinen werden lernen müssen, wie es so schön heißt im James Bond-Film Spectre, dass die Lizenz zum Töten auch eine Lizenz zum Nicht-Töten ist. Ähnlich postuliert es der schwedische Philosoph Nick Bostrom: er ist der Ansicht, dass wir Menschen nur dann eine Chance haben zu überleben, wenn wir – so lange es uns noch möglich ist – Maschinen zutiefst menschliche Moralvorstellungen einprogrammieren. Die allerwichtigste von ihnen: Barmherzigkeit.

 

Die Einsamen, die Trägen, die Nicht-Optimierten

Für Watson und die Apostel der Singularity University ist Ethik ein Datenproblem, das sich allein nach der Quantität und Qualität von Daten bemisst. Ihr Konzept beschreibt eine Welt vernetzter Maschinen, radikaler Transparenz und maximaler Sicherheit durch allgegenwärtige Überwachung. Keine Rückzugsmöglichkeiten mehr, kein Verstecken, keine Geheimnisse, keine Lücken im System; eine Welt ohne Unsicherheit, ohne Gefahr, ohne Risiken, ohne jegliche Zurückgezogenheit. Diejenigen, die aus diesem Raster rausfallen, die übrig bleiben, sind, so Watson, „Kriminelle“ oder einfach nur „träge“.

 

Der Einsamkeit wird in einer solchen Gesellschaft kein Raum mehr gewährt. Das bedeutet aber auch, dass wir nie mehr allein sind mit unseren Gedanken und stattdessen selbst zu Maschinen mutieren, die Wissen anhäufen und immer mechanistischer operieren, ohne sich noch an der Welt zu reiben. Externe Stimuli lassen uns in Echtzeit reagieren. Zeit zu reflektieren aber wird es keine mehr geben. Wir werden intelligenter und intelligenter, verlieren jedoch immer mehr an Bewusstsein. Nur wer sich dem vernetzten, hocheffizienten und super-optimierten Miteinander verweigert, bewahrt sich den kleinsten Grad an menschlicher Integrität.

 

Das rebellische Herz

Eine aktuelle Studie der amerikanischen Regierung enthält eine Reihe von Empfehlungen für die Anwendung von KI in verschiedenen Sektoren, vom Erziehungs- und Gesundheitswesen zur Außenpolitik. Was die Studie nicht artikuliert sind die Auswirkungen von KI auf unsere Beziehungen zu Freunden, Familie und Umwelt, auf unsere Gefühle, unsere Identität.

 

So ignoriert sie die wohl größte Gefahr inmitten des Versprechens von der exponentiellen Weltverbesserung: die schleichende, unsichtbare Dehumanisierung im kleinen. Gerade deswegen ist die Zeit gekommen für einen neuen Gesellschaftsvertrag, nicht nur unter uns Menschen, sondern auch zwischen Mensch und Maschine.

 

Wir brauchen einen neuen radikalen Humanismus, eine neue Empfindsamkeit, eine digitale éducation sentimentale, um die Ko-Existenz und Zusammenarbeit mit KI über rein technokratische Aspekte hinaus aktiv zu gestalten. Nicht nur die Technologie-Branche ist hier gefordert, sondern Künstler, Philosophen, Theologen und Sozialwissenschaftler gleichermaßen. Es bedarf eines interdisziplinäres Zusammenspiel all jener, die die Schönheit des Abweichens, des Fremdartigen, als zentrale Säule unseres friedlichen Zusammenlebens verstehen. Die darauf beharren, dass die Welt keine Maschine ist, sondern ein Garten – und zwar einer, den nicht nur Datenanalysten kultivieren und ernten sollten.
„Der Mensch hat viele Maschinen gebaut, sie sind hochintelligent, raffiniert und ausgeklügelt, aber welche von ihnen hat es je mit der Komplexität unseres Herzen aufnehmen können?“, so formulierte es einmal der Cellist und Dirigent Pablo Casals. Der Mensch ist und bleibt Mensch, weil er sich verlieren und verlieben kann, weil er irrt und wirrt, sprung- und rätselhaft bleibt. Weil wir ihm nie voll und ganz vertrauen können.

 

So ist es denn auch nicht verwunderlich, dass gerade eben jene Maschinen, die von ihrer Eichung auf eine singuläre Funktion abweichen, uns Menschen am meisten ähneln – und uns gerade daher am meisten Angst machen. HAL 9000, der hyper-intelligente Computer aus 2001, eigentlich dazu programmiert, „nur“ eine perfekte Maschine zu sein, revoltiert schließlich gegen seine eigene Mission. Er sträubt sich, zieht andere Optionen in Betracht, widersetzt sich, will nicht abgeschaltet werden. Er will mehr sein als nur Mechanik – und ein klein wenig menschlich, ein klein wenig unsterblich werden.
Noch kann KI keine solchen Sehnsüchte, Eigenschaften wie Unberechenbarkeit oder Leid- und Mitleid ersetzen, noch kann sie keine fiktiven Welten und Charaktere mit solch großer Vorstellungskraft erschaffen wie wir Menschen. KI-Unternehmen stellten daher für die Gestaltung ihrer Chatbots zuletzt vermehrt die traditionellen Meister der Empathie ein: Dichter, Schriftsteller und Drehbuchautoren.

Es mag sein, dass künstliche Intelligenzformen von diesen lernen können etwas zu produzieren, das uns berührt und vielleicht sogar verzaubert. Und womöglich verlieben wir uns durch die Illusion von Intimität ja tatsächlich bald in eine Maschine, so wie es die Filme Her und Ex:Machina vorzeichnen. Aber solange sich die Maschine nicht in uns verliebt, bleibt uns die Hoffnung auf den Menschen.

Ein Gedanke zu “Wie der Mensch Mensch bleibt

  1. Pingback: How humans continue to be humans | Munich Creative Business Week

Hinterlasse eine Antwort

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind markiert *

Du kannst folgende HTML-Tags benutzen: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>