Die KI sei mit euch: Macht, Illusion und Kontrolle algorithmischer Vorhersage

Von Helga Nowotny und Sabine Wolf

Las man in früheren Zeiten im Vogelflug oder in den Eingeweiden von Tieren, um sich die Angst vor dem, was kommen mag, zu nehmen, erlauben uns heute Algorithmen einen nahezu unfehlbaren Blick in die Zukunft. Doch das Vertrauen in das prognostizierende Vermögen von künstlicher Intelligenz birgt Risiken und lässt allzu schnell ein fatalistisches Bild entstehen: Indem wir uns der technologischen Mittel bedienen, um die Kontrolle über Zukunft und Ungewissheit zu erhöhen, büßen wir zusehends unsere Handlungs- und Gestaltungsfähigkeit und also auch Kontrolle ein – Vorhersagen werden zu Bestimmungen, Möglichkeiten zu Richtwerten und der Mensch wird auf die Rolle des bloßen Erfüllungsgehilfen reduziert. Damit dies nicht zur selbsterfüllenden Prophezeiung wird, gilt es, sich daran zu erinnern, dass es der Mensch ist, der die digitalen Technologien geschaffen hat, denen er Wirkmacht zuschreibt. Es gilt, wie Helga Nowotny mit bestechendem Optimismus nachweist, sich der eigenen Wirkmacht bewusst zu werden und eine Zukunft zu ermöglichen, die zu gleichen Teilen aus menschlichem Geist und mechanischen Geräten besteht.

• Sprache: Deutsch
• Herausgeber: Matthes & Seitz Berlin Verlag
• Erscheinungsdatum: 3. Aug. 2023
• ISBN: 9783751804134

Helga Nowotny

Helga Nowotny, 1937 in Wien, ist emeritierte Professorin der ETH Zürich. Ihre interdisziplinären Forschnungsschwerpunkte bewegen sich im Feld der Wissenschaftsforschung. Für 2018 wurde Nowotny die Leibniz-Medaille der Berlin-Brandenburgischen Akademie der Wissenschaften zugesprochen.

Buchvorschau

EINLEITUNG: MEINE REISE INS DIGI-LAND

URSPRÜNGE: ZEIT UND UNGEWISSHEIT; WISSENSCHAFT, TECHNIK UND GESELLSCHAFT

Dieses Buch ist das Ergebnis einer langen persönlichen und beruflichen Reise. Es verflicht zwei Stränge meiner bisherigen Arbeit und stellt sich damit zwei großen gesellschaftlichen Transformationen unserer Zeit: die Prozesse der Digitalisierung und unsere Ankunft in der Epoche des Anthropozäns. Die Digitalisierung bewegt uns in Richtung eines koevolutionären Entwicklungskurses von Menschen und Maschinen. Begleitet wird sie von beispiellosen technischen Errungenschaften und unserem Vertrauen in Künstliche Intelligenz (KI). Zugleich bestehen Bedenken darüber, wie immer mehr Privatsphäre verloren geht, wie die Zukunft der Arbeit wohl aussehen mag und inwieweit KI liberale Demokratien gefährdet. Das schafft ein weitverbreitetes Gefühl der Ambivalenz: Wir vertrauen der KI und darauf, dass sie unsere Zukunft sein wird, aber ebenso ist uns bewusst, dass es Anlass zu Misstrauen gibt. Wir lernen, mit den digitalen Geräten zu leben, interagieren guter Dinge mit ihnen, als wären sie neu gewonnene Verwandte, digitale Gefährten, behalten uns aber gleichzeitig eine tiefe Zwiespältigkeit gegenüber den Geräten wie dem Komplex der sie produzierenden Tech-Konzerne vor.

Die fortschreitende Digitalisierung und Datafizierung fällt mit dem wachsenden Bewusstsein zusammen, wie kritisch es um die Nachhaltigkeit unseres Planeten steht. Die Tragweite des Klimawandels und der dramatische Zustand des Ökosystems, auf das wir für unser Überleben angewiesen sind, erfordern rasches Handeln. Nicht weniger gebannt, nicht weniger bang machen uns die digitalen Technologien, die durch unsere Gesellschaften fegen. Doch nur selten werden diese beiden großen Wandlungsprozesse – die Digitalisierung und der Wandel hin zur Nachhaltigkeit – zusammen gedacht. Nie zuvor hatten wir die technischen Instrumente, das wissenschaftliche Wissen und die technisch-wissenschaftlichen Handlungsfähigkeiten, um derart weit zurück in die Vergangenheit und voraus in die Zukunft zu blicken. Trotzdem haben wir das Bedürfnis, unsere Existenz in dieser unheimlichen Gegenwart zu überdenken, dem Wendepunkt hin zu einer unbekannten Zukunft, die anders sein wird, als uns in der Vergangenheit versprochen wurde. Verschärft wurde dieses weitverbreite Gefühl von Angst nur noch durch die Covid-19-Pandemie, in sich ein disruptives Großereignis mit langfristigen globalen Folgen.

Mein Weg zu diesem Buch war voller Überraschungen. Meine bisherige Arbeit zum Thema Zeit, insbesondere der Struktur und Erfahrung sozialer Zeit, führte mich zu der Frage, wie sich unsere Zeiterfahrung durch den tagtäglichen Kontakt und Umgang mit Künstlicher Intelligenz und digitalen Geräten als unseren vertrauten Begleitern abermals verändert. Wie wirkt sich die Konfrontation mit geologischen Zeitskalen, langfristigen atmosphärischen Vorgängen oder der Halbwertszeit von Mikroplastik und Giftmüll auf die Zeitlichkeiten unseres täglichen Lebens aus? Wie beeinflusst KI die zeitliche Dimension unserer Beziehungen untereinander? Erleben wir die Entstehung von etwas wie einer »digitalen Zeit«, die sich in die ineinander verschachtelte zeitliche Hierarchie physischer, biologischer und gesellschaftlicher Zeiten hineingedrängt hat? Falls ja, wie bewältigen und koordinieren wir diese unterschiedlichen Zeitlichkeiten im Lauf unseres Lebens?

Der andere Strang meiner bisherigen Arbeit, zur List der Ungewissheit, lenkte meinen Blick darauf, wie wir mithilfe mächtiger computergestützter Instrumente, die die Zukunft näher an die Gegenwart geführt haben, alten und neuen Ungewissheiten begegnen und mit ihnen umgehen lernen. Diese Instrumente gewähren Einblicke in die Dynamiken komplexer Systeme, und grundsätzlich ermöglichen sie uns, jene Kipppunkte auszumachen, an denen Systeme in ein anderes Stadium übergehen. Kipppunkte markieren weiterführende Transformation, einschließlich der Möglichkeit eines Zusammenbruchs. Nun da das wissenschaftliche Verständnis komplexer Systeme zunimmt, wie lässt sich dieses Wissen einsetzen, um gegenwärtigen Risiken entgegenzuwirken und soziale Netzwerke resilienter zu machen?

Natürlich traf ich auf meiner Suche auf mehrere Hindernisse, konnte aber zugleich dank meines langjährigen Interesses an der Erforschung von Zeit und der List der Ungewissheit – die wir meiner Ansicht nach annehmen sollten – Aspekte persönlicher Erfahrung und biografischer Ereignisse mit empirischen Studien und wissenschaftlichen Erkenntnissen verknüpfen. Doch angesichts der wahrscheinlichen Folgen von Klimawandel, Artenschwund und Meeresversauerung oder Problemen wie der Zukunft der Arbeit, sobald die Digitalisierung die Arbeitnehmer der Mittelschicht treffen wird, konnte ich nicht mehr auf derlei persönliche Anknüpfungspunkte zurückgreifen. Konfrontiert mit Medienbildern verheerender Flächenbrände, von Hochwasser und rapide schmelzendem Polareis, wurde mir, wie vielen anderen, bewusst, wie ungeheuer viel heute auf dem Spiel steht. Ich las unzählige wissenschaftliche Studien mit quantitativen Schätzungen der Zeitlinien, entlang derer wir mehrere mögliche Kipppunkte in der anhaltenden Umweltzerstörung und somit den Zusammenbruch des Ökosystems erreichen würden. Und wie so viele andere auch fühlte ich mich den mit der Digitalisierung einhergehenden Sorgen und Hoffnungen, den Chancen und wahrscheinlichen Kehrseiten ausgeliefert.

Doch trotz dieser Beobachtungen und Analysen blieb ein Abstand zwischen der globalen Ebene, auf der sich diese Prozesse vollziehen, und meinem eigenen Leben, das glücklicherweise ohne größere Störungen weiterging. Selbst lokale Auswirkungen entwickelten sich entweder an weit entfernten Orten oder blieben lokal in dem Sinne, dass sie bald von anderen lokalen Ereignissen überholt wurden. Die meisten von uns sind sich dessen bewusst, dass diese großen gesellschaftlichen Transformationen enorme Auswirkungen und zahlreiche unbeabsichtigte Folgen mit sich bringen werden; und doch bleiben sie derart überwältigend abstrakt, dass sie sich in ihrer Komplexität intellektuell kaum greifen lassen. Der Abstand zwischen Wissen und Handeln, zwischen persönlicher Einsicht und kollektivem Handeln, zwischen dem Denken auf individueller Ebene und jenem globaler Institutionen scheint uns vor den unmittelbaren Auswirkungen dieser weitreichenden Veränderungen