AI überleben

Von Calum Chace

Dies ist das Jahrhundert zweier Singularitäten – der wirtschaftlichen Singularität (technologische Arbeitslosigkeit) und der technologischen Singularität (Intelligenzexplosion). Beides birgt enorme Chancen und enorme Herausforderungen. Wenn wir sie erfolgreich verwalten, ist unsere Zukunft als Spezies mehr als wunderbar. Wenn wir versagen, könnte es miserabel sein - und vielleicht kurz.

Der Treiber ist Artifizelle Intelligenz (AI) - die leistungsstärkste Technologie der Menschheit. Software, die Probleme löst und Daten in Erkenntnisse umwandelt, hat unser Leben bereits revolutioniert, und die Revolution beschleunigt sich.

Das Argument dieses Buches ist, dass wir die stattfindenden Veränderungen überwachen und Richtlinien verabschieden sollten, die die bestmöglichen Ergebnisse fördern. Die Bandbreite der möglichen Ergebnisse ist groß, vom Schrecklichen bis zum Wunderbaren, und sie sind nicht vorherbestimmt. Sie werden zum Teil durch Glück, zum Teil durch ihre eigene interne Logik, zum Teil aber auch durch die Politik auf allen Ebenen der Gesellschaft ausgewählt.

Automatisierung und Superintelligenz sind die beiden Entwicklungen, von denen wir bereits sehen, dass sie wahrscheinlich enorme Auswirkungen haben werden. Automatisierung könnte zu einer wirtschaftlichen Singularität und der Entwicklung einer völlig anderen Art von Wirtschaft führen. Wenn wir das falsch verstehen, könnte eine Elite die Produktionsmittel besitzen und den Rest von uns in einem dystopischen technologischen autoritären Regime unterdrücken. Wenn wir es richtig machen, könnten wir eine Wirtschaft des radikalen Überflusses genießen, in der niemand arbeiten muss, um seinen Lebensunterhalt zu verdienen, und wir alle frei sind, Spaß zu haben, unseren Geist zu dehnen und unsere Fähigkeiten voll zu entfalten.

Die Ankunft der Superintelligenz wird, falls und wenn sie eintritt, eine technologische Singularität darstellen, die das bedeutendste Ereignis in der Geschichte der Menschheit sein wird, ohne Ausnahme. Herauszufinden, wie man es überlebt, ist die wichtigste Herausforderung für die Menschheit in dieser und der nächsten Generation. Wenn wir die Fallstricke vermeiden, wird es das Leben auf eine Weise verbessern, die buchstäblich jenseits unserer Vorstellungskraft liegt. Eine Superintelligenz, die ihre eigene Architektur rekursiv verbessert und ihre Fähigkeiten erweitert, könnte sehr plausibel fast jedes denkbare menschliche Problem lösen. Der Tod könnte optional werden und wir könnten ein Leben voller ständiger Glückseligkeit und Aufregung genießen. Wenn wir es falsch verstehen, könnte es zum Aussterben führen. Wegen der Ungeheuerlichkeit dieses Risikos befasst sich der Großteil dieses Buches mit Superintelligenz: der Wahrscheinlichkeit, dass sie eintrifft und von Nutzen ist.

• Sprache: Deutsch
• Herausgeber: Three Cs
• Erscheinungsdatum: 5. Jan. 2024
• ISBN: 9781667468051

Buchvorschau

Inhalt

Vorwort zur dritten Edition

Rezensionen zu Surviving AI

Über den Autor

Einleitung

Teil 1. AI heute

1  Was ist Artifizielle Intelligenz?

2  Eine kurze Geschichte der AI

3  Der Urknall: maschinelles Lernen

4  AI ist überall

5  Die Tech-Giganten und darüber hinaus

6  Wie gut ist AI heute?

7  AI Ethik

Teil 2. AI morgen

8  Ein Tag im Leben

9  Informationen in Wissen umwandeln - mit unterschiedlichen Geschwindigkeiten

10  Die kurze Frist: Freunde und Autos

11  Verwandte Technologien

12  Unterbrechung

13  Exponentiale

14  Nicht die vierte industrielle Revolution

15  Singularität

Teil 3. AGI und Superintelligenz

16  Können wir eine künstliche allgemeine Intelligenz schaffen?

17  Wie schafft man eine AGI?

18  Wann könnte die erste AGI kommen?

19  Von der AGI zur Superintelligenz

20  Wird sie uns gefallen?

21  Sicherstellen, dass die Superintelligenz freundlich ist

22  Zusammenfassung, Schlussfolgerungen, Empfehlungen

Danksagung

Endnoten

Vorwort zur dritten Edition

––––––––

Diese Ausgabe war fast fertig, als die Welt durch COVID-19 verändert wurde. Es ist noch zu früh, um die dauerhaften Auswirkungen dieser schrecklichen Krankheit und die außergewöhnlichen Maßnahmen, die zu ihrer Bekämpfung ergriffen wurden, zu kennen. Zweifellos werden einige der Aussagen in diesem Buch durch das Virus und seine Folgen widerlegt werden, und im Nachhinein mögen einige von ihnen geradezu albern erscheinen. Es ist ein unvermeidliches Risiko, von den Ereignissen überholt zu werden, wenn man über die Zukunft schreibt, auch wenn es selten so schnell und so dramatisch geschieht wie in diesem Fall.

Wir wissen noch nicht, ob die wirtschaftliche Erholung von dem Virus und den Maßnahmen zu seiner Bekämpfung V-förmig, U-förmig oder L-förmig verlaufen wird. Das wird davon abhängen, wie lange die Volkswirtschaften der Welt blockiert oder behindert bleiben müssen, und von der Weisheit und Kompetenz der führenden Politiker.

Wenn der Aufschwung V-förmig verläuft, werden die nachhaltigen Auswirkungen eher subtil als ausgeprägt sein. Wenn der Aufschwung U-förmig verläuft und die wirtschaftliche Depression von Dauer ist, dann wird sich die Welt wahrscheinlich stark verändern, und die Vorschläge und Spekulationen in diesem Buch müssen möglicherweise radikal überarbeitet werden. Das wird bis zur vierten Auflage warten müssen.

Was auch immer geschieht, es wird Narben geben. Viele Menschen sind bereits gestorben, und viele weitere werden folgen. Jeder Tod ist eine Tragödie, die trauernde Familien und Freunde hinterlässt. Unternehmen werden schließen, und es werden Arbeitsplätze verloren gehen. Viel Wohlstand wird vernichtet werden, und Menschen, die bisher über ein komfortables Einkommen verfügten, werden sich in einer finanziellen Notlage wiederfinden.

Die kurzfristigen Veränderungen lassen sich nicht vorhersagen. Werden sich die Menschen nicht mehr die Hände schütteln, wenn sie sich begegnen? Wird die populistische Welle zurückgehen, weil die Menschen eine ehrlichere und kompetentere Regierung fordern, oder wird sie sich verstärken, weil die Angst die Menschen weiter in Richtung Nationalismus und andere vereinfachende Lösungen treibt? Wird sich der Techlash verstärken, oder wird unsere zunehmende Abhängigkeit vom Internet ein freundlicheres Licht auf die Tech-Giganten werfen? Wird die Suche nach einem über den Shareholder-Value hinausgehenden Unternehmenszweck weitergehen, oder wird sie von den CEOs in den vergangenen Boom-Tagen des Jahres 2019 als unbezahlbarer Luxus angesehen werden?

Längerfristig können wir uns auf einige Dinge verlassen. Die Menschen auf der ganzen Welt waren gezwungen, nicht nur mit Fernarbeit und Fernmeetings zu experimentieren, sondern auch gut darin zu werden. Viele von ihnen haben es als überraschend bequem empfunden, nicht zuletzt wegen der Reisezeit, die dadurch eingespart wird. Gruppentreffen, Familien- und Freundestreffen, Konferenzen und andere Veranstaltungen werden sicherlich wieder stattfinden, aber mehr Einzelgespräche werden per Video geführt werden. Die Automatisierung von Lieferdiensten und Geschäften wird sich beschleunigen, auch wenn die Technologie hier noch das größte Hindernis darstellt. Es wird eine Fülle digitaler Start-ups geben, die von Menschen gegründet werden, die Online-Lösungen für Probleme finden, von denen sie nicht wussten, dass sie sie haben. Und die größere Kompetenz der asiatischen Regierungen im Vergleich zu ihren westlichen Pendants könnte die Verschiebung des globalen Kräfteverhältnisses noch beschleunigen.

Es gibt ein paar Dinge, die als Konsequenz aus dem COVID-19-Ausbruch unbedingt geschehen sollten. Erstens: Wir müssen uns besser auf den nächsten Ausbruch vorbereiten. Dieser Ausbruch hätte uns nicht überraschen dürfen. Bill Gates hat uns fünf Jahre im Voraus davor gewarnt. Hollywood hat einen ziemlich guten Film darüber gedreht (Contagion), aber auch eine ganze Reihe schlechter Filme. Es handelte sich nicht um einen schwarzen Schwan.

Zweitens sollten wir die erstaunliche Kraft des exponentiellen Wachstums besser verstehen. Die steigenden Todesraten in der Frühphase der Ansteckung haben dies eindrucksvoll gezeigt. Exponentielles Wachstum treibt auch andere Veränderungen in unserem Leben voran, und wenn wir das verstehen, werden wir sie viel besser bewältigen können.

Bewertungen von Überleben mit AI

Ein nüchterner und leicht zu lesender Überblick über die Risiken und Chancen, die der Menschheit durch AI entstehen werden.

Jaan Tallinn, co-founder Skype; co-founder CSER and FLI

Das Verständnis der AI - ihrer Verheißungen und Gefahren - entwickelt sich zu einer der großen Herausforderungen der kommenden Jahrzehnte, und dies ist ein unschätzbarer Leitfaden für alle, die interessiert, verwirrt, aufgeregt oder verängstigt sind.

David Shukman, BBC Science Editor

Da die Artifizielle Intelligenz die Automatisierung immer schneller vorantreibt, ist es an der Zeit, dass wir im Detail darüber nachdenken, wie sie schließlich unser Leben noch tiefgreifender verändern könnte - wie eine wirklich allgemeine KI unsere Fähigkeiten in allen Bereichen weit übertreffen könnte. Die Chancen und Herausforderungen, die sich aus diesem Szenario ergeben, sind für die Menschheit erschreckend, geschweige denn, dass wir sie in unserem besten Interesse bewältigen könnten. In jüngster Zeit hat die Zahl der wissenschaftlichen Analysen zu diesem Thema stark zugenommen; Chace ergänzt sie eindrucksvoll mit dieser qualitativ hochwertigen Diskussion für ein breiteres Publikum.

Aubrey de Grey - CSO, SENS Research Foundation, and former AI researcher

Calum Chace bietet eine klare, einfache und anregende Zusammenfassung der wichtigsten Positionen und Ideen zur Zukunft der Artificial General Intelligence und ihrer potenziellen Risiken.  Für den Neuling, der eine nicht-technische, ausgewogene Einführung in die verschiedenen Perspektiven sucht, die zu diesen sehr kontroversen Themen geäußert werden, bietet Chace's Buch einen großartigen Einstieg in die Literatur.  Es ist selten, dass ein Buch über das mögliche Ende der Welt so unterhaltsam zu lesen ist, ohne in Sensationshascherei oder grobe Vereinfachung zu verfallen.

Ben Goertzel – Chairman, Novemente LLC

Calum Chace ist ein vorausschauender Botschafter der Risiken und Chancen der Artificial Intelligence. In Überleben der AI hat er die wichtigsten Themen identifiziert und sie mit Einsicht und Witz entwickelt - so dass schon die Formulierung der Fragen unsere Suche nach Antworten unterstützt. Chaces vernünftiges Gleichgewicht zwischen den Versprechen und Gefahren der AI macht Überleben der AI zu einem ausgezeichneten Leitfaden für jeden, der sich dafür interessiert, was passiert, wie wir hierher gekommen sind und wohin wir uns bewegen.

Kenneth Cukier, co-author of Big Data: A Revolution that Transforms How We Work, Live and Think

Wer nicht über AI nachdenkt, denkt nicht nach.  Jedes Unternehmen muss das disruptive Potenzial der heutigen AI-Fähigkeiten bewerten; jeder politische Entscheidungsträger sollte für die Kombination aus hoher Produktivität und radikaler Umwälzung der Beschäftigung planen; und jeder Mensch sollte sich bewusst sein, dass wir uns auf einem nebligen Weg zu mächtigen und allgegenwärtigen Technologien befinden.  Überleben mit AI kombiniert eine grundlegende Einführung in den Stand der Technik mit einem Überblick über Szenarien, die auf Cocktailpartys und akademischen Kolloquien gleichermaßen heftig diskutiert werden.

Chris Meyer, Author of Blur, It’s Alive, and Standing on the Sun.

Das Erscheinen des Buches von Calum Chace ist für mich persönlich eine große Genugtuung, denn es bedeutet, dass das gesellschaftliche Bewusstsein für den Aufstieg massenhaft intelligenter Maschinen (ich nenne sie Artilekte - artificial intellects) endlich die dritte Phase erreicht hat, die ich Mainstream nenne. (Phase Null = kein Bewusstsein, Phase Eins = Intellektuelle, die in der Wildnis weinen, Phase Zwei = Aktionsgruppen, Phase Drei = Mainstream, Phase Vier = Politik).

Als einer der wenigen Menschen in den 80er Jahren, die sich in Phase eins befanden, war es eine einsame Angelegenheit. Mit Chace' Buch, das einem Massenpublikum erklärt, was ich die Debatte über die Dominanz der Arten nenne, ist klar, dass die Menschheit jetzt in Phase drei ist. Die bodenständige Klarheit von Chace' Stil wird dazu beitragen, die Menschheit in eine möglicherweise sehr gewalttätige, Transcendence-ähnliche, reale Phase vier zu führen.

Wenn Sie diese kommende vierte Phase in den nächsten Jahrzehnten überleben und sich darauf vorbereiten wollen, können Sie es sich nicht leisten, Chace' Buch nicht zu lesen.

Prof. Dr. Hugo de Garis, author of The Artilect War, former director of the Artificial Brain Lab, Xiamen University, China

Die Fortschritte in der AI werden in den kommenden Jahrzehnten den Fortschritt in allen anderen Bereichen beeinflussen. Wenn diese Dynamik dazu führt, dass noch in diesem Jahrhundert eine starke AI entsteht, dann wäre dies nach den Worten eines führenden Wissenschaftlers das größte Ereignis in der Geschichte der Menschheit. Daher ist jetzt der perfekte Zeitpunkt für die durchdachte Diskussion über Herausforderungen und Chancen, die Chace bietet.

Überleben der AI ist eine außerordentlich klare, gut recherchierte und ausgewogene Einführung in ein komplexes und kontroverses Thema und obendrein eine fesselnde Lektüre.

Seán Ó hÉigeartaigh, Executive Director, Cambridge Centre for the Study of Existential Risk

Überleben der AI ist gut geschrieben und enthält so ziemlich alle grundlegenden Fakten und Informationen ohne übermäßige Spekulationen.

Randal Koene, founder, carboncopies.org

Überleben der AI ist eine äußerst klare, ausgewogene und aktuelle Einführung in die Debatte über Artificial Intelligence und was sie für die Zukunft der Menschheit bedeuten wird.

Dan Goldman, Lecturer, Intelligent Systems and Networks Group, Imperial College

Ein guter Überblick über viele Probleme im Zusammenhang mit potenziell hochleistungsfähiger AI.

Dr Stuart Armstrong, Future of Humanity Institute

In Überleben der AI bietet Calum Chace einen wunderbar zugänglichen Leitfaden für die kontroversen Diskussionen über das wahrscheinlich wichtigste Ereignis in der Geschichte der Menschheit - die Entstehung der Artifizielle Intelligenz. Überleben der AI bleibt durchgängig klar und frei von Jargon und ermöglicht es Neulingen, zu verstehen, warum sich viele der prominentesten Denker von heute gezwungen sahen, sich öffentlich dazu zu äußern.

David Wood - Chair, London Futurists

Artifizielle Intelligenz ist die wichtigste Technologie unserer Zeit.  Die technologische Arbeitslosigkeit könnte uns zu einer völlig neuen Wirtschaftsstruktur zwingen, und die Schaffung einer Superintelligenz wäre das größte Ereignis in der Geschichte der Menschheit.  Überleben mit AI" ist eine erstklassige Einführung in all diese Themen.

Brad Feld, co-founder, Techstars

Über die Verheißungen und Gefahren der maschinellen Superintelligenz wird heutzutage viel diskutiert. Doch zwischen den komplexen und manchmal esoterischen Schriften von AI-Theoretikern und Akademikern wie Nick Bostrom und den populärwissenschaftlichen Prognosen von Elon Musk, Bill Gates und Stephen Hawking klafft eine gewisse Lücke. Calum Chace's Überleben der AI überbrückt diese Lücke perfekt. Es bietet einen kompakten, aber strengen Leitfaden zu allen wichtigen Argumenten und Themen auf diesem Gebiet. Ein hervorragendes Hilfsmittel für alle, die neu in diesem Bereich sind.

John Danaher, Institute for Ethics and Emerging Technologies (IEET)

Calum Chace sorgt für Klarheit und Ausgewogenheit in dem wichtigen und oft kontroversen Dialog über die Vorteile und potenziellen Gefahren der Artifizielle Intelligenz. Es ist eine Debatte, die wir führen müssen, und Calum ist ein zugänglicher und hilfreicher Ratgeber.

Ben Medlock – cofounder, Swiftkey

Rezensionen zu Artifizielle Intelligenz and the Two Singularities

––––––––

Gründlich recherchiert und überzeugend. Das Hauptargument von Chace scheint richtig zu sein: Wir müssen uns jetzt auf die wirtschaftliche Singularität vorbereiten, sonst droht ein ernsthafter Zusammenbruch unserer Zivilisation."

Stuart Russell, University of California, Berkeley

Ein brillanter, klarer Leitfaden zum aktuellen Stand der AI. Dies ist kein dystopischer Alarm, sondern ein klarer Aufruf, darüber nachzudenken, wie man damit umgehen kann - ein unterhaltsamer und durchdachter Fahrplan.

Mark Mardell, Presenter, BBC Radio Four

Provokativ und zeitgemäß: eine sehr lesenswerte und gut informierte Erörterung möglicher wirtschaftlicher Veränderungen, über die wir jetzt intensiv nachdenken sollten.

Margaret Boden, University of Sussex

Calum Chace, ein außergewöhnlicher Denker und Geschichtenerzähler, präsentiert eine gründliche und dennoch leicht verständliche Darstellung der drängendsten Fragen rund um AI.

Irakli Beridze, Centre for AI and Robotics, United Nations (UNICRI)

Dieses Buch ist eine wertvolle Ressource, die die Geschichte der AI und ihre aktuellen Möglichkeiten aufzeigt. Chace erforscht gründlich das erstaunliche Potenzial der AI, fordert aber klugerweise eine proaktive Planung, um ein positives Ergebnis zu gewährleisten.

Ray Eitel-Porter, Accenture

Dies ist das Buch, das ich gerne geschrieben hätte. Es bietet eine großartige Einführung in die AI und fordert uns alle auf, uns proaktiv an der Diskussion zu beteiligen, die wir über unsere Zukunft führen müssen.

Shamus Rae, Head of Digital Disruption, KPMG

Dies ist ein umfassender Leitfaden für alle, die AI und ihre Auswirkungen auf unsere Zukunft verstehen wollen. Wie immer fasst Calum komplexe technische und philosophische Konzepte zusammen und macht sie auf wunderbare Weise zugänglich.

Daniel Hulme, CEO, Satalia

Ich empfehle Ihnen dringend, AI and the Two Singularities zu lesen. Der Schreibstil ist sehr klar und unterhaltsam, und Calums Wissen auf diesem Gebiet ist wirklich bemerkenswert.

Simon Thorpe, Director, Toulouse Mind & Brain Institute

Über den Autor

––––––––

Calum Chace ist ein Bestsellerautor von Belletristik und Sachbüchern, die sich mit dem Thema künstliche Intelligenz befassen. Er hält regelmäßig Vorträge über Artificial Intelligence und verwandte Technologien und betreibt einen Blog zu diesem Thema unter www.pandoras-brain.com.

Bevor er sich hauptberuflich dem Schreiben widmete, war Calum 30 Jahre lang im Journalismus und in der Wirtschaft tätig, unter anderem als Marketer, Strategieberater und CEO.

Vor langer Zeit studierte Calum Philosophie an der Universität Oxford, wo er entdeckte, dass die Science-Fiction, die er seit seiner Kindheit gelesen hatte, eigentlich Philosophie in einem schicken Gewand ist.

Auch von Calum Chace

Stories From 2045 (editor and contributor)

Artificial Intelligence and the Two Singularities

Our Jobless Future

The Economic Singularity

Pandora’s Brain

The Internet Startup Bible (co-author)

The Internet Consumer Bible (co-author)

Für Julia und Alex

SURVIVING AI, 3rd edition

A Three Cs book

ISBN 978-0-9932116-3-8

Erste Edition erschienen 2015 bei Three Cs

Zweite Edition erschienen 2018 bei Three Cs

Dritte Edition, veröffentlicht 2020 von Three Cs

Copyright © Calum Chace 2015, 2018, 2020

Umschlag- und Innengestaltung © Rachel Lawston bei

Lawston Design, www.lawstondesign.com

Fotografie © iStockphoto.com und Shutterstock.com

Alle Rechte vorbehalten

Das Recht von Calum Chace, als Urheber dieses Werkes zu gelten, wurde von ihm gemäß dem Copyright, Design and Patents Act 1988 geltend gemacht.

Einführung

––––––––

Artifizielle Intelligenz (AI) ist die mächtigste Technologie der Menschheit. Sie wird in exponentiellem Tempo immer leistungsfähiger.

Für die meisten von uns ist die offensichtlichste Erscheinungsform der AI heute das Smartphone. Wir halten sie für selbstverständlich, aber viele von uns hängen an ihnen: Mit ihnen haben wir das gesamte Wissen der Welt zur Hand, aber auch Angry Birds und Zombies. Sie sind keineswegs nur ein Luxus für die Menschen in den Industrieländern: Sie bieten intelligente Zahlungssysteme, Bildung und Marktinformationen, die es den Menschen in den Schwellenländern ermöglichen, zu konkurrieren und an der modernen Welt teilzuhaben.

Die bisherige Entwicklung von Smartphones bietet eine faszinierende Analogie für die Entwicklung der KI in der Zukunft. Niemand hätte vor dreißig Jahren gedacht, dass wir in Form von Telefonen leistungsstarke KI in unseren Taschen haben würden, aber jetzt, wo es passiert ist, scheint es offensichtlich. Es ist auch völlig logisch. Wir sind hochgradig soziale Tiere. Da wir über Sprache verfügen, können wir komplizierte Ideen, Vorschläge und Anweisungen übermitteln; wir können in großen Teams zusammenarbeiten und uns organisieren, wirtschaftliche Überschüsse produzieren und Technologien entwickeln. Dank unserer unübertroffenen Fähigkeit zur Kommunikation bestimmen wir das Schicksal dieses Planeten und aller darauf lebenden Arten. Es war nicht vorherzusehen und konnte auch nicht vorhergesagt werden, aber was könnte im Nachhinein logischer sein, als dass unsere mächtigste Technologie, die AI, den meisten von uns in Form eines Kommunikationsgeräts zur Verfügung steht?

Vor dreißig Jahren wussten wir nicht, wie sich der Mobiltelefonmarkt entwickeln würde. Heute wissen wir nicht, wie sich die digitale Disruption, die so viele Branchen umkrempelt, in den nächsten dreißig Jahren entwickeln wird. Wir wissen nicht mit Sicherheit, ob die technologische Arbeitslosigkeit das Ergebnis der Automatisierung von Arbeitsplätzen durch AI sein wird, oder ob die Automatisierung die Schaffung neuer Arbeitsplätze erleichtern wird, so wie es schon lange vor Beginn der industriellen Revolution der Fall war. Was ist die Entsprechung des Smartphone-Phänomens für die digitale Disruption und Automatisierung? Wahrscheinlich wird es etwas anderes sein als das, was die meisten Menschen heute erwarten, aber es wird ihnen im Nachhinein ganz natürlich und vorhersehbar erscheinen.

Prognosen sind riskant, vor allem, wenn es um die Zukunft geht, aber dieses Buch wird eine Reihe gewaltiger Herausforderungen beschreiben, die die AI neben ihren enormen Vorteilen mit sich bringen wird. Es wird argumentieren, dass wir die sich vollziehenden Veränderungen genauer beobachten und eine Reihe von politischen Optionen entwickeln sollten, um die bestmöglichen Ergebnisse zu erzielen. Die Bandbreite möglicher Ergebnisse ist groß, sie reicht vom Schrecklichen bis zum Wunderbaren, und sie sind nicht vorherbestimmt. Sie werden zum Teil durch Zufall, zum Teil durch ihre eigene innere Logik, zum Teil aber auch durch die auf allen Ebenen der Gesellschaft verfolgte Politik ausgewählt.

Der Einzelne muss sich darauf vorbereiten, so flexibel wie möglich zu sein, um die Herausforderungen einer sich schnell verändernden Welt zu meistern. Organisationen müssen versuchen, die für sie wichtigsten Veränderungen zu antizipieren und ihre Strategien und Taktiken entsprechend anzupassen. Die Regierungen müssen Vorschriften erlassen, die die besten Ergebnisse fördern und die schlechtesten abwehren. Bis zu einem gewissen Grad müssen sie auch die enormen finanziellen und personellen Ressourcen einsetzen, die ihnen zur Verfügung stehen, obwohl sie angesichts der in allen Phasen vorherrschenden Ungewissheit über künftige Entwicklungen damit vorsichtig sein müssen.

Die Automatisierung und die Superintelligenz sind die beiden Kräfte, die, wie wir jetzt schon sehen können, wahrscheinlich enorme Auswirkungen haben werden. Viele Menschen sind nach wie vor skeptisch, was die eine oder die andere Kraft betrifft, und natürlich weiß niemand mit Sicherheit, wie sie sich entwickeln werden. Aber es wäre sehr unklug, sie zu ignorieren.

Die Automatisierung könnte zu dem führen, was ich eine wirtschaftliche Singularität nenne. Der Begriff Singularität stammt aus der Mathematik und Physik und bezeichnet einen Punkt, an dem eine Variable unendlich wird, so dass die normalen Regeln nicht mehr gelten.  Eine wirtschaftliche Singularität könnte dazu führen, dass eine Elite die Produktionsmittel besitzt und den Rest von uns in einem dystopischen technologischen autoritären Regime unterdrückt. Oder sie könnte zu einer Wirtschaft des radikalen Überflusses führen, in der niemand für seinen Lebensunterhalt arbeiten muss und wir alle frei sind, Spaß zu haben, unseren Geist zu erweitern und unsere Fähigkeiten voll zu entfalten. Ich hoffe und glaube, dass Letzteres möglich ist, aber vielleicht müssen wir die Ereignisse beeinflussen. Ich behandle dieses Thema in einem Begleitbuch,