Superintelligenz
Szenarien einer kommenden Revolution
Nick Bostrom
Cite this publication as
Nick Bostrom, Superintelligenz (2014), Suhrkamp Verlag, Berlin, ISBN: 9783518739013
3247
accesses
accesses
30
quotes
quotes
Descripción / Abstract
Was geschieht, wenn es Wissenschaftlern eines Tages gelingt, eine Maschine zu entwickeln, die die menschliche Intelligenz auf so gut wie allen wichtigen Gebieten übertrifft? Klar ist: Eine solche Superintelligenz wäre enorm mächtig und würde uns vor Kontroll- und Steuerungsprobleme stellen, verglichen mit denen die Bewältigung des Klimawandels ein Klacks ist. Mehr noch: Vermutlich würde die Zukunft der menschlichen Spezies in den Händen dieser Superintelligenz liegen, so wie heute die Zukunft der Gorillas von uns abhängt. Zukunftsmusik? Oder doch Science-Fiction?
Eindeutig Zukunftsmusik, sagt Nick Bostrom, und zwar eine, die vielleicht schon binnen eines Menschenalters erklingen wird. Damit wir verstehen, was auf uns zukommt, nimmt er uns mit auf eine faszinierende Reise in die Welt der Orakel und Genies, der Superrechner und Gehirnsimulationen, aber vor allem in die Labore dieser Welt, in denen fieberhaft an der Entwicklung einer künstlichen Intelligenz gearbeitet wird.
Bostrom skizziert mögliche Szenarien, wie die Geburt der Superintelligenz vonstattengehen könnte, und widmet sich ausführlich den Folgen dieser Revolution. Sie werden global sein und unser wirtschaftliches, soziales und politisches Leben tiefgreifend verändern. Wir müssen handeln, und zwar kollektiv, bevor der Geist aus der Flasche gelassen ist – also jetzt! Das ist die eminent politische Botschaft dieses so spannenden wie wichtigen Buches.
Eindeutig Zukunftsmusik, sagt Nick Bostrom, und zwar eine, die vielleicht schon binnen eines Menschenalters erklingen wird. Damit wir verstehen, was auf uns zukommt, nimmt er uns mit auf eine faszinierende Reise in die Welt der Orakel und Genies, der Superrechner und Gehirnsimulationen, aber vor allem in die Labore dieser Welt, in denen fieberhaft an der Entwicklung einer künstlichen Intelligenz gearbeitet wird.
Bostrom skizziert mögliche Szenarien, wie die Geburt der Superintelligenz vonstattengehen könnte, und widmet sich ausführlich den Folgen dieser Revolution. Sie werden global sein und unser wirtschaftliches, soziales und politisches Leben tiefgreifend verändern. Wir müssen handeln, und zwar kollektiv, bevor der Geist aus der Flasche gelassen ist – also jetzt! Das ist die eminent politische Botschaft dieses so spannenden wie wichtigen Buches.
Descripción
<p>Nick Bostrom, geboren 1973, ist Professor für Philosophie am St. Cross College der Universitätvon Oxford und sowohl Direktordes Future of Humanity Instituteals auch des Programme on the Impacts of Future Technology. 2009 erhielt er den Eugene R. Gannon Award for the Continued Pursuit of Human Advancement. Bostrom war auf der 100 Top Global Thinkers List von Foreign Policy, auf der Top World Thinkers List des Magazins Prospect und ist Autor von mehr als 200 Publikationen. Seine Schriften wurden bislang in 22 Sprachen übersetzt, sein Buch <em>Superintelligenz</em> ist ein internationaler Bestseller.</p>
Índice
- [Cover]
- [Infos zum Buch/Autor]
- [Titel]
- [Impressum]
- Inhalt
- Die unvollendete Fabel von den Spatzen
- Vorwort
- 1. Vergangene Entwicklungen und gegenwärtige Möglichkeiten
- Wachstumsmodi und Weltgeschichte
- Große Erwartungen
- Zeiten der Hoffnung und der Hoffnungslosigkeit
- Der Stand der Technik
- Die Zukunft der maschinellen Intelligenz: Ein Meinungsbild
- 2. Wege zur Superintelligenz
- Künstliche Intelligenz
- Gehirnemulation
- Biologische Kognition
- Gehirn-Computer-Schnittstellen
- Netzwerke und Organisationen
- Zusammenfassung
- 3. Formen der Superintelligenz
- Schnelle Superintelligenz
- Kollektive Superintelligenz
- Qualitative Superintelligenz
- Direkter und indirekter Einflussbereich
- Vorteile der digitalen Intelligenz
- 4. Die Kinetik einer Intelligenzexplosion
- Zeitlicher Ablauf und Geschwindigkeit des Takeoffs
- Widerstand
- Optimierungskraft und Explosivität
- 5. Der entscheidende strategische Vorteil
- Wird der Führende einen entscheidenden strategischen Vorteil erlangen?
- Wie groß wird das erfolgreiche Projekt sein?
- Vom entscheidenden strategischen Vorteil zum Singleton
- 6. Kognitive Superkräfte
- Fähigkeiten und Superkräfte
- Ein KI-Übernahme-Szenario
- Macht über die Natur und über Akteure
- 7. Der superintelligente Wille
- Der Zusammenhang zwischen Intelligenz und Motivation
- Instrumentelle Konvergenz
- 8. Sind wir dem Untergang geweiht?
- Ist eine existentielle Katastrophe das wahrscheinlichste Szenario?
- Der hinterhältige Verrat
- Katastrophale Fehler
- 9. Das Kontrollproblem
- Zwei Agenturprobleme
- Methoden der Fähigkeitenkontrolle
- Methoden der Motivationsselektion
- Zusammenfassung
- 10. Orakel, Flaschengeister, Souveräne und Werkzeuge
- Orakel
- Flaschengeister und Souveräne
- Werkzeuge
- Ein Vergleich
- 11. Multipolare Szenarien
- Von Pferden und Menschen
- Das Leben in einer algorithmischen Wirtschaftsordnung
- Kann sich nach dem Übergang ein Singleton bilden?
- 12. Der Erwerb von Werten
- Das Problem der Wertgebung
- Evolutionäre Selektion
- Lernen durch Verstärkung
- Assoziativer Wertzuwachs
- Ein motivationales Grundgerüst
- Das Erlernen von Werten
- Das Verändern von Emulationen
- Institutionendesign
- Übersicht
- 13. Die Wahl der Auswahlkriterien
- Der Bedarf für die indirekte Normativität
- Kohärenter extrapolierter Wille
- Moralmodelle
- Folge meiner Intention!
- Eine Komponentenliste
- Nah genug kommen
- 14. Das strategische Gesamtbild
- Wissenschaftliche und technologische Strategien
- Pfade und Katalysatoren
- Zusammenarbeit
- 15. Die heiße Phase
- Philosophie unter Zeitdruck
- Was ist zu tun?
- Unser Bestes geben
- Anmerkungen
- Vorwort
- 1. Vergangene Entwicklungen und gegenwärtige Möglichkeiten
- 2. Wege zur Superintelligenz
- 3. Formen der Superintelligenz
- 4. Die Kinetik einer Intelligenzexplosion
- 5. Der entscheidende strategische Vorteil
- 6. Kognitive Superkräfte
- 7. Der superintelligente Wille
- 8. Sind wir dem Untergang geweiht?
- 9. Das Kontrollproblem
- 10. Orakel, Flaschengeister, Souveräne und Werkzeuge
- 11. Multipolare Szenarien
- 12. Der Erwerb von Werten
- 13. Die Wahl der Auswahlkriterien
- 14. Das strategische Gesamtbild
- 15. Die heiße Phase
- Danksagung
- Verzeichnis der Abbildungen, Tabellen und Kästen
- Literaturverzeichnis
- Register
- Ausführliches Inhaltsverzeichnis