Superinteligencja
Scenariusze, strategie, zagrożenia
Ludzki mózg to dzieło idealne, najdoskonalszy twór w przyrodzie. Jego dominacją
zachwiał komputer Deep Blue, który w 1997 roku pokonał w szachy mistrza świata,
Garriego Kasparowa. Od tego czasu sztuczna inteligencja jest na ścieżce intensywnego
rozwoju. Czy dominacja superinteligencji nad człowiekiem jest realną perspektywą naszej
przyszłości? Czy ta przewaga skończy się kresem naszego gatunku?
Niniejsza książka jest odważną i oryginalną próbą znalezienia odpowiedzi na te
pytania. Możliwe kierunki rozwoju technologii cyfrowej i jego konsekwencje są trudne do
przewidzenia, a rozstrzygnięcie związanych z tym kwestii jest prawdziwym intelektualnym
wyzwaniem. Niemniej z niektórych szans i zagrożeń powinniśmy wszyscy sobie zdawać
sprawę. Nick Bostrom, wybitny badacz sztucznej inteligencji i transhumanizmu, stara się
jasno i klarownie przedstawić przyszłe konsekwencje coraz większego udziału maszyn w
naszym życiu, opisuje możliwe komplikacje i strategie rozwiązania ewentualnych problemów.
Lektura tej książki jest niesamowitą podróżą na krańce istoty człowieczeństwa,
wyprawą do przyszłości inteligentnego życia i prawdziwie fascynującym
doświadczeniem.
Kluczowe zagadnienia ujęte w książce:
dotychczasowe osiągnięcia w dziedzinie sztucznej inteligencji,
superinteligencja i jej możliwe ścieżki rozwoju,
zagłada ludzkości a rozwój superinteligencji,
kontrola nad umysłem człowieka w przyszłości.
Przedmowa (11)
Podziękowania (15)
1. Dotychczasowe dokonania i obecne możliwości (17)
- Fazy wzrostu w dziejach ludzkości (17)
- Wielkie oczekiwania (20)
- Okresy nadziei i rozczarowań (23)
- Aktualny stan badań (32)
- Opinie na temat przyszłości sztucznej inteligencji (38)
2. Ścieżki wiodące ku superinteligencji (45)
- Sztuczna inteligencja (46)
- Emulacja mózgu (56)
- Poznanie biologiczne (64)
- Interfejsy mózg - komputer (76)
- Sieci i organizacje (81)
- Podsumowanie (83)
3. Formy superinteligencji (87)
- Superinteligencja szybka (88)
- Superinteligencja zbiorowa (89)
- Superinteligencja jakościowa (93)
- Osiągalność pośrednia i bezpośrednia (95)
- Źródła przewagi inteligencji cyfrowej (96)
4. Dynamika eksplozji inteligencji (101)
- Moment i prędkość odejścia (101)
- Oporność (106)
- Siła optymalizacyjna i eksplozywność (117)
5. Decydująca przewaga strategiczna (123)
- Czy wiodący projekt uzyska decydującą przewagę strategiczną? (124)
- Jak duży będzie projekt uwieńczony sukcesem? (129)
- Od decydującej przewagi strategicznej do singletonu (134)
6. Poznawcze supermoce (139)
- Funkcjonalności i supermoce (140)
- Scenariusz przejęcia władzy przez SI (144)
- Władza nad naturą i bytami posiadającymi moc sprawczą (148)
7. Pobudki superinteligencji (159)
- Związek pomiędzy inteligencją a motywacją (159)
- Konwergencja instrumentalna (164)
8. Czy czeka nas zagłada? (173)
- Zagłada ludzkości jako najbardziej prawdopodobny skutek eksplozji inteligencji? (173)
- Zdradziecki zwrot (175)
- Rodzaje złośliwych usterek (179)
9. Problem kontroli (191)
- Dwa problemy agencji (191)
- Metody kontroli potencjału (194)
- Metody doboru motywacji (205)
- Podsumowanie (213)
10. Wyrocznie, dżiny, suwereni i narzędzia (215)
- Wyrocznie (215)
- Dżiny i suwereni (219)
- Narzędziowa SI (223)
- Porównanie (230)
11. Scenariusze wielobiegunowości (233)
- O koniach i ludziach (234)
- Życie w gospodarce algorytmicznej (243)
- Poprzejściowe tworzenie się singletonu? (258)
12. Zaszczepianie wartości (271)
- Problem przekazywania wartości (271)
- Selekcja ewolucyjna (274)
- Uczenie ze wzmocnieniem (275)
- Stopniowy przyrost wartości (276)
- Zrąb systemu wartości (279)
- Uczenie się wartości (281)
- Modyfikowanie emulacji (292)
- Projektowanie organizacji instytucjonalnej (294)
- Podsumowanie (300)
13. Wybór kryteriów wyboru (303)
- Potrzeba normatywności pośredniej (303)
- Spójna, ekstrapolowana wola (306)
- Modele moralności (315)
- Zrób to, co mam na myśli (318)
- Lista komponentów (320)
- Dostateczne przybliżenie (328)
14. Perspektywa strategiczna (331)
- Strategia naukowo-technologiczna (332)
- Scenariusze i czynniki umożliwiające ich realizację (347)
- Współpraca (356)
15. Moment krytyczny (369)
- Filozofia z nieprzekraczalnym terminem (369)
- Co mamy do zrobienia? (371)
- Proszę o powstanie najlepsze cechy natury ludzkiej (375)
Przypisy (377)
Bibliografia (455)
Skorowidz (483)
488 stron, Format: 14.0x21.0cm, oprawa miękka
