Nadchodzi osobliwość – Ray Kurzweil (recenzja)

“Nadchodzi osobliwość” zaliczam do książek, z którymi można się nie zgadzać, ale które powinien przeczytać każdy czytelnik zainteresowany postępem naukowym i losem ludzkości. Ray Kurzweil napisał bowiem fascynujące studium o przekształcaniu się inteligencji ludzkiej w inteligencję niebiologiczną, stanowiące jednocześnie ekstrapolację wzrostu wykładniczego na wszelkie aspekty postępu technologicznego. Książka ta to także przykład na to, jak późno trafiają do nas publikacje, o których jest głośno w zagranicznych mediach i które wywołują wielką debatę wśród intelektualistów i naukowców: “Nadchodzi osobliwość” miała swoją światową premierę już w 2005 roku, czyli aż 9 lat temu, co w kwestii postępu technologicznego jest niemal całą epoką.
Wracając do meritum, faktem jest, że sztuczna inteligencja znajduje zastosowanie w coraz większej liczbie dziedzin, począwszy od wszelkiej maści symulatorów, poprzez urządzania medyczne, a skończywszy na algorytmach i  instrumentach giełdowych. Wizje Kurzweila, mimo plastycznych szczegółów i przekonujących argumentów, mają jednak parę znaczących słabości.

1. Główna idea zawarta w tej publikacji:

Zdaniem Raya Kurzweila, już wkrótce, a najpóźniej w 2045 roku, nastanie era osobliwości, czyli “okres w przyszłości, w którym tempo zmian technologicznych będzie tak szybkie, a jego wpływ tak głęboki, że życie ludzkie zmieni się w sposób nieodwracalny” [1]. Natomiast fundamentem, na jakich następuje ta niezauważalna zmiana, jest wzrost wykładniczy. “Zwodniczy, niezauważalny, który nagle wybucha z nieoczekiwaną furią” [2]. To oczywiście dosyć ogólne stwierdzenie, ale Kurzweil poświęca ponad 500 stron na szczegółowe udowodnienie swoich tez. Tym samym uzyskuje efekt dwojakiego rodzaju. Z jednej strony nagromadzenie w jednym miejscu tak wielu faktów naukowych sprawia, że laikowi trudno ocenić wiarygodność wielu twierdzeń. Natomiast z drugiej strony wystarczy znaleźć choć jedno zdanie, albo jeden fakt, który w widoczny sposób rozmija się z prawdą, by zrazić się do pozostałych, już sensownych teorii.

Po lekturze takich książek jak ta mamy na pewno lepsze rozeznanie w dziedzinach, o których zazwyczaj wiemy niewiele. Poszerzamy horyzonty myślowe, zapoznajemy się z mało znanymi dokonaniami naukowców w bardzo wąskich specjalnościach. Jednocześnie, zwłaszcza w kwestiach niezwykle skomplikowanych, wykraczających poza naszą dotychczasową wiedzę, musimy obdarzyć autora sporym zapasem zaufania. I tu kryje się niebezpieczeństwo, że nie będziemy w stanie oddzielić plew od ziarna, czyli w tym wypadku szalonych, mało prawdopodobnych wizji od udokumentowanych, niezależnie potwierdzonych badań i odkryć naukowych.
Albo ufamy, albo sięgamy do źródeł. Czyli alternatywa jest. Jednak w przypadku książki “Nadchodzi osobliwość” przeczytanie wszystkich źródeł, na jakie powołuje się Ray Kurzweil, zajęłoby nam parę miesięcy, jeśli nie lat. Pozostaje więc nam do dyspozycji indywidualny poziom zaufania, bazujący na naszej obecnej wiedzy i odrobinie intuicji.

Książka jest dla mnie jednak zbyt jednostronna. Trudno zgodzić się przede wszystkim ze zbyt optymistycznym podejściem autora do ewentualnych skutków pojawienia się człowieka tysiące razy bardziej inteligentnego niż obecnie. Jeśli nawet autor odpowiada krytykom, traktuje ich z poczuciem wyższości, uznając, że albo go rozumieją, albo nie rozumieją znaczenia postępu wykładniczego. Książka, jakby nie było stricte naukowa, trąci też zbyt często metafizyką i dogmatyką, co znacznie obniża jej wiarygodność. Jaki szanowany naukowiec, czy popularyzator nauki, miałby odwagę napisać w swojej pracy stwierdzenie typu: “Jest to ostateczne przeznaczenie Osobliwości i wszechświata” [3]? Chyba żaden, ale nie Ray Kurzweil. Tym samym uważny czytelnik może dojść do wniosku, że autor stawia się ponad społecznością naukowców, starając się wszelkimi możliwymi środkami przekonać niedowiarków, że to on ma rację, a ci, co się z nim nie zgadzają, racji z definicji nie mają i nie mogą mieć. Stąd już tylko jeden krok do naukowej szarlatanerii. Trzeba przyznać, że autor zgrabnie balansuje na cienkiej granicy między tym, co akceptowalne w środowisku naukowym, a tym, co można zaklasyfikować jako pseudonaukowy bełkot. Na usprawiedliwienie można rzucić argument, że wszelkie przewidywanie przyszłości, nawet oparte na solidnych podstawach, będzie z założenia nieskuteczne, w takim razie “Nadchodzi osobliwość” jawi się więc jako literacka, a nie fachowa próba opisania skutków postępu technologicznego w ciągu najbliższych kilkudziesięciu lat. Problem w tym, że Kurzweil obwieszcza swoje teorie tonem nie znoszącym sprzeciwu, i to mnie najbardziej mierzi w tej książce.

nadchodzi osobliwość ray kurzweil

Źródło: Kurhaus Publishing

Kurzweil opisuje przyszłość, która może nigdy się nie wydarzyć. Z bardzo wielu powodów, o których w książce nia ma słowa. To problem większości książek futurystycznych. Teoria wydaje się być bardzo przekonywująca, w końcu wykorzystanie mocy obliczeniowej komputerów, czy to w  formie algorytmów, czy uczących się sieci neuronowych, ma się coraz lepiej, a skutki tego trendu są coraz bardziej wyraziste w takich dziedzinach jak neurobiologia, robotyka, nanotechnologia czy medycyna. A przecież wystarczy jedno zdarzenie, a cała teoria nigdy się w pełni nie urzeczywistni, albo jej realizacja zostanie opóźniona o dziesiątki czy setki lat. Asteroida, wirus, konflikt zbrojny czy nawet mega-wybuch wulkanu  – wszystko to może mieć dalekosiężne skutki, nieuwzględnione w “Nadchodzi osobliwość”. A przecież zgodnie z jakże sensowną teorią Nassima Taleba, “czarny łabędź” może w każdej chwili przynieść zdarzenia mało prawdopodobne, ale jednak możliwe.  Zdarzenia, których nikt się nie spodziewał, a które dopiero po fakcie okazały się oczywiste. Zdarzenia, które w skutkach niosą nieprzewidywalne, często groźne konsekwencje. Po drugie, wizja nieustannego postępu wykładniczego zakłada, że kiedyś musi się wyczerpać jego potencjał, słynne “nic nie rośnie wiecznie”. A Kurzweil wychodzi z założenia, że jeden trend będzie bez końca generował kolejny, nieustannie przyspieszając wzrost w dosłownie wszystkich dziedzinach życia.

2. Co warto wiedzieć o autorze książki?

Ray Kurzweil [4] to przede wszystkim wynalazca (jego specjalizacja to systemy rozpoznawania tekstu i mowy, np. słynne OCR to jego wynalazek), przedsiębiorca, współzałożyciel Singularity University [5] (razem z Google i NASA), dyrektor technologiczny w Google, a jako futurolog autor poczytnych książek. Jako wiodący przedstawiciel transhumanizmu jest często oskarżany o zbyt materialistyczne podejście do człowieka. Trudno nie zgodzić się w tej w kwestii z krytykami. W książce na palcach jednej ręki można odnaleźć próby zmierzenia się z psychologicznymi czy społecznymi aspektami “intymnej fuzji”, jak Kurzweil nazywa integrację ludzkiego mózgu z komputerem. O świadomości, moralności czy etyce nie wspominając. To najsłabszy element jego wizji. Autor stoi bowiem na stanowisku, że dzięki odwrotnej inżynierii uda się odtworzyć ludzki mózg do tego stopnia, że komputery w pełni odtworzą jego strukturę neuronową i jego wszelkie funkcje. Ale przecież gdyby tak miało się kiedyś stać, to dalej nie wiemy, czym jest świadomość i w którym momencie powstaje inteligencja. Ba, nie wiemy nadal, czym jest życie. Mimo to Kurzweil zdaje się albo znać odpowiedzi na te pytania, albo je pomija, albo udaje, że nie są tak ważne. Tylko że w ten sposób jego wizje sprawiają wrażenie kruchych tworów genialnego skądinąd umysłu, w których wystarczy jeden mały, pominięty wcześniej, element, by cała teoria rozsypała się w drobny mak. Kurzweill jest bowiem tak przekonany do swoich teorii, że popełnia po drodze nieuniknione błędy poznawcze: złudzenie zrozumienia, złudzenie kontroli czy efekt wyniku.

3. Cytaty warte przytoczenia:

“Co jednak osiągnęłoby tysiąc naukowców, z których każdy byłby tysiąc razy inteligentniejszy niż dzisiejsi naukowcy i działał tysiąc razy szybciej niż współcześni ludzie (ponieważ przetwarzanie informacji w ich głównej mierze niebiologicznych mózgach byłoby szybsze? [...] Cóż, z jednej strony stworzyliby technologię, dzięki której staliby się jeszcze inteligentniejsi (ponieważ ich inteligencja nie miałaby już ograniczonej wydajności). Zmieniliby swój proces myślowy, aby móc myśleć szybciej. Kiedy naukowcy staną się milion razy bardziej inteligentni i będą działać milion razy szybciej, godzina będzie oznaczała sto lat postępu (w dzisiejszych warunkach). ” [6]

4. Strategia biznesowa warta uwagi:

Z biznesowego punktu widzenia interesujący jest rozdział poświęcony wzrostowi wykładniczemu. Przekonująca jest chociażby ekstrapolacja prawa Moore’a i teorii postępu wykładniczego na inne dziedziny, z duża ilością wiarygodnych zestawień i twardych danych. Jedyne niebezpieczeństwo, którego nie jestem w stanie należycie oszacować, leży w samej czynności zestawiania danych pod tezę. Istnieje bowiem szansa, że autor mógł ulec iluzji korelacji, dobierając dane tak, aby pasowały do promowanej tezy, a pomijając te, które pierwotnych założeń nie spełniały. Autor niewiele miejsca poświęca zastosowaniem sztucznej inteligencji w biznesie czy w ekonomii, wzmiankując jedynie, że takie systemy wykorzystywane są głównie w bankowości (do wykrywania oszustw), w sieciach handlowych (do analizowania miliardów transakcji)  czy na giełdach papierów wartościowych (do monitorowania i wyłapywania podejrzanych transakcji).

5. Czy autor mnie przekonał do swojej koncepcji?

Ogólna idea integracji człowieka z komputerem jest trafna i oczywista. Takie rzeczy się przecież już dzieją. jednak w moim odczuciu wizje autora są zbyt śmiałe, a niekiedy zbyt fantastyczne, by traktować je serio.
Kolejna kwestia to zaufanie, jakim laik, lub osoba mało obeznana z jakąś wąską specjalizacją, musi obdarzyć naukowca, czy autora, prezentującego nowe, a zarazem skomplikowane teorie. Można by sparafrazować nawet samego Raya Kurzweila i pokusić się o stwierdzenie, że zaufanie też rośnie wykładniczo w korelacji do statusu naukowca czy autora. Im bardziej znane nazwisko, tym łatwiej nam, szerokiej publiczności, zaakceptować nowe teorie jego autorstwa. Co, przy okazji, prowadzi do ciekawych paradoksów. Wystarczy przywołać casus Stephena Hawkinga. Przecież jeśli miłośnik literatury popularnonaukowej zapragnie przeczytać najwcześniejsze prace tego znanego fizyka teoretycznego, to po ich lekturze z pewnością zachwyci się pięknem, złożonością czy genialnością jego wizji, mimo że sam autor wycofał się z większości swoich twierdzeń już wiele lat temu!

Co więcej, w momencie, gdy my obdarzamy zaufaniem autora, to on sam robi to samo w stosunku do innych naukowców, którzy też niekiedy tylko fantazjują na bazie aktualnej wiedzy. W książce Ray Kurzweil wspomina chociażby o cząsteczkach, którą rzekomo mogą się przemieszczać szybciej od światła. Nawet jeśli to prawda, to naukowcy nie potrafią jak na razie wykorzystać tego odkrycia do przenoszenia informacji z ponadświetlną prędkością, a takie rozważania snuje Kurzweil. Może być więc tak, że Ray Kurzweil przypisuje zbyt duże znaczenie do mało wiarygodnych interpretacji wyników pewnych badań. Tu  pojawia się kolejne pytanie: ile razy, podczas lektury książki, obdarzyliśmy autora zaufaniem, a on je zawiódł, nawet o tym nie wiedząc. Ile razy powołuje się na badania, które jednak nie są tak wiarygodne jak mogłoby się wydawać, ile razy cytuje naukowców we niewłaściwym kontekście, tak aby dana wypowiedź pasowała do jego tezy?

Mam jeszcze jeden problem z wizjami autora. Bo gdyby miały ziścić się jego przewidywania, i powstał człowiek 2.0, z mózgiem zintegrowanym z komputerem, a potem wykształciłyby się humanoidy czy roboty zachowujące się i rozumujące identycznie jak dzisiejszy człowiek, to rzeczywistość stałaby się pełna technologicznych zagrożeń. W zasadzie można by się spodziewać najgorszych możliwych scenariuszy, gdzie bezduszne maszyny przejmują powoli kontrolę nad słabym, kruchym człowiekiem.

6. Styl:

Jak na książkę popularnonaukową, czyta się ją znakomicie, ale drażni jedna rzecz: ton nie znoszący sprzeciwu. Zbyt mało tu miejsca na alternatywne rozwiązania i wizje.

7. Do kogo jest skierowana ta książka?

“Nadchodzi osobliwość” na pewno zaintryguje czytelników, których ciekawią takie tematy jako futurologia, postęp technologiczny, transhumanizm czy neurobiologia. I wszystkich tych, którzy zastanawiają się, czy integracja ludzkiego umysłu z komputerem będzie kiedykolwiek możliwa, a jeśli tak (jak twierdzi autor), to na jakim etapie tej integracji jesteśmy i jakie wyzwania czy zagrożenia czekają na naukowców zajmujących się sztuczną inteligencją.

8. Moja ocena książki:

- Styl: 8/10
- Treść: 8/10
- Jakość edytorska: 9/10 (jedyne zastrzeżenie: zbyt drobna czcionka przypisów, oraz brak odstępów między przypisami’ wielki plus za oryginalną i niebanalną okładkę)
- Ocena łączna: 8/10

9. Spis treści “Nachodzi osobliwość”:

Prolog: Moc pomysłów
Rozdział 1. Sześć epok.
Rozdział 2. Teoria ewolucji technologicznej: prawo przyspieszających zwrotów
Rozdział 3. Osiąganie możliwości obliczeniowych ludzkiego mózgu
Rozdział 4. Uzyskanie oprogramowania ludzkiej inteligencji: Jak przeprowadzić proces odwrotnej inżynierii ludzkiego mózgu
Rozdział 5. GNR: trzy zazębiające się rewolucje
Rozdział 6. Wpływ
Rozdział 7: Ich bin ein Singularitarian
Rozdział 8: Głęboko wpleciona obietnica i niebezpieczeństwa GNR
Rozdział 9: Odpowiedź na krytykę

10. Informacje dodatkowe i linki:

Strona wydania polskiego:
http://www.kurhauspublishing.com/ksiazki/okladka/id/29

Strona wydania amerykańskiego:
http://www.singularity.com/

Wykaz technologicznych przepowiedni Kurzweila jest imponujący[7], choć nie są w większość aż tak trafne czy znaczące, jak chciałby ich autor [8].

Dziękuję redakcji wydawnictwa Kurhaus Publishing za udostępnienie egzemplarza recenzenckiego.

Źródła:

[1-2] “Nadchodzi osobliwość. Kiedy człowiek przekroczy granice biologii”, Ray Kurzweil, Kurhaus Publishing, 2013, str.23
[3] ibidem, str.35
[4] http://pl.wikipedia.org/wiki/Raymond_Kurzweil
[5] http://pl.wikipedia.org/wiki/Singularity_University
[6] “Nadchodzi osobliwość. Kiedy człowiek przekroczy granice biologii”, Ray Kurzweil, Kurhaus Publishing, 2013, str.37
[7] http://en.wikipedia.org/wiki/Predictions_made_by_Ray_Kurzweil
[8] http://spectrum.ieee.org/computing/software/ray-kurzweils-slippery-futurism

Leave a Reply

Your email address will not be published. Required fields are marked *


+ 9 = 16

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>