Osobliwość coraz bliżej recenzja

Każdy powinien poszukiwać zniuansowanych odpowiedzi na wyzwania, które stawia przed nami nieuchronna sztuczna inteligencja (AI). Można ją kochać, nienawidzić, ale na pewno trzeba budować o niej poglądy, bo ona nas zna coraz lepiej. Ray Kurzweil od lat jest zwolennikiem technicyzacji i postępu z niej wynikającego. Jest znanym futurologiem, który promuje koncept nadchodzącej ‘osobliwości’, czyli nagłego zwielokrotnienia możliwości naszego umysłu, gdy tylko mózg wejdzie w pogłębioną fizyczną interakcję ze światem cyfrowym. W najnowszej książce „Osobliwość coraz bliżej. Kiedy połączymy się z AI” stara się wykazać nie tylko, że co najwyżej za dekadę należy spodziewać się tej eksplozji możliwości naszego gatunku. Zakłada, że my tego powinniśmy chcieć, bo nie mamy wyjścia (obiektywnie), bo to najlepsza droga, a ważne negatywne konsekwencje, są tylko potencjalnością możliwą do minimalizowania. Biorąc to pod uwagę, wypada książkę wizjonera przeczytać, jako jeden z ważnych alternatywnych punktów widzenia, które razem tworzą przestrzeń aktualnych sporów globalnych o kierunkach i konsekwencjach zmian. Chodzi o całą gamę kontrowersji – od środowiskowych, przez psychologiczne, po kulturowe i fizyczne.

Kurzweil nie wszystkie obszary eksploruje w książce, bo niektóre nie pasują do wykreowanej wizji. Jest w niej szeroka grupa parametrów, które sugerują ciągły postęp ‘ku lepszemu’ (lepszej edukacji, lepszych wskaźników makroekonomicznych, większego bezpieczeństwa, większego udziału OZE w energetyce, polepszanie się ludzkiej kondycji psycho-somatycznej, itd.). Nie ma dwutlenku węgla w atmosferze, wzrastającego zasolenia oceanów, walki korporacji IT o zasoby i możliwość budowy komercyjnych elektrowni do zasilania AI, ludzkiego lenistwa, naszego braku refleksji nad zbudowaną bańką informacyjną, globalnego hejtu i destabilizacji politycznej uprawnianych przez niedemokratyczne państwa. Jeżeli wykładnicze przyspieszenie udziału AI w życiu każdego tworzy szanse, to również buduje niebezpieczeństwa i, jak już widać, pozwala na deformacje dotychczas stabilnymi strukturami prowadząc je w nieoczekiwane (czasem złe) kierunki. Sporo można dobrego o książce powiedzieć, ale zaskakująco dużo przychodzi mi na myśl krytycznych uwag, głównie w związku z tym, czego w niej nie ma.

Manipulacje. Książka stawia kilka mocnych hipotez. Wybiorczość jest immanentną częścią każdego, bo mamy tendencję do pielęgnowania własnych błędów poznawczych. Jednak przykład z ołowiem (str. 168), którego negatywny wpływ na zdrowie wyeliminowano (co ma wspierać pogląd o postępie) jest nieuczciwy, jeśli nie wspomina się jednocześnie o plastiku, szczególnie gdy chwali się druk 3D i nieodległą możliwość ‘chałupniczego’ produkowania dowolnych przedmiotów karmiących nasz konsumpcjonizm (str. 202-208). Tak oczywista analogia ołów-plastik (przykład z ołowiem nie musiał się pojawić, bo bardzo szczątkowo wspiera argumentację autora, a skoro jest, to od razu kontrastuje z licznymi nieobecnymi w książce zjawiskami) sugeruje świadome pomijanie niewygodnych dla nas skutków globalizacji i postępu. Do pięknych grafik na których rośnie, co ma rosnąć i maleje, co powinno, dodałbym mizerną dynamikę poprawy poddawania recyklingowi elektroniki, listę związków i pierwiastków, które stanowią przedmiot pożądania firm hi-tech i sporów międzypaństwowych z tego wynikających. Poza dostrzeżonymi niedopowiedzeniami, mam sporo poważnych zastrzeżeń do sposobu prezentacji kilku klas zagadnień.

Centralne założenie, na którym futurolog buduje książkę, sformułowane jest tak (str. 87):

W związku z daleko idącym niedomówieniem wynikającym wprost z takiej deklaracji, chciałbym usłyszeć opinie neurologów, psychiatrów czy bioetyków na ten temat. Kurzweil, jako człowiek zajmujący się i umysłem uznał, że nie warto szerzej powołać się wprost na ich stanowiska. Nie istnieje jeszcze chyba wystarczająco poważna doświadczalna baza danych zebrana na zwierzętach. Nie znamy konsekwencji na naczelnych (na poziomie najbardziej złożonych procesów imaginacyjnych). A optymizm autora sugerujący upowszechnienie się takiego zespolenia już za kilka lat uważam za mrzonkę i mogę się o to założyć. Czemu? Nie mamy lepszej, niż inwazyjna kolonoskopia i gastroskopia, metody skanowania układu pokarmowego; sondy są wciąż prymitywne. Nie potrafimy wyhodować zębów, znamy zaledwie kilka chorób genetycznych opartych na jednym genie, nie rozumiemy wielokierunkowych zwrotnych komunikacji mózgu z resztą ciała. Mimo to, porywamy się na milionowe przyspieszenie głównego organu decyzyjnego?! W ramach następującej przez większość książki argumentacji wspierającej takie szacunki, dostajemy listę dobrodziejstw AI. Są one piękne, ciekawe, potrzebne. Zyska na tym wprost nauka, ekonomia, medycyna i rolnictwo. Jednocześnie duży znak zapytania powstaje w konsekwencji wyalienowania ludzi i kumulujących się problemów, które AI powinno jednak wspierać w pierwszej kolejności. Mam wrażenie, że przykłady z implementacją mózg-chmura AI czy przedłużeniem życia o kilka dekad, to takie ‘banery reklamowe’, by uzyskać społeczną akceptację do różnych komercyjnych projektów, głównie rozwijających branżę IT jako taką czy dających ludziom więcej rozrywki.

Piękne słowa autora o potrzebie wstrzemięźliwości, o budowaniu mechanizmów kontroli, implementowaniu części zasobów AI do samokontroli i nadzoru, to na szczęście istniejąca warstwa problemu. Prace teoretyczne trwają, a skodyfikowana ‘net-etyka’ wciąż niedomaga. Ważne przykład eksperckich uzgodnień - Asilomar 2017, kampania kontroli broni autonomicznych z 2023 – mogłyby uspokajać, gdyby nie fakt, że z jakichś powodów największe państwa świata nie podpisują takich apeli, deklaracji etycznych (str. 308-309).

Najlepsze, choć nie pozbawione dla mnie kontrowersji, są fragmenty prognozujące zmiany na rynku pracy. Chyba dobrze autor diagnozuje nieuchronne perturbacje, choć trochę bagatelizuje konsekwencje społeczne. Zakłada, że większość zmian będzie amortyzowana przez pojawienie się nowych zawodów. Zbyt dużo w tym optymizmie szukania wprost analogii z przemianami rewolucji przemysłowej. Kluczowa dla mnie jest zasada skali i tempa, bo zbyt optymistyczna aproksymacja tworzy błąd poznawczy, jak w przypadku zmian klimatu (*). Zaś sama lista zawodów najbardziej i najmniej zagrożonych, które wynikają z badań prowadzonych przez uczelnie i OECD, wygląda tak (str. 220):

Czyli seks ma przyszłość. Szkoda, że nie wspomina Kurzweil o trwającej rewolucji w tym zakresie, która alarmuje psychiatrów o konsekwencjach wirtualizacji zastępującej bliskość fizyczną. Oczywiście autor rozwija i wątek mentalnych możliwości AI, która po połączeniu z nami zastąpi (zwielokrotni/zasymuluje) dowolne emocje. Sam zakładam, że w związku z fizykalizmem, nasza konstrukcja najgłębiej nas wypełniająca jest co do zasady dyskretnym bodźcowaniem, które da się intencjonalnie modelować z zewnątrz. Jednak to proces na dłuższy okres, wymagający dekad badań nad konsekwencjami. Poza tym nie każdy będzie chciał wędrować po górach wirtualnie, nawet jeśli doznałby wszystkich emocji i fizycznych stanów doświadczanych przez alpinistów (na stronach 189-190 autor przekonuje o nieuchronności i pięknie takiej możliwości, a dla mnie to co najwyżej atrakcyjna alternatywa mająca i wady).

„Osobliwość coraz bliżej” to książka bardzo dobra, ale tylko wtedy, gdy przyswajamy ją ze świadomością, że autor wybrał tylko jeden aspekt zjawiska AI, ten pozytywny. Negatywne konsekwencje stanowią zaledwie kilka procent objętości tekstu. Większość zostaje spuentowana, jako ‘przejściowe komplikacje’. Ze sposobu oceny publikacji da się wyczytać, że wchodzę dość subiektywnie z autorem w konfrontację. Trochę jak Daniel Kahneman, którego ważne obiekcje wobec społecznych zalet AI pojawiają się w książce (str. 254-256). W związku z moim strumieniem świadomości nietypowo tworzącym opinię, który sugeruje emocje, nie mam miejsca na odniesienie się do dużej klasy ważnych, ciekawych i niepokojących tematów. Chociażby kalkulacja możliwego tanienia procesu tworzenia dowolnych produktów (str. 280), która w związku z nadchodzącą technologią atomowej manipulacji materii, miałaby pozwolić na powszechną dostępność każdego materiału (np. złoto czy diamenty mogłyby się stać ‘tanie jak barszcz’). Zgodnie z energetycznymi relacjami zachowania lokalnie tej właściwości, jakoś tego nie widzę. Podobnie nie zgadzam się, że wirtualna rzeczywistość pozwoli nam doświadczać 12-tu wymiarów (str. 292). Z długiej strony, Kurzweil we wprowadzającym rozdziale podał sporo ciekawych faktów o stronie formalnej tworzenia AI, w szczególności o sieciach neuronowych i ‘głębokim uczeniu się’(str. 25-37). Jego droga zawodowa (MIT, uczeń M. Minsky’ego), daje gwarancję, że skupi się fachowo na istocie AI, przynajmniej z punktu widzenia technikaliów. Jednocześnie, w związku z komercyjnym uwikłaniem (**), dalsze partie wychwalające AI stają się w jakimś sensie obciążeniem.

Książka nie jest wyczerpująca intelektualnie, choć bardzo inspirująca. Czyta się te wizje bardzo dobrze. Zdecydowanie lepiej futurolog dociera do odbiorcy, niż w pogmatwanej starszej „Nadchodzi osobliwość” (***). Jeśli traktować ją jako źródło perspektywy optymistycznej fana techniki i jedno z kilku źródeł poglądów o AI, to lektura konieczna. W zasadzie skupia się na obecnym stanie prac nad AI (rok 2023) i najbliższej przyszłości (co najwyżej do połowy XXI wieku). W tym sensie jest futurologią, choć głęboko osadzona na realiach i planach kilkuletnich twórców AI. Gdyby jeszcze polski wydawca dodał indeks nazwisk i rzeczowy, jak to mamy w oryginale, byłoby lepiej. Na pocieszenie, w dodatku, dostajemy historyczną listę kilkunastu procesorów, które przełamywały kolejne bariery wydajności (w okresie od 1939 do 2023).

Za zaniechania i przemilczenia – 4/10, za inspiracje do przemyśleń, do niezgody – 9/10

Ostatecznie: 7.0 – dobre z minusem

=======

* Błąd poznawczy wynikający z tempa zmian i paraleli z innym zjawiskiem, łączy rynek pracy doby AI z denialistami klimatycznymi. Tak, jak ci drudzy zakładają, że zmiany klimatyczne zachodziły też i w przeszłości, tak futurolog zasłania się rewolucjami cywilizacji ludzkiej w XIX i XX wieku. A problem tkwi w tempie i skali zmian w powiązaniu z możliwością społecznego ich zasymilowania. Tak, jak niezbyt uspokajającym jest dla nas fakt, że w karbonie było gorąco i jakoś przyroda przetrwała (choć zapewne ‘nie machnęlibyśmy ręką’ na taką obserwację, gdyby jednym z gatunków, które nie wytrzymały upałów był Homo sapiens), tak nieznaną co do liczebności grupę pracowników martwić będzie prognozowana anihilacja akurat ich profesji.

** Od 2012 Ray Kurzweil jest dyrektorem technicznym Google.

*** „Nadchodzi osobliwość” jest, zgodnie z tytułem, osobliwym przypadkiem wydawniczym. W 2013 Kurhaus Publishing wydał ją w fatalnej formie z błędami, kalecząc skład (nie dało się tego czytać). Szybko dokonał korekt w drugim wydaniu. Sama książka ukazała się ostatnio w tym samym wydawnictwie, co opiniowana publikacja.

=======

DODATEK

W związku z innymi poznanymi książkami prezentującymi AI z różnych perspektyw (od fizycznej, ekologicznej przez informatyczną, po historyczną i społeczną), podczas lektury tej publikacji wielokrotnie ‘zapalały mi się lampki’ w konsekwencji obserwacji, które szły w kontrze do intelektualnych konstrukcji autora. Choć alarmowały mnie wobec konkretnych treści pracy Kurzweila, sformułuję je w sposób, który chciałbym by był wyabstrahowany od tych inspiracji:

1. Posiadanie logicznej odpowiedzi na niemal każdy problem o złożoności społecznej oznacza, że prawie zawsze się mylimy w tych wnioskach.

2. To, że z oczywistej analizy coś wydaje się nieuchronne, nie wynika że nie zderzymy się w przyszłości z niezadowoleniem wystarczająco wpływowej grupy ludzi, by taki planowany kierunek zmian stał się uchronny.

3. W nastawionej dość merkantylnie Dolinie Krzemowej, informatyzacja z udziałem AI być może wydaje się motywacją dla każdego młodego Ziemianina do pogłębiania własnej edukacji. Jednak w praktyce smartfon w kieszeni na razie przyczynia się do inflacji deprecjonowania sensu budowania wiedzy wymagającej wysiłku.

4. Z faktu wykładniczego wzrostu szybkości procesorów zapewne wynika równie szybka technicyzacja, ale daleko tej mocnej korelacji do uwzględnienia w niej każdego aspektu życia ludzi.

5. Kwestia niespotykanego przyspieszenia zjawisk z punktu 4 jednocześnie oznacza, że czekają nas raczej bardzo niestabilne stany emergentnych składników rzeczywistości społeczno-cywilizacyjnej, a nie ich jednorodny i przyśpieszający kurs w kierunku pożądanym z punktu widzenia struktur ludzkich w kontekście uniwersalnych wartości czy celów egzystencjalnych.

6. Eksponencjalny wzrost ilości archiwizowanych danych w chmurach nie jest miarą wzrostu naszej inteligencji, która w związku z zupełnie innymi faktami co najwyżej nieśmiało faluje. Między bardzo zgrabnym wzorem na lagrangian w ramach kwantowego Modelu Standardowego, który nerd może sobie kupić z koszulką w największym internetowym sklepie (https://www.amazon.com/Standard-Lagrangian-Particle-Physics-T-Shirt/dp/B07QLM89H6 ), a zrozumieniem sensu symboli na nadruku, jest przepaść dekad znojnej pracy bystrego umysłu i walki z własną ignorancją. Stąd wynika, w związku z punktem 3, że nie każda możliwość do czegoś materializuje się w sensowne coś.

7. Możliwości AI będą wykorzystywane w przytłaczającej większości do karmienia naszych emocjonalnych potrzeb rozrywkowych, które dostarczą nowych substytutów. Skoro jednak zasoby mamy mocno reglamentowane na planecie, to płacimy wysoką ceną trwania przy paradygmatach gospodarki, gdzie AI ‘każemy się wpisać’ tylko w ten dotychczasowy model, a nie go stroić poprzez wykorzystanie jej ogromnych możliwości wieloczynnikowego projektowania optymalnych zmian na przyszłość.