Nexus. Krótka historia informacji recenzja

Sztuczna inteligencja nie działa, gdy dziecko wyjmie jej wtyczkę z prądem. Ale wciąż zostaje człowiek zwabiony jej powabem. A to już nie tak łatwo zdematerializować. Może jesteśmy jak średniowieczni ludzie zaniepokojeni niewiadomym i chwilowo błądzimy jak oni? Bo nie wiedzieli co przyniesie zaraza ze wschodu i czy na skraju świata żyją te smoki. W drugim przypadku odkryliśmy piękno australijskiej rafy koralowej, a w pierwszym czarną śmierć. Najgorsze nie jest to, że AI może być w jakimś sensie dżumą, ale że nie da się tego przewidzieć. Do tego piękny świat w jej objęciach może w ułamku sekundy przemienić się w koszmar. Ostatecznie może paraliżować nas myśl, że sama AI mogłaby napisać te kilka powyższych zdań sugestywniej, by obudzić nasze strachy. Mamy cywilizacyjnie sporo do przepracowania.

Witajcie w samonapędzającej się pętli ograniczeń ludzkiego rozumu.

Yuval Noah Harari nie straszy, ale informuje. Nie jest delfickim medium, choć szukając oceny naszej sytuacji posiłkuje się analogiami ze świata antycznego. Dla mnie „Nexus. Krótka historia informacji” to kolejny głos w dyskusji o AI. Tym razem z punktu widzenia historyczno-socjologicznego. Prosta konstrukcja książki jest jej siłą. Poszukiwanie wspólnej warstwy dla AI i innych ludzkich doświadczeń pozwoliło na diagnozę, że trzeba skupić się na statusie INFORMACJI. Do tego historyk nie wikłał się w detale. Sprowadził AI wprost do wymiaru ludzkiego, rozszerzając dobrze znane konsekwencje naszych relacji z innymi przełomami konceptualnymi rekonfigurującymi nasze życie – opowieściami mitologicznymi, wynalazkiem druku i uprzemysłowieniem. Ubrał te kilka zwrotów dziejowych w niezmienne potrzeby interpersonalne i przeniósł tak uformowany problem w świat XXI wieku. Chciałbym wrażenia z lektury, które są niemal wyłącznie pozytywne, podzielić na dwie części. Pierwsza będzie typowa, druga spróbuje trochę osłabić bańki światopoglądowe.

Pomysł na strukturę książki oparł autor na obserwacji, że chodzi o człowieka. Ponieważ lubuje się Homo sapiens w opowieściach, to poszukał historyk sposobu na wysłowienie lęków związanych z AI w języku bajki napędzanej walką dobra i zła. Ponieważ to bajka dla dorosłych, to nie ma w niej czarno-białych społecznych konstrukcji i łatwego morału. Do tego wszystkie zjawiska, które przedyskutowuje, są właściwie rozpięte na kontinuum możliwości. AI może nam dać dużo, ale i odebrać wszystko. Formalnie, praca składa się z trzech części. Pierwsza jest historycznym krajobrazem tworzącym tło i kontekst pomocniczy, kluczowa druga stanowi przepracowanie statusu AI, trzecia kreśli scenariusze na przyszłość. Najlepiej wypada środkowa część, bo trafia niemal w sedno bez dużych luk w obszarach, gdzie świat cyfrowy doświadcza człowieka. Chodzi o jego role w strukturach społecznych, polityce, ekonomii, we własnym domu, itd.

Harari postawił prostą tezę, że AI nie jest wyjątkiem, jeśli chodzi o potrzebę uświadomienia sobie ceny, jaką należy płacić za redefinicję paradygmatu modelu życia w wyniku rewolucyjnej zmiany. Tak było i podczas wyboru kanonu Nowego Testamentu czy wynalezienia druku. W pewnych zakresach rewolucja informacyjno-informatyczna ostatnich dekad jest wprost kalką wielkich przemian cywilizacji przez milenia. W świadomie okrojonej wersji, AI może stanowić wręcz przedłużenie aktywowanego przez ludzi od zawsze z sukcesem pędu do gromadzenia informacji. Szybko jednak uświadamia nam historyk, że każdy problem jeśli nie jakościowo, to ilościowo musi być przebudowany do XXI-wiecznych wyzwań. A to już jest zadanie bajecznie trudne, a być może niewykonalne jeśli założyć, że chcemy dalej panować nad ziemskim światem. Rozszerzona interpretacja informacji (str. 76), z której ma wynikać kilka fenomenów sterujących kluczowymi przepływami - prawda, porządek, mądrość i władza – w konsekwencji uwzględnienia w niej AI, wymaga ogromnej pracy intelektualnej, dbania o demokrację, walkę z nieuczciwością potężniejszych od wielu państw korporacji i dokonania mnóstwa osobistych wyborów na każdym polu banalnej codzienności. Uzmysłowienie sobie jak bardzo nieuchronna jest zmiana cywilizacyjna, to najciekawszy wątek i lekcja opowieści. W mieszaninie smutku, dumy, refleksji, wątpliwości, ciekawości i otwartości na alternatywy, Harari kreśli plan na dziś i jutro. Każdy ma inną wrażliwość preferującą dostosowany do niej dyskurs, ale zbudowana w książce forma, unika przede wszystkim naiwności, nawet kosztem oględności. To uważam za ogromny plus, szczególnie gdy ktoś zaczyna dopiero poszukiwanie swoich odpowiedzi na zderzenie nas wszystkich z AI. Choćby taka obserwacja (str. 250):

Samego autora taka perspektywa poraża, szczególnie jeśli założyć, że AI może być nieskończenie bardziej skuteczna w tym co robi, niż stalinizm.

Jeśli ktoś czuje się już zagubiony w ‘analogowych’ (XX-wiecznych) procesach geopolityki, ekonomii, prawa, struktur kulturowej wieloznaczności, to podczas czytania uzmysłowi sobie poziom możliwej zmiany zawiłości procesów po zaprzęgnięciu w tryby świata AI, która „będzie stwarzać niespotykane dotąd rzeczywistości na niespotykaną dotąd skalę”. Zarysowany w książce problem już tylko warstwy społecznej jest wystarczająco skomplikowany, by nie pozostawiać złudzeń o bezradności analityczno-syntetycznej każdego poziomu egzystencji (str. 298-299):

Autor zwraca uwagę na dokonujące się obecnie przeformułowania znaczenia stabilnych jakoby kulturowych pojęć, które AI poprzez nasze zaangażowanie będzie transgresywnie rozwijać (str. 371-377). Chociażby mitologia i pojęcie ‘interkomputerowych bytów’ (jako analogia do ludzkiej intersubiektywności, w której dotychczas żyliśmy – z pieniędzmi i religią, jako intuicyjnie zrozumiałymi przykładami). Ganianie po ulicach z Pokemon Go, to tylko naiwna namiastka sprzed lat.W przyszłości takie dojrzałe ‘komputero-fenomeny’ mogą powodować realne wojny.

Trzecia cześć, w której dominuje namysł nad możliwymi i potrzebnymi rozwiązaniami, do pewnego stopnia jest spekulacją. Harari i tu jednak trzyma się historycznych drogowskazów, by czytelnika uwrażliwić na słabe punkty nas, jako użytkowników i ‘sąsiadów’ AI. W zasadzie cała wiedza humanistyczna o otaczającym nas świecie dotyczy człowieka. Wiemy więc już sporo o sobie. Wypada tylko z przerażeniem zgodzić się z autorem, że przynajmniej na razie groźne nie jest AI jako takie, ale człowiek. Szczególnie tyran, egotyk, homofob czy prymitywny szaleniec (a może bardziej cynicznie - inteligentny szaleniec) zaopatrzony w możliwości obecnego AI (str. 460):

Proponowany pejzaż na najbliższe lata, to nie pesymizm, raczej trzeźwy realizm. Historyk słusznie stawia pytanie, do którego pomocna w odpowiedzi może być i cała książka (str. 414):

Takie postawienie problemu pozwala wydobyć z naszej kondycji możliwe kształt interakcji z AI. Pomijając czynniki nieprzewidywalne, niedemokratyczne jednostki i systemy polityczne, cały świat musi to przepracować. Odgradzając się od relacji w ‘realu’, wikłamy się w nowy rodzaj emocji. Jeśli swoje ‘trzy grosze’ dorzuci AI, której duże modele językowe (np. ChatGPT) przenoszą subtelności na nowy poziom wysublimowania, to mamy obraz bliski filmom SF. Harari może nie wprost, ale w zasadzie nie pozostawiając pola do dyskusji, pokazuje że budowana obecnie sieć (w szerokim rozumieniu – jako wielopoziomowy twór mieszający sprzęt i oprogramowanie w globalną chmurę), nie da wyboru zwolennikom niszowych implementacji. Być może czeka nas rozseparowana fizycznie sieć kilku obszarów (np. USA, Chiny i Europa), ale to wciąż twór mocarstwowy, gdzie nie będzie miejsca na ‘kontrkulturową awangardę’. Nie chodzi o wykluczenie cyfrowe, takie świadome, ale o świat w którym nie da się żyć ‘analogowo’, bo wszystko będzie skorelowane z AI. Zasygnalizowana potrzeba aktywności ustawodawczej, apel o ponadnarodowy konsensus, poważne potraktowanie nieakceptowanej presji tworzonej przez gigantów IT – wszystko wymaga czasu, mądrości i politycznej woli. Harari nie jest naiwny, choć nie interesują go lokalnie ważne partykularyzmy stanowiące zaledwie didaskalia do dziejących się przemian. Musimy zacząć inaczej myśleć.

Trochę krytyczniej.

Można kręcić nosem na uproszczenia. To nieuchronne. Sprowadzenie rzeczywistości do dwóch stanów (str. 60-61) może ‘zagotować krew w żyłach’ każdego filozofa od epistemologii czy metafizyki. Podane bez pogłębienia dylematy moralne w kontekście inżynierii społecznej, w której AI mogłaby w sposób ciągły klasyfikować każdego sumując punkty za wybory życiowe(str. 367-370), od banalnych po fundamentalne, może oburzać etyków. Duża klasa daleko posuniętych analogii może zniesmaczać ekspertów sporej klasy dziedzin akademickich. Ale to nie jest istotne w tak pomyślanym tekście, gdzie liczy się intuicja i przenoszenie stworzonych memów, mitów, społecznych ról, znanych historii, przepracowanych dobrze postaw w nowy stan by wydobyć z niego istotę i nazwać wszystko ‘intersubiektywną rzeczywistością’. Skoro to byty zderzone z AI, czyli z siecią ‘nieatropocentrycznej natury’, to wielkie dla nas różnice oswojone cywilizacyjnie należało skompresować w jeden twór, niezależnie czy to dotyka naszej dumy z dziedzictwa czy nie. Mnie nieco martwi coś wręcz przeciwnego, pewna zachowawczość Harariego. Markując nieco moje redukcyjne podejście do świata, wciąż należy mieć świadomość, że wszystkie nauki ścisłe i przyrodnicze – od fizyki po neurologię – pokazują materialistyczne źródło fenomenów otaczającego nas świata (percepcja dyskretna, brak duszy, wolnej woli, …). W setkach badań ostatnich stuleci słowem nie wspomniano nawet o innych cywilizacjach, o ‘krzemowych umysłach’, itd. A jednak już w takim obrazie jest duży ładunek monizmu. Wobec tego, AI nie stanowi już ‘przeskoku jakościowego’, który może dodatkowo przerażać bądź uspokajać. Być może ‘wiara’, ‘świadomość’ nie będą atrybutami AI, a być może Homo sapiens jednak nie jest tu wyjątkowy, jak sugeruje historyk (str. 372).

Analizując społeczne konsekwencje informatyzacji sieciowej, Harari zupełnie pomija fakt postępującej atrofii wiedzy, jako źródła krytycznego poznania. Prezentuje model przeorientowania międzyludzkich interakcji z ponętną od zawsze niedyskrecją na absorbujące naszą uwagę i czas platformy społecznościowe. Skupia się na ludzkim przyzwyczajeniu do lenistwa i cedowaniu bazy informacyjnej na przeglądarki (str. 276-285). Nie wspomina jednak o szeroko rozumianym systemie edukacji, który stał się ofiarą demotywacji na każdym etapie. Nie chodzi tylko o uczniów i ich ambiwalentny stosunek do szkoły (od tysięcy lat). Ale o skutki osobnicze i społeczne wynikające z niezrozumienia fundamentalnej wartości procesu formowania mózgu, który w zderzeniu z AI musi być trenowany w sposób jeszcze bardziej wysublimowany. Danych i informacji mamy w nadmiarze, chodzi o umiejętność budowania wiedzy. Zaskoczył mnie również autor brakiem artykulacji wprost ostatecznego modelu ekonomicznego największych światowych gigantów (Amazon, Facebook, X , MS, …). W porażających przykładach pokazał cynizm i uwikłanie władz korporacji w politykę. Zatrzymał się na stwierdzeniu, że kierują się zyskiem. Problem polega na tym, że nie da się odwieść ich od planu pogłębiania patologii, jeśli doszły już do wniosku, że to fake news, teorie spiskowe, populizm – czyli wszystkie emocjonujące nieprawdy – MUSZĄ determinować decyzje zarządów potentatów IT, bo tworzą większy ruch. Skoro model biznesowy zbudowano na pozornej nieodpłatności za usługę, a zysk buduje klikalność, to systemowo mamy ‘kwadraturę koła’ (niezależnie, czy wybierzemy deontologię czy utylitaryzm, zgodnie z rozpatrywanymi w książce alternatywami). W rozdziałach szukających drogi na przyszłość, zabrakło mi dyskusji nad tym problemem. Opisując przyszłe losy gospodarek, w których AI przyczyni się do dalszej koncentracji, ale w zupełnie innej formie (str. 478-479), pomija dla mnie istotne elementy. Jednym jest skończoność zasobów ziemskich, drugim niedefiniowalny poprzez labiliność fakt gospodarczy o statusie źródeł ‘twardej gotówki’ (**). Top najbogatszych firm świata teraz to zupełnie inna lista, jeśli porównać ją do stanu z końca XX wieku. Aktualnie są tam firmy wirtualne oferujące ‘pośrednictwo’ i zarabiające w dużym stopniu na reklamach. A to tam AI się zadomawia na potęgę. Harari tego wątku nie uznał za wystarczająco ważny. Trochę szkoda.

„Nexus” nie jest idealnym tekstem. W dużym stopniu to niemożliwe w przypadku tak szerokiego zagadnienia. Mimo to, świetnie uzupełnia moją wiedzę o podstawy AI zakorzenione w wadach i zaletach człowieka. Harari manipulując (z reguły w dobrym sensie) historycznymi faktami, pokazuje że AI jest jak przysłowiowy nóż – może zrobić różne rzeczy. Tekst przyswaja się bardzo dobrze, bo historyk potrafi zainteresować sposobem opowiadania. Książka nie stawia żadnych wymagań od czytelnika, a biorąc pod uwagę jak dużo oferuje, stanowi wartościowy tekst. Nie jest techniczna na żadnym poziomie, choć w zasadzie płynnie prowadzi odbiorcę w obszary, gdzie należy stawiać fundamentalne pytania. Prowokuje do dalszych poszukiwań, do krytycyzmu, ale nie do krytykanctwa jak chciałem wykazać w paragrafach poniżej. Obserwując debaty publiczne – ich poziom, wybory tematów, stopień wnikliwości – niemal wszystkim decydentom poleciłbym tę lekturę. Zrobi na nich wrażenie (a jeśli nie, to zrobi na mnie wrażenie ich zaimpregnowanie i ignorancja).

BARDZO DOBRE – 8/10

+++

HARARI KONTRA ‘RESZTA ŚWIATA’

Dzięki popularności Harari dopracował się kilku rozbieżnych projekcji siebie u odbiorców. Pisze dużo, ma dość sprecyzowane poglądy. Nie wszystkie Jego analizy i wnioski mnie przekonują. Ale czemu wymagać od kogokolwiek, by wpasowywał się w nasze zapatrywania? Ludzka kultura, czyli coś interesującego historyka, jest tak pojemna, że prawdą są w niej często sprzeczne obserwacje (odnoszące się do jednego aspektu, i to nawet jednocześnie). Historia to nie fizyka matematyczna, gdzie margines na alternatywy ma zupełnie inny rozmiar. Jeśli diagnozuje się upadek chrześcijańskiego systemu na podstawie faktów, to szkoda odrzucać całościową argumentację akcentującą rozum, oświecenie i ewolucję dziejową, szczególnie gdy istota narracji nie dotyczy teologii. Jeśli coś nie wpisuje się w nasz system wartości, poczucie estetyki itd., to konfrontując się z obcymi sobie poglądami lepiej przyswoić/przepracować te sensowne, by chociażby na podstawie tego czegoś wzmocnić przekonanie o słuszności własnych aksjologii. A najlepiej założyć, że świat jest czymś więcej niż nasze zapatrywania. To pomaga na subiektywizm baniek. Czytając opinie o książkach Harariego, włącznie z tą najnowszą, widzę czasem nieatrakcyjną intelektualnie impregnację na argumenty oczywiste choć zbyt daleko posunięte w mniemaniu oceniającego. To może prowadzić do głuchoty poznawczej i - co gorsze - do awersji do innego człowieka. Szczególnie w przypadku „Nexusa” taka postawa jest niemądra z kilku powodów.

Koncepcja spójnego i całościowego ‘złapania się za rogi z AI’ z punktu widzenia kondycji człowieka, to odważny plan. Już samo to powinno tworzyć z „Nexusa” lekturę obowiązkową dla każdej bańki (chyba, że ktoś lubi w nich przebywać). Przyjęty w książce model, w którym informacja prowadzi do prawdy i porządku (daje pierwsze i umożliwia drugie), pozwala historykowi przedyskutować słabości i mocne strony demokracji, anarchii i autokracji. Wpisuje w tę opowieść również populizm. W szczególności konserwatywny populizm, który promuje porządek kosztem prawdy. Tyrania z porządku dodatkowo tworzy absolutnie centralizujący element opresji, do tego manipuluje prawdą. Harari podaje przykłady komunistycznych konstrukcji sprzed dekad i konserwatywne rozwiązania współczesne, które nieudolnie szukają swojej szansy w próbie instrumentalizacji AI pod siebie. Pojawia się chrześcijaństwo, jako dobrze znany w Europie kulturowy zespół postaw. Służy nie jako ‘dziecko do bicia’, ale jako wielopostaciowy płodny mechanizm rozbudowy cywilizacji; jest środkiem do narracji skupionej na szukaniu analogii z najnowszymi wyzwaniami. Jego wielowiekowy uniwersalizm myśli z jednej strony inspirował (sztuka), z drugiej impregnował (władza w kontekście obiegu informacji), z trzeciej wypaczał (eskalacja przemocy w dobie polowań na czarownice). Harari wszystkie trzy odcienie przepracował pod kątem lekcji dla nas z interakcji z AI.

=======

* Na stronie 311 autor obrazowo wprowadził AI tak: „(…) niczym Adam i Ewa w raju nie mamy gdzie się ukryć przed spoglądającym na nas z niebios wszechwiedzącym okiem.”.

** Jako ignorant ekonomiczny, łopatologicznie ‘twardą walutę’ rozumiem w zasadzie jako pieniądze w ‘w portfelu’, a nie chociażby w akcjach (w szczególności spółek IT, które przychód budują na reklamach z dostępu do stworzonych aplikacji), za które nie zjemy obiadu. Chodzi mi o pewną chwiejną równowagę między ludźmi, którzy tworzą dobra podlegające wprost wymianie barterowej (hasłowo: ‘chleb za spodnie’) a całą resztą (od brokerów, przez programistów Doliny Krzemowej po influencerów). Gdy ci pierwsi nie będą mieli czym karmić tych drugich (kupując ich wspaniałe produkty), posypie się biznes nawet z AI. Wciąż jednak AI może nas ‘przygwoździć’ z zupełnie innej strony.