Autor: @Carmel-by-the-Sea ·7 minut

2024-05-24

1 komentarz

10 Polubień

Konstrukcja człowieka utrudnia ocenę wagi zdarzeń, które go przekraczają. Tak nas wyposażyła biologia. Wiele wytworów cywilizacyjnych nas przewyższa intencjonalnie, bo do tego zostały stworzone. Technicznie jednak dopiero AI zdobywa możliwość ‘samorozwoju’ bez naszej kontroli . Dotychczas ‘na upartego’ można było ignorować proces, który w wyniku miniaturyzacji krzemowej zmieniał świat. Mustafa Suleyman należy do grona ludzi, którzy odpowiadają za zjawisko będące już nie ciekawostką czy zbiorem oprogramowania i sprzętu komputerowego do ułatwiania nam życia. Jako manager w kilku kluczowych firmach Doliny Krzemowej przyczynił się do konieczności przewartościowania możliwych trendów w globalizacji. Wraz z Michaelem Bhaskarem (*) w 2023 napisał zaangażowaną społecznie książkę „Nadchodząca fala” dla przybliżenia blasków, cieni i poważnych zagrożeń, które ze sobą niesie AI. Tekst obarczony jest licznymi mankamentami, ale i dość precyzyjnie dotyka chyba bardzo ważnych kwestii.

W książce na szczególną uwagę zasługuje przede wszystkim opis cech AI, które sprawiają że może być niebezpieczna. Jest ekspansywna, powabna komercyjnie, atrakcyjna w wypełnianiu ludzkich braków formalnych, coraz bardziej powszechna, uzależniająca, pozornie niewinna, rozproszona, prawnie nieskodyfikowana, na poziomie państw przemilczana i zupełnie pozbawiona aksjologii, która część ludzi powstrzymuje przed przestępstwami. W skrócie książkę można podzielić na kilka grup tematycznych. Najciekawsza dotyczy pół-techniczych opisów procesu rozwoju AI w XXI wieku. Tylko nieco słabiej wypadły analizy kluczowych pól zastosowania AI oraz dość szeroko podane jej atuty i dobrodziejstwa. Zbyt rozwlekle Suleyman poprowadził opowieść w obszarze możliwych zagrożeń. Sama końcówka tekstu, jako próba przybliżenia wymaganych kroków do zabezpieczenia się ludzi przed negatywnymi konsekwencjami rozwoju AI wydała mi się ważna, choć wyłożona dość nieatrakcyjnie.

Tytułowa fala, to czekające nas niebezpieczeństwo związane z niekontrolowanym wzrostem możliwości AI. Posiłkując się analogiami z historii ludzkiej cywilizacji, Suleyman antycypuje przyszłość dokładając fakty niespotykanego tempa rozwoju sztucznej inteligencji z przykładami robiącymi wrażenie:

„W 1958 roku firma Fairchild Semiconductor sprzedała sto tranzystorów po sto pięćdziesiąt dolarów za sztukę – dziś urządzenia te są produkowane w tempie dziesiątek bilionów na sekundę, po jedną miliardową dolara za egzemplarz: to najszybsze i największe pod względem zasięgu upowszechnienie w historii.”

W tym kontekście wydaje mi się, że autor zbyt płytko przepracował mechanizmy skali. Nie chodzi o to, że AI będzie szybciej coś liczyła, łatwiej zbierała elementy wiedzy i informacji, ale że zasobami żonglowanymi w nanosekundach wyeliminuje nasze walory estetyczno-emocjonalne zastępując własnymi (a dokładniej – my je przyjmiemy jako własne). Jednocześnie przedsiębiorca bardzo dobrze opisał własne napięcie ostatnich lat – mieszankę ekscytacji i rosnącego przerażenia – z możliwości LLM-ów (systemów językowych jak ChatGPT). Przy okazji sformułował sporo ciekawych ogólnych zasad, które budują ten pozorny cud interaktywnej inteligencji chatbotów wynikający z połączenia w branży IT sieci neuronowych i głębokiego uczenia się z sekwencyjnością ludzkich języków. Szeroki wachlarz bezpośrednich konsekwencji dla człowieka zanurzonego w Internecie, to ciekawie skomponowana wizja. Ponieważ Suleyman taki drobny choć niepokojący przykład możliwości AI opisał w dość długim wywodzie, to przedstawię próbkę czekającej nas hipotetycznej sytuacji (jak sugeruje autor, za kilka lat w związku z rosnącymi możliwościami podejmowania decyzji kompleksowych, kreatywnych i wielopoziomowych przez AI ) w wersji skompresowanej:

W zasadzie ten przykład mnie przeraził. ALE. Biorąc pod uwagę kilka faktów, które umykają korporacyjnym Harpagonom, warto się zastanowić nad sytuacją, gdy miliard ludzi jednocześnie ‘poprosi AI’ o taki prezent finansowy. Poza tym chciwość sugeruje, że nim ‘lud’ uzyska dostęp do możliwości zarobkowania w ten sposób, wtajemniczeni w możliwości skrupulatnie sami z tego skorzystają. A jak wiadomo pieniądze nie rodzą się z resztek jedzenia i powietrza (jak pierwsi przyrodnicy zakładali o muszkach owocowych), a jeśli już to w inflacyjnym galopie, czyli bez wartości.

Z kolejnymi rozdziałami pojawiają się zagrożenia różnej natury – na poziomie bezpieczeństwa (broń ABC), państwowych niedemokratycznych reżimów, sekt światopoglądowo ukierunkowanych na osiąganie celu wszelkimi środkami, rewolucji w obszarze aktywności zawodowej ludzi, itd. Zgadzam się z autorem i jego opisem świadomości, która nie jest źródłem zasadniczego niebezpieczeństwa:

„W tej chwili nie ma znaczenia, czy system jest samoświadomy, zdolny do rozumienia ani czy ma inteligencję podobną do ludzkiej. Liczy się tylko to, co ten system potrafi. Jeśli skupimy na tym uwagę, naszym oczom ukaże się prawdziwe wyzwanie: systemy z każdym dniem potrafią coraz więcej.”

Wszystkie cechy fali AI stanowią źródło możliwości ale i niebezpieczeństwa jeżeli, jak pokazuje autor, nie dojdzie szybko do ponadnarodowych ustaleń. Zgadzam się z trafnym porównaniem do przejścia fazowego, które w fizyce rozumie się jako niemal natychmiastową nieciągłość i rekonfigurację obiektu w stan o innych właściwościach (np. krzepnięcie wody). Wspomina o procedowanym tzw. ‘AI Act’ (**), który od strony formalnej ma być prekursorskim przykładem jednego z wielu potrzebnych nam zabezpieczeń systemowych przed niekontrolowanym bytem sprzecznym z interesami jednostek i zbiorowości demokratycznych.

Czytanie nieco utrudniała mi megalomania Suleymana, który z manierami typowymi dla korporacyjnego wyższego kierownictwa, kreśli wizje w obszarach, w których jego kompetencja eksponencjalnie gaśnie. Stąd fragmenty o AI wobec komputerów kwantowych i bioinżynierii traktuję wręcz z przymrożeniem oka. Na szczęście poświecił tym zagadnieniom niewiele miejsca. Pewne ekstrapolacje, próby zgadywania kierunków transformacji rynku wydają mi się zbyt mgliste. Nie biorąc pod uwagę zjawisk emergentnych, kryzysu zasobów pierwiastków rzadkich, klimatycznych uwarunkowań i niezbędnej energetycznej bazy dla AI (***), zbyt wiele zmiennych pozostawia w stanie przypuszczeń.

„Nadchodząca fala” ma walor informacyjny. Jest w dużej części zestawem pożądanych kroków do wykonania przez każdego wobec AI, apelem do decydentów o głęboki namysł i budowanie mechanizmów zabezpieczających przed niekontrolowaną ekspansją sztucznej inteligencji. Suleyman uważa, że teraz świat nie jest gotowy na najbardziej prawdopodobny kierunek ewolucji AI. Stad zachęca do wysiłku by ten stan zmienić. Trochę nie wprost buduje nieciekawy obraz korporacji, które koszty społeczne narastające równolegle do własnej prosperity ignorują ostentacyjnie:

„Tak silne procesy koncentracji władzy umożliwią wielkim, zautomatyzowanym megakorporacjom transferowanie wartości z kapitału ludzkiego – pracy – do czystego kapitału. Jeśli zsumujemy wszystkie nierówności wynikające z takich procesów koncentracji, otrzymamy kolejne wielkie przyspieszenie i strukturalne pogłębienie istniejącego pęknięcia.”

„Współczesna cywilizacja wypisuje czeki dające się realizować wyłącznie za sprawą nieustannego rozwoju technologicznego. Cały jej gmach opiera się na idei wzrostu gospodarczego w długiej skali czasu.”

W pewnym stopniu książka jest przegadana. Sporo przemyśleń obarczona jest moimi znakami zapytania. Ponieważ jednak jest dość aktualna i zawiera opis ‘człowieka z wewnątrz’, uznaję czas poświęcony lekturze za niezmarnowany. Szczególnie zachęcałbym do jej lektury tych, którzy ufnie patrzą w przyszłość możliwości AI, zwłaszcza jeśli atrakcyjność pozornie darmowej dostępności do ‘fajnych narzędzi budujących ego’ wymienili za prywatność i prawo do trenowania własnego mózgu niezależnie od możliwości dostępnych smartfonem. Jest nad czym myśleć.

DOBRE z minusem - 6.5/10

=======

* Ponieważ sam Suleyman często pisze w pierwszej osobie, a i okładkowa wielkość czcionki nazwiska współautora sugeruje jego mniejszy wkład, potraktuję byłego szefa DeepMind za właściwego autora publikacji.

** Książka jest nieaktualna (bo doprowadzona do połowy 2023, co brzmi dziwnie, ale w tej tematyce dekady kompresują się do miesięcy) i zawiera informacje że prace nad pierwszym tego typu kompleksowym uregulowaniem trwają. Tłumacz dopowiedział, że 13.03.2024 Parlament Europejski zatwierdził AI Act. A my wiemy, że 21.05.2024 Rada EU przyjęła te przepisy. Teraz potrwa z … 2 lata, gdy wejdą w życie. Pól żartem – może być tak, że sama AI zdąży się tak rozwinąć, że w dużym stopniu te przepisy będą nieadekwatne.

*** Kilka miesięcy temu systemy LLM, które ‘zasysają’ dane do szkolenia się, potrzebowały tyle prądu, co zużywa cała Holandia. W takim tempie zapotrzebowania na zasoby, by utrzymać wykładniczy postęp, ‘za chwilę’ będzie wymagać czegoś, co wykracza poza fizykę, taką jak ją rozumiemy. Do tego jednak nie jest tak, że AI można wydać polecenie: ‘zbuduj sobie narzędzia do pobierania ze Słońca wystarczającej ilości energii’.

Moja ocena:

Data przeczytania: 2024-05-23

× 10 Polub, jeżeli recenzja Ci się spodobała!

Gdzie kupić

Księgarnie internetowe

Sprawdzam dostępność...

Ogłoszenia

Dodaj ogłoszenie

Nadchodząca fala

Mustafa Suleyman, Michael Bhaskar

6.3/10

W naszej historii falami przychodziły epidemie i katastrofy naturalne, nowe idee i rewolucje, czasy rozkwitów i upadków imperiów. Fala, która nadchodzi tym razem, zmieni wszystko. Wzburzenie powie...

Komentarze

@almos · 7 miesięcy temu

Świetna recenzja. Bardziej od użycia AI do zbicia fortuny martwi mnie AI w rękach dyktatorów, szaleńców, cynicznych polityków, generałów pragnących wojny. Już mieliśmy tego przedsmak w czasie afery Cambridge Analitica, co będzie dalej?

× 5

Komentarze (3)

@Carmel-by-the-Sea · 7 miesięcy temu

Dzięki. Chciałbym, żeby z tego co napisałem o książce wynikało, że jest ważna. Bo temat - jak napisałeś - ważny.
Obecnie najbardziej w związku z AI mnie martwi, że koszty społeczne nie są zupełnie analizowane. To znaczy jest nas 8,5 mld. Mamy mnóstwo pisarzy, prawników, programistów, konsultantów, tłumaczy, korepetytorów których da się w dużym stopniu zastąpić. Czym? Czymś co na naszej pracy szkoli się szybko, zużywa zasoby, daje wprost zarabiać kolosalne pieniądze drobnej grupie, a miliony za chwile będą bez pracy. Ten system wymaga uzgodnień globalnych.

Ale masz rację. Politycy to fatalny element decyzyjny. Oni nie wiedzą, ignorują. Czemu? Bo zakładają że do władzy i tak się zawsze dostana, że na swoje 'godne życie' ustanowią odpowiednie przepisy, że MY i tak jesteśmy na to skazani. A sam Suleyman sporo pisze, że czeka nas rewolucja w polityce w kierunku albo demokracji merytokratycznej z zasadami, albo terroryzm państw niedemokratycznych.

I znów się zgadzam z Tobą. Tego w książce nie ma, ale podam przykład. AI na wielu polach jest ważna i niebezpieczna. Firmy cały czas testują jej mozliwości. Stworzono na przykład chaosGPT, który szkolił się na bardzo wrażliwych rzeczach. Zaczęto go pytać - co zrobić by zniszczyć świat - w razie czego odłączono go od Internetu. Szybko ustalił, że należy doprowadzić do katastrofy nuklearnej. Poza tym zaczął analizować techniki doprowadzenia do globalnego chaosu. Jak dopytywano, podał przykład by zhakować konto Muska na X i doprowadzić do zamieszania 'likwidując' tego miliardera. Mnie w tym tez martwi po prostu nasze uzależnienie od internetu. Bo widać, jak szybko AI określiła łatwe kanały naszej depopulacji.

× 3

@almos · 7 miesięcy temu

Piszesz: "Ten system wymaga uzgodnień globalnych". Jestem tu pesymistą, wziął się za AI wielki biznes, którego celem są szybkie zyski, zakasowanie konkurencji, zagarnięcie rynku. Oni nie cofną się przed niczym, a regulacje systemowe tworzą i implementują się powoli. W niedawnym wywiadzie prof. Dragana mowa jest o czterech regułach bezpieczeństwa dotyczących AI sformułowanych przez Maxa Tegmarka. Dwie z nich to: Nie ucz AI kodować; nie wpuszczaj AI do Internetu. Zostały już dawno złamane (innych dwóch nie znam, ale też ponoć zostały złamane). Ciemność widzę, ciemność...

× 3

@Carmel-by-the-Sea · 7 miesięcy temu

Też jestem pesymistą. I właśnie autor napisał książkę zakładając, że bez działania dziś, jutro nasz pesymizm będzie większy i bardziej uzasadniony o ten jeden dzień.

× 1

Nadchodząca fala

Mustafa Suleyman, Michael Bhaskar

6.3/10

Gdzie kupić

Księgarnie internetowe

Sprawdzam dostępność...

Ogłoszenia

Dodaj ogłoszenie

Zobacz inne recenzje

Fala technologiczna

Podtytułu „Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku“ mocno ogranicza, przez co niemalże wprowadza w błąd. „Nadchodząca fala“ bowiem nie skupia się jedynie na AI a k...

@mewaczyta

Pozostałe recenzje @Carmel-by-the-Sea

Przewodnik łowcy i zbieracza po XXI wieku

Mętnie o kondycji człowieka

To była dość nużąca, przewidywalna i po części zbyt spekulatywna lektura. Pojawiło się w niej na szczęście też kilka obserwacji godnych odnotowania. Małżeństwo autorów –...

Recenzja książki Przewodnik łowcy i zbieracza po XXI wieku

Zaproszenie do fizyki

Po pozornie rozczulającej deklaracji z pierwszego rozdziału (str. 42): „Przyczyna tego, że fizyka wydaje się bardzo trudna, leży tak naprawdę w tym, że w porównaniu z...

Recenzja książki Przestrzeń, czas i ruch