Autor: @Carmel-by-the-Sea ·7 minut

2022-09-29

1 komentarz

13 Polubień

Sztuczna inteligencja (AI) to tak pojemna znaczeniowo konstrukcja, że ludzki uśredniony stosunek do niej jest raczej wyrazem strachów, nadziei, wątpliwości jednostek, niż zracjonalizowanego namysłu. Stąd John Brockman w 2015 w ramach portalu EDGE zapytał naukowców, artystów i opiniotwórcze osoby: „A ty, co sądzisz o myślących maszynach?”. Książka o takim tytule jest zbiorem krótkich przemyśleń ponad 180 osób na tak postawione pytanie. Nie da się przeanalizować każdej z nich. Można jednak pogrupować wyartykułowane problemy w klasy poruszonych zagadnień. Ponieważ wypowiedź każdego uczestnika projektu poprzedza krótka notka o profesji i kluczowych zainteresowaniach, da się również zaobserwować kilka dodatkowych prawidłowości, jeżeli potraktować projekt jako z reguły profesjonalny głos(*) w ważnej dyskusji. Niemal nie istnieją korespondencyjne odniesienia (dostrzegłem dwa), stąd całość jest wewnętrznym wyrazem przekonań każdego z uczestników projektu. Eklektyzm książki, sprzeczne stanowiska, różny poziom merytoryczny, zmienny rozkład akcentów – to oczywiste konsekwencje formuły. Wyszła ciekawa propozycja jako zaproszenie czytelnika do zajęcia własnego stanowiska. A jest o czym myśleć.

Trudno wyrokować, czy rozkład przelanych na papier emocji jest miarą społecznego stosunku do AI. Można chyba zaobserwować dwie główne postawy skrajne i całe spektrum stanowisk pośrednich. Zdecydowanie najmniej osób boi się silnej sztucznej inteligencji, która miałaby zniszczyć nas w dającej się przewidzieć przyszłości. Trochę liczniejsi są optymiści, uważający że mniej lub bardziej humanoidalna AI da się okiełznać - będzie stale pod kontrolą. Zdecydowanie najliczniejsza okazała się grupa zaniepokojonych stanem uzależniane nas od obecnej, już wystarczająco rozległej, ‘krzemowej struktury’, która rezyduje w Internecie, kontroluje rynki finansowe, świat medyczny, uzależnia nas od smartfonów. Dominuje niepokój interpolowanego kierunku, w jakim człowiek prowadzi myślenie maszynowe wykorzystując przewagę w dostępie do ‘czasu procesora’, by zapanować nad innymi Homo sapiens. Na razie wydaje się, że konkretne patologiczne jednostki ludzkie stanowią największe zagrożenie, jeśli ‘dorwą się’ do węzłowych struktur sieci by chociażby zaatakować globalnie bronią ABCW(**).

Siłą książki (i z innej perspektywy wadą) jest jej swoisty Hyde Park – każdy mógł skupić się na czymkolwiek. W efekcie czytelnik może przemyśleć bardzo wiele proponowanych aspektów zjawiska AI (to plus z kontaktu ze ‘zbiorową świadomością’). Przy okazji jest szansa na zapoznanie się z pełniejszymi przekonaniami każdego zabierającego głos dzięki przywołanym tytułom ich publikacji czy konkretnym składnikom przypisów. Lektura książki jest z tego powodu dla każdego, co nie znaczy że każdą wypowiedzą należy traktować jedną miarą. Innej wnikliwości oczekujemy od kognitywisty lub informatyka a innej od historyka czy performera artystycznego. Każdy będąc zapewne szczerym, oddał stan własnych nadziei, wątpliwości czy egzystencjalnych strachów. Niemal nie znalazłem bardzo wąskiego i strywializowanego sprowadzenia AI do hollywoodzkiego składnika opowieści wizualnych. Choć zarówno elementy z „Terminatora” (jako sieci uzyskującej w pewnym momencie autonomię) czy „Matrixa” (jako realizacji orwellowskiego świata z Wielkim Bratem jako niedobrym ET) pojawiają się w kilku pogłębionych analizach.

Z filozoficznego punktu widzenia, da się uczestników projektu podzielić na zupełnie rozłączne klasy. Okazuje się, że wciąż istnieje grupa dualistów, którzy bronią koncepcji ‘duszy’ jako niepodrabialnego, nieredukowalnego, niemożliwego do algorytmizacji składnika człowieka. W kilku sceptycznych stanowiskach taki kartezjanizm stanowi ‘ostatni bastion człowieczej wyjątkowości’. Zarówno jednak biologia jak i fizyka dysponują całą gamą argumentów, że człowieka można ‘rozebrać na czynniki pierwsze’ i nigdzie nie ulatuje przysłowiowe 21 gram(***). Zdecydowanie bardziej ciekawy (subtelny, ważki) wydał mi się trudny wątek związany z pytaniami o możliwość stworzenia AI z samoświadomością, intelektem czy umysłem. Już sama wielość sposobów rozumienia tych pojęć w odniesieniu do człowieka może powodować zawrót głowy. Dywagacje o sensie/możliwości zaimplementowania tych wysoce złożonych emergencji do AI tworzy od dekad nierozstrzygalny spór o definicje i profetyzm, zarówno na polu czysto teoretycznym ale i operacyjnym. Na szczęście sami uczestnicy dyskusji unikali jak ognia wprost deklaracji światopoglądowych (znów – poza chyba dwoma wyjątkami).

W tak dużej grupie osób, które z reguły zawodowo zajmują się myśleniem, poza typowymi problemami, pojawiły się ciekawe, bo niszowe, perspektywy. Padły pytania o potrzebny/zbliżający się stopień zlania się człowieka z maszyną (chipy, ciągła i bezpośrednia dostępność mózgu do sieci,…), o przyszłość rynku pracy, o dysproporcje w czerpaniu finansowym z postępu technologicznego. W konsekwencji, niektórzy przepracowują szerokie rozumienie słowa ‘sztuczne’, pytają o potrzebny poziom rozszerzenia prawno-moralnego na ewentualną ‘pro-ludzką’ AI. Duża grupa odpowiadających na tytułowe pytanie z troską pochyliła się nad kondycją człowieka, statusem jego emocjonalnych potrzeb i niepewną przyszłością jego psycho-spełecznej konstrukcji. Przyspieszenie cyfryzacji, które stanowi przedłużenie potrzeb socjalizacji, ma tyle ciemnych stron, że jako gatunek powinniśmy się czuć zagrożeni autodestrukcją już na dekady czy stulecia przed osobliwością (****).

Minusy. Zdecydowanie bardziej lubię jednorodne teksty, w której autor buduje dłuższą wypowiedź. Antologie, takie jak ta, mają swoje wady. Niedosytem okazał się niemal brak odniesienia do możliwości zaistnienia pozaziemskiej AI (chyba 3 osoby wspomniały tym w sposób zasadniczy). Z kolei próby bardzo subiektywnego definiowania rozmytych pojęć: ‘umysł’, ‘świadomość’, ’myślenie’, ‘inteligencja’ nieco odkleiły niektórych od rzeczywistości. Czasem traciłem intelektualny kontakt z niektórymi humanistami, którzy zamiast skupić się na zagrożeniach dla humanizmu, ludzkiego wymiaru emocjonalnych potrzeb społecznych, dali upust frustracjom i uproszczeniom (to z 3-4 osoby). Ponieważ jestem zwolennikiem dydaktycznego separowania stwierdzeń pewnych, od przypuszczeń i niedowiedliwych stanowisk, w tej książce trudno było taki stan utrzymać. W kilku kwestiach (które mają jednak jednoznaczny status w opinii ekspertów) padły sprzeczne przekonania. Szczególnie dotyczy to argumentacji, która myliła aktualny brak wiedzy z niemożliwością (fizykalnie obiektywną) osiągnięcia pewnego stanu docelowego. Koronny przykład, to przejście materii ‘nieorganiczne-organiczne’, które jest faktem, choć nie wszystkie składniki tej naukowej opowieści już znamy. Do tego, związku z wspomnianym dualizmem, trudno mi było zaakceptować kilka daleko idących przekonań.

Bardzo ciekawy projekt Brockmana. W przyszłości może stanowić wartościowy historyczny dokument stanu umysłu ludzi początku XXI wieku. Teraz daje dużą dawkę otwartych pytań, fundamentalnych problemów, przed którymi nie ma gdzie uciekać. Trzeba z rozumem i wyczuciem wpasować się w rzeczywistość, społecznie i transparentnie pilnując kierunku rozwoju naszej cywilizacji.

Kilka cytatów. Nie jest to wybór reprezentatywny, być może nawet nie odkrywczy, ale w moim subiektywnym odczuciu, oddaje kilka kluczowych tropów:

„Powinniśmy bać się nie tyle maszyn myślących, ile coraz bardziej bezmyślnych osób, które się nimi posługują.” (W.T. Fitch, biolog poznawczy)

„Sztuczna inteligencja nie rzuci wyzwania ludziom jako gatunkowi, ona rzuci wyzwanie ich cywilizacji.” (L. de Biase, dziennikarz)

„Owe postępy sugerują, że sekret AI może tkwić w tym, iż nie ma tu żadnego sekretu. Podobnie jak w wielu innych znanych z biologii przypadkach, inteligencja wydaje się zbiorem naprawdę sprytnych sztuczek. Przekonanie, że nasza świadomość jest definiującym atrybutem naszej wyjątkowości jako gatunku, stanowi wyraz próżności, ale coraz liczniejsze dowody – zgromadzone dzięki badaniom zachowania i procesów poznawczych zwierząt – wskazują, że samoświadomość ewoluowała w sposób ciągły i podlega falsyfikacji u wielu innych gatunków. Nie ma powodu, by akceptować mechanistyczne wyjaśnienie całej reszty życia, deklarując zarazem, że jedna jej część nie podlega takim ograniczeniom.” (N. Gershenfeld, fizyk)

„Wybaczcie więc, jeśli nie będę zamartwiał się komputerami przejmującymi władzę nad światem. Może z czasem tak się stanie. Najpierw jednak przyjrzyjmy się, czy ludzie są skłonni zaufać im na tyle, by zacząć cedować na nie proste decyzje, w których podejmowaniu [komputery] od dawna są lepsze od nas.” (R.H. Thaler, ekonomista behawioralny)

„Kiedy pytamy, czy maszyna umie myśleć, tak naprawdę pytamy czy możliwa jest w niej realizacja naturalistycznego rozumienia mózgu. Jestem naturalistą, wierzę więc, że odpowiedź musi być twierdząca.” (L. Smolin, fizyk)

„Zachowanie ‘świadomych’ lub ‘myślących’ maszyn powinno być nierówne: czasem głupie, a czasem wyjątkowo sprytne. ‘Inteligentne’ zachowanie u człowieka polega na nieprzewidywalnych drganiach – od emocji po rozum. Taki jest właśnie Homo sensus sapiens. Choć brzmi to paradoksalnie, gatunek, który w różnych przypadkach można określić jako głupi lub sprytny, nazywamy właśnie ‘inteligentnym’. „ (E. Salcedo-Albarán, filozof)

DOBRE – 7/10

=======

* Książkę budują wypowiedzi przedstawicieli nauk podstawowych, przyrodniczych, społecznych i humanistycznych oraz grupy pracowników prasy, biznesu.

** Atomowa, Biologiczna, Chemiczna oraz W – reprezentująca spektrum wirusów komputerowych jako celu samego w sobie.

*** W eksperymencie sprzed 120 lat wyszło jednemu z lekarzy podczas badań sekcji zwłok, że po śmierci ubywa 21 gram wagi, które skojarzył z duszą opuszczającą ciało.

**** Technologiczna osobliwość, wg R. Kurzweila, to być może czekający nas moment, gdy AI intelektem zdominuje nas i stracimy nad nią kontrolę.

Moja ocena:

Data przeczytania: 2022-09-29

× 13 Polub, jeżeli recenzja Ci się spodobała!

Gdzie kupić

Księgarnie internetowe

Sprawdzam dostępność...

Ogłoszenia

Dodaj ogłoszenie

2 wydania

A Ty, co sądzisz o myślących maszynach?

John Brockman

7/10

Seria: Cywilizacja

Oszałamiający postęp. Informatyzacja. Rozwój technologii, mających ograniczyć nakład pracy homo sapiens, a w przyszłości niemal całkowicie go zastąpić. Ale czy na tej, w zawrotnym tempie urzeczywistn...

Komentarze

@almos · około 2 lata temu

Świetna recenzja, piszesz, że książka "W przyszłości może stanowić wartościowy historyczny dokument stanu umysłu ludzi początku XXI wieku." A czy już nie jest historyczna, bo przecież od czasu jej wydania, prace nad AI i jej rola w naszym życiu mocno poszły do przodu?

× 1

Komentarze (1)

@Carmel-by-the-Sea · około 2 lata temu

Dzięki. Wydaje mi się, że na tym poziomie ogólności 7 lat nie jest perspektywą istotną. Nie ma tu niemal wcale detali technicznych. Nawet specjaliści hamowali się ze slangiem. Chyba jedyny element, który pojawiłby się, to fakt przegrania człowieka z komputerem w GO w 2017, a tak wciąż sporo dyskutantów wraca do Kasparowa i Deep Blue z 1997.
Może jeden element by doszedł - większy pesymizm ze stanu interakcji ludzi z internetem - tym na poziome socjal media i stanu manipulowanej polityki (Trump+farmy trolli + Cambridge Analytic). Więc w tym sensie masz rację. Chyba właśnie ukazała się podobna nowsza publikacja pod redakcją Brockmana: "Człowiek na rozdrożu. Sztuczna inteligencja - 25 punktów widzenia"

× 1

2 wydania

A Ty, co sądzisz o myślących maszynach?

John Brockman

7/10

Seria: Cywilizacja

Gdzie kupić

Księgarnie internetowe

Sprawdzam dostępność...

Ogłoszenia

Dodaj ogłoszenie

Pozostałe recenzje @Carmel-by-the-Sea

Zaproszenie do fizyki

Po pozornie rozczulającej deklaracji z pierwszego rozdziału (str. 42): „Przyczyna tego, że fizyka wydaje się bardzo trudna, leży tak naprawdę w tym, że w porównaniu z...

Recenzja książki Przestrzeń, czas i ruch

Życie komórkowe

Po sukcesie dwóch poprzednich książek (o nowotworach i o genach), Siddhartha Mukherjee pokusił się przygotowanie opowieści o komórce. „Pieśń komórek. Nowa epoka medycyny...

Recenzja książki Pieśń komórek