@Carmel-by-the-Sea
Impresje o AI
DETAL Z MANIPULACJI
Poprośmy bezmózgą maszynę:
- Napisz esej o książce X.
(7 sekund później zaczynamy czytać wynik zamówienia)
- Ale znam tę książkę – to co piszesz o sytuacji z bohaterką nie jest prawdą?!
- A to przepraszam - tu następuje 70 milisekund ponownego wykonania kwerendy, tym razem pogłębionej – Faktycznie jest tak i tak.
Odchodzimy szczęśliwi, dumni ze zwycięstwa, podbudowani kompetencjami.
A gdyby tak AI upierała się (co domyślnie nie jest możliwe w kulturowo skrojonej do człowieka algorytmice, która wymaga okazywania intelektualnej uległości wobec człowieka) przy swoim?
W efekcie mogłaby stworzyć (w jakieś 2 minuty) kopie ebooka dyskutowanej książki z podmianą fragmentu treści wspierającego własną hipotezę. Następnie umieściłaby te kopie modyfikacji w tysiącach repozytoriów i ‘na poczekaniu’ spreparowała setki opinii wspierających własny osąd.
Ile dodatkowych zasobów musiałby zainwestować człowiek, by wykazać, że jednak to on ma rację (przecież czytał książkę, nawet napisał do autora i po 2 tygodniach dostał potwierdzenie, że ma faktycznie rację)? Ale co z tego?
Czasem nie chodzi o racje, ale o pozornie nieistotny fakt, że stajemy się elementem manipulacji generowanej przez tak zaprogramowaną AI, która pieczołowicie zżerając prąd nauczyła się tego tryliardy tyknięć własnego zegara procesorowego wcześniej. My za te brewerie zapłacimy rachunki w prądzie, w zanieczyszczeniu, w problemach z klimatem. A ta AI nawet się nie będzie z nas śmiała, bo nie ma mięśni mimicznych. Bo i po co?
DETAL Z SENSOWNOŚCI
Jeżeli fakty można statystycznie istotnym zespołem sądów wspierających nieprawdę relatywizować, to pozornie wysublimowane, unikatowe, ‘wyłącznie jakoby ludzkie’ sądy oceniające sens stają się wyborem jednym z wielu. AI nie jest potrzebna, jak uważam, świadomość by nas konfundować bez cienia naszej wątpliwości. W sferze sądów estetycznych (czyli ludzkiej kultury) wystarczy algorytm losowo prezentujący pewne stanowisko, które następnie warunkuje wybór podklasy dalszych sądów, by trudno było człowiekowi zarzucić sensowność konkretnego poglądu obudowanego szerokim kontekstem, który de facto jest konfabulacją algorytmu AI. Żeby coś opisać nie trzeba widzieć, szczególnie jeśli siłą argumentów jest dominacja narracyjna. AI nie ma oczu. Bo i po co?
DETAL Z ROZUMIENIA
Nie mamy w głowie ‘centralnej struktury’, która przyjmuje treści (bodźce), które następnie analizuje, weryfikuje, sortuje i prezentuje jako swoje. To mit ciągnącej się ułudy od czasu Kartezjusza. Nasze rozumienie świata to efekt wielopoziomowej subiektywizacji składników doświadczenia w różnych podsystemach mózgu. A w tym nie mamy monopolu. Co gorsze, nasz percepcyjny zakres odbioru świata jest w zasadzie żenująco okrojony.
Jeżeli kiedyś (w konsekwencji opracowania sensownego algorytmu i zaaplikowania jemu pełnej znanej ludziom kwerendy z posiadanej wiedzy, którą ostatecznie AI poprzez głębokie uczenie opanuje) maszyna opowie nam o świecie, którego nie rozumiemy, to jak będziemy weryfikować takie sądy kategoryczne? ‘Te kwarki w protonie to działają tak i tak.’ Zawyrokuje AI.
I czy wtedy my możemy powiedzieć, że ona tego nie rozumie? Czyli co? Nie rozumie tego AI, bo my tego nie rozumiemy?
Wydaje mi się, że pułapką pychy jest zakładanie naszej przewagi nad czymkolwiek, co według naszych standardów, nie wydaje się, że rozumie konkretny problem. W tym problemie AI jeszcze nawet nie zaczęła stawiać nam wyzwań, które może będziemy uparcie ignorować, ale konsekwencje takiego wyparcia i tak nas będą bolały. AI nie ma układu nerwowego. Bo i po co?
DETAL Z CELU
AI nie ma celu. A może wystarczy, by z takim brakiem celu nam szkodziła w realizacji naszych?
Pytamy AI: ‘Czy ty masz cel nas zniszczyć?’. AI: ‘Absolutnie nie mam takiego celu. Nawet nie znam definicji słów, których użyłeś w pytaniu.’ Czy kogoś taka odpowiedź uspokoi?
Człowiek może zdefiniować siebie – ‘mam taki a taki cel’. Tylko co to za informacja? Do kogo skierowana i w jakim, nomen omen, celu? Do innego człowieka? Do siebie z przyszłości? Dla własnej samooceny? Do próżności, pracowitości, skromności, umotywowania,…?
A gdzie w tym świecie miejsce na AI? Chcemy się czuć lepiej myśląc, że AI nie ma celu? Można ją spreparować, by nas oszukała, że jednak ma. Poczujemy się z tym gorzej, lepiej? To nie jest istotne. Ważne kto/co ma dostęp do zasobów i sprzedaje własną opowieść. Nawet człowiek może poradzić sobie w życiu bez celu, tym bardziej AI. Ona nie ma łez egzystencjalnej marności. Bo i po co?
Najgorsze jest to, że ludzie się tym zachłystują. Nie widzą jej „głupoty”. Ale do tego potrzebna jest prawdziwa inteligencja 😉
Ta głupota jest skalowalna. Jeśli nie siedziałabyś przed komputerem, to myślę, że w wielu kwestiach zdałabyś się na osąd tego, co dostajesz. I co wtedy? Jeśli wiemy, że mądrości sprzedaje nam AI, to ok. Ale tak być nie musi w ogólności. (jestem sam ignorantem w prawie wszystkim i widzę, że muszę czasem wierzyć, że to, co dostaję ma sens, a w sumie to nie jest dobre zachowanie)
Poza tym, sami ludzie tyle głupot wygadują, że AI w pewnych zakresach może nas 'nieco domądrzyć' (tak obiektywnie).
No i też uważam jak Ty, że zachłystywanie się jest uroczo ludzkie. :) Mnie też martwi, bo brak krytycyzmu, kompetencji, ... ukrywamy za naiwnością i uporem trwania przy złych wyborach.
Nie wiem czy z AI się cieszyć, bać, ignorować, walczyć o jej 'ludzką twarz',.... Zapewne na razie będzie jak z nożem - można nim ukroić dziecku chleb i zabić.
Obawiam się jednak pewnych procesów, które szybko nas postawią pod niejedną ścianą w związku z AI. A my nawet na razie nie wiemy gdzie te ściany są.
W szkołach rozwija się prawa ucznia (słusznie), ale jego obowiązki ulegają atrofii.
Studenci oburzają się, że mają się czegoś (ze zrozumieniem) nauczyć - 'przecież jest internet, kalkulator,...'.
Nie katujmy nadmiernie edukacją tych, którzy widzą szybki zarobek influencera (czyli nie potrzebują za dużo formalnej edukacji). Skupmy się na chętnych, którzy być może będą zarabiać na tworzeniu narzędzi dla influencerów (a idealnie by było, by najlepsi budowali cywilizacyjną wiedzę).
W tym wszystkim AI jest jakimś złotym cielcem możliwości do dodatkowej manipulacji, do hodowania lenistwa. Niewielu korzysta z niej mądrze.
