Cytaty Roger McNamee

“Kiedy Facebook twierdzi, że to użytkownicy podejmują decyzje, wybierając znajomych i informacje, które ich interesują, w rzeczywistości kontrolują to algorytmy, sztuczna inteligencja i menu stworzone przez informatyków firmy. ”

“Kiedy wchodzimy na platformy internetowe, wydaje nam się, że widzimy filmiki z kotami i posty od znajomych na naszych tablicach. Ale niewielu wie, że za tablicą kryje się zaawansowana sztuczna inteligencja. Kiedy zaglądamy na tablicę, zaczynamy grę w wielowymiarowe szachy przeciwko wielkiej sztucznej inteligencji, która wie o nas niemal wszystko. Celem tej inteligencji jest stwierdzenie, jaka zawartość tablicy zainteresuje nas i sprawi, że będziemy gotowi wydać pieniądze. ”

“Na innych uniwersytetach profesorowie po prostu uczą, ale Stanford sprawił, że Fogg uzyskał duży wpływ na Dolinę Krzemową. Uważał on że urądzenia komputerowe pozwalają programistom na łączenie psychologii i koncepcji perswazyjnych z początku dwudziestego wieku, takich jak propaganda, z technikami z automatów, takimi, jak zmienne nagrody, i dalszego wiązania ich z ludzką potrzebą akceptacji i docenienia w sposób, któremu niewielu ludzi jest w stanie się oprzeć. Tak jak magik przy sztuczce z kartami, programista może stworzyć iluzję, że to użytkownik panuje nad wszystkim, choć tak naprawdę kieruje nim system.”

“Najwięcej danych na temat użytkowników zbiera wyszukiwarka Googlea. YouTube stał się miejscem rekrutowania i szkolenia ekstremistów. Lęgną się tam również niezliczone teorie spiskowe. Można też na nim znaleźć treści nieodpowiednie dla dzieci. Instagram i Snapchat wyolbrzymiają niepokoje nastolatków, zarówno jeśli chodzi o drobiazgi, jak i poważne sprawy. Ale Facebook jest dominującą siecią społecznościową i najwięcej skorzystał na nieświadomości swoich użytkowników oraz na braku odpowiednich przepisów, które regulowałyby jego działalność. Jego popularność powiększa skalę jego porażek. ”

“Nowe technologie stały się tak potężne, że platformy mogły zarabiać krocie, wykorzystując dzięki nim najsłabsze punkty psychiki swoich użytkowników. Niezależnie od tego, czy chciały się do tego przyznać, platformy mogły wpływać na wielkie grupy ludzkie, a nawet całe kraje. Politycy i społeczeństwo musieli zdecydować, czy tego rodzaju działalność narusza normy. Naukowcy mogą na przykład tworzyć śmiertelne wirusy, ale społeczeństwo wymaga, by robili to jedynie w odpowiednio zabezpieczonych laboratoriach. Instytucje finansowe mają możliwość oszukiwania klientów, ale na to społeczeństwo nie pozwala. Jakie mają być ograniczenia - jeżeli w ogóle - wobec platform internetowych ?”

“Dlaczego pracownicy Facebooka nie alarmują w przypadku nieetycznych zachowań firmy ? Dlaczego użytkownicy nie opuszczają platformy ? Trudno mi wyjaśnić postępowanie tych pierwszych, ale rozumiem użytkowników. Potrzebują wygody i użyteczności. Trudno im sobie wyobrazić, że ktoś mógłby nimi manipulować, wykradać ich dane czy używać do zmiany wyniku wyborów, i nie mają pojęcia, co to znaczy dla nich samych. Nie chcą wierzyć, że to, co ich dzieci oglądają w Internecie, może spowodować trwałe psychiczne szkody. ”

“W stwierdzeniu, że Facebook jest jedną z najbardziej wpływowych firm w historii, wcale nie ma przesady. Jego porażki mają olbrzymi wpływ na nas wszystkich. Mowa nienawiści może przynieść fatalne skutki, jak okazało się w Mjanmie i Sri Lance. Mieszanie się w wybory może podkopać demokrację i zmienić bieg historii, jak to mieliśmy okazję zaobserwować w Stanach i zapewne w Wielkiej Brytanii. Kiedy takie rzeczy dzieją się "offline", wysyłamy policję. Ale jak mamy zareagować, kiedy dzieją się online ? Jak długo mamy wierzyć, że Facebook sam się naprawi ?”

“Nieostrożne udostępnianie danych jest okropne, ale historia z Cambridge Analytica odsłoniła głębszy problem: dane użytkowników wykorzystuje sztuczna inteligencja, której zadaniem jest manipulowanie bez naszej zgody naszą uwagą i zachowaniem. Polityka Facebooka polegająca na tym, że pozwala aplikacjom stron trzecich na pobieranie danych znajomych swoich użytkowników, toleruje mowę nienawiści, nawiązuje sojusze z autorytarnymi rządami i próbuje ukryć swoją rolę w ingerencji Rosjan w amerykańskie wybory, wskazuje, że ta firma przedkłada wskaźniki nad wszystkie inne. ”

“Korporacje takie, jak Google, Facebook czy Amazon, wszystkie te duże firmy, zarabiają setki miliardy dolarów, sprzedając dane różnych osób. Latami mówiłam firmom i przedstawicielom rządów, że dane są najprawdopodobniej ich najsłabszymi aktywami. To sami właściciele danych powinni móc je sprzedawać - to ich ludzka wartość - więc nie wolno ich tak wykorzystywać. ”

“Artykuł Bogosta obnażył problem bezpieczeństwa danych na Facebooku, na który do tej pory nie zwrócono uwagi: jeśli dane raz "wyjdą" z Facebooka, to nie ma już możliwości, by je odzyskać i mogą one już żyć własnym życiem. Obecnie Facebook nie może w żaden sposób nadzorować podmiotów trzecich, które pobrały jego dane między 2010 a 2014 rokiem. Ktoś gdzieś je ma. Może nie całe, ale większą ich część. Dlaczego ktoś nie miałby ich wykorzystać ? Przecież w dalszym ciągu mają wartość rynkową. Bazy danych mogą być sprzedawane albo rozdawane. Niektóre być może zniszczono. Nikt tak naprawdę nie wie, co się stało ze wszystkimi prywatnymi danymi. I niezależnie od tego, ile czasu minęło, jeśli użyjemy ich ponownie w samym Facebooku, wzbogacą się o te dane, które wzbogacił się sam Facebook od tamtych czasów.”

“Sama technologia nie jest problemem, ale to, jak się ją wykorzystuje do manipulowania ludźmi i koncentrowania władzy w sposób, który jest jednocześnie szalony i złowrogi i stanowi zagrożenie dla naszej cywilizacji.
Jaron Lanier”

“Doświadczenia Sandyego skłaniały do jednej konkluzji: Facebook nie chronił danych swoich użytkowników, gdyż udostępnianie ich bardziej mu się opłacało. Obce aplikacje zwiększały ilość czasu, jaki jego użytkownicy spędzali na Facebooku, co dawało mu realne dochody. Im więcej czasu użytkownik spędza na Facebooku, tym więcej reklam zobaczy i tym cenniejszy staje się dla samej firmy. Z perspektywy Facebooka dobre było to wszystko, co zwiększało jego "używalność". I najprawdopodobniej jego kierownictwu nie przyszło nawet do głowy, że może w tym być coś złego. ”

“W Facebooku radzenie sobie samemu jest podstawową zasadą. Firmą na początku zarządzali studenci bez magisterium, którzy wiedzieli, jak programować, ale niewiele więcej. Musieli więc sobie radzić. Nowi pracownicy musieli wejść na tę samą ścieżkę. Niektórym zajmowało to za dużo czasu i wówczas ich zwalniano. W firmie wygrywali ci, którzy potrafili rozwiązać każdy napotkany problem. Minusem takiego modelu jest to, że pracownicy uczą się omijać z daleka to wszystko, co mogłoby im sprawić trudności.”

“Ciągłe pragnienie rozwoju doprowadziło Facebook do odrzucenia moralnych zobowiązań wobec użytkowników, co potencjalnie wpłynęło na wyniki wyborów, ale mogło też mieć nieprzewidywalne skutki dla życia milionów ludzi, których dane udostępniono bez ich zgody. ”

“Jak zauważył Jaron Lanier, futurolog zajmujący się technologią: reklama w mediach społecznościowych stała się formą manipulacji. ”

“Niestety, pionierzy Internetu zapomnieli o jednej rzeczy, czego konsekwencje ponosimy do dziś. Najważniejsze było to, że w sieci nie trzeba było podawać swojej prawdziwej tożsamośći. Twórcy Internetu nawet nie przypuszczali, że wraz z jego rozwojem anonimowość może spowodować tyle szkód.”