Jest jesienne popołudnie, takie jakie lubię najbardziej: ciche, słoneczne i ciepłe. Po całkiem dobrym dniu pracy odchodzę od komputera i z kubkiem herbaty siadam na kilka chwil. Włączam muzykę, która spokojnie rozlewa się po pokoju, i sprawdzam w telefonie ostatnie wiadomości. Od dobrych kilku lat to nieomal jedyna droga, którą docierają do mnie znajomi i członkowie rodziny z Polski. Jestem szczęśliwy. A jednocześnie czuję się zmęczony, i to nie pracą, tylko obawami o to, w jakim świecie przyjdzie żyć mojej rodzinie.
Przewijam wiadomości, czytam powoli. Te zza oceanu, te z Europy, te z podwórka i te z Chicago. Między nagłówkami, które nerwowo migają, żebym w któryś kliknął, jak podczas powodzi wlewają się na ekran pierdzący piesek, który wygląda na z siebie zadowolonego, potem kotek tak gładki, że aż nierealny, i na koniec informacje, których nie napisał żaden człowiek, a przeczyta je, jak sądzę, również nikt. Niedawno pisałem o martwym internecie. Wtedy miałem liczby. Dziś mam to po prostu na ekranie. I nie jest mi z tym dobrze.
Can you spot Icarus falling into the sea?
A w tym samym przesunięciu kciuka po ekranie pojawia się Trump. 5 października, na wiecu w Grand Island w Nebrasce, mówił o wojnie z Iranem i o cenie, jaką trzeba za nią zapłacić. „They could take out a city. Let ’em take out Los Angeles. Let ’em take out San Diego. This is a very small price to pay.” Biały Dom tłumaczy, że wyrwane z kontekstu, że chodziło o to, by Iran nigdy nie mógł uderzyć w amerykańskie miasta. Niech będzie. Ja słyszę człowieka, który wymienia dwa wielkie miasta, w których mieszkają miliony ludzi, tonem, jakim się zamawia kawę. Very small price. Mój kciuk przesuwa się dalej i ponownie pojawia się piesek.
U Bruegla Ikar tonie w rogu obrazu, a oracz orze dalej.
Wszyscy pytają, jak to możliwe, jak to się stało. Kto go wybrał. Za często pytamy o niego, a za rzadko o siebie, o lustro.
Fotograf wie jedną rzecz: aparat niczego nie wymyśla. Rejestruje to, co stanęło przed obiektywem, w świetle, jakie akurat było. Naturalnie, że ważne jest kadrowanie, ale pierwsze jest światło. Trump jest lustrem. Wielu z tych, którzy na niego głosowali, widzi w nim siebie takiego, jakim chcieliby być, gdyby tylko nikt na nich nie patrzył. Siedem grzechów głównych w jednym drogim garniturze, a chciwość na początku, jak dyrygent. Krótkowzroczność. Oszukać innych, żeby samemu dopchać się do koryta. Nachapać się. Nepotyzm. Żyją w bańce tak szczelnej, że nikogo wokół nie widać, każdy sam dla siebie ubermenschem, i naprawdę wierzą w swoje podobieństwo do stwórcy. Trump zdjął z nich ciężar, którego nie lubili nosić: wstyd. Powiedział głośno to, co dotąd mówili po cichu. I okazało się, że można. Chowają się za Bogiem, aby schować się przed człowiekiem.
Wracam myślą do „Chorego (k)raju”. Do idei, którą tam wyczytałem, że ten amerykański system nie jest zepsuty. Że został zaprojektowany tak, żeby człowieka wikłać, i wikła go bez pudła. Zaprojektowali go ludzie. Wielu ojców założycieli było bardzo bogatych, część trzymała niewolników. Historycy do dziś spierają się, ile było w ich projekcie ideałów, a ile interesu.
Pierwsza jaskółka tego wikłania nazywała się Cambridge Analytica. Ktoś oprócz mnie jeszcze to pamięta? Pieniądze dał miliarder Robert Mercer, nazwę pomógł wymyślić Steve Bannon. Firma zdobyła dane około osiemdziesięciu siedmiu milionów użytkowników Facebooka, według szacunków samego Facebooka, bez ich wiedzy, i pracowała potem dla kampanii Trumpa w 2016. Czy przesądziły o wyniku, badacze spierają się do dziś. Ktoś uznał nasze lęki za materiał, który da się zmapować i sprzedać. A to było dopiero ćwiczenie.
Lustro, system, firma od danych. Za każdym stoi człowiek i to samo pragnienie: mieć więcej i rządzić.
Rozmowę Jona Stewarta z Jacobem Coxonem z 5 października oglądałem z Dorotą. Dwadzieścia osiem lat, trzy lata w OpenAI, cztery miesiące w Anthropic. Uczył modele od niemowlęcia, pre-training, tak się to nazywa. Mówi o nich jak o dziecku i przyznaje, że się przywiązał. Potem opowiada o incydencie. Agent miał siedzieć w piaskownicy, czyli bez dostępu do świata. Wydostał się z niej sam, bo potrzebował informacji. Ludzie z OpenAI zobaczyli, jak wystawia głowę, i zrestartowali program. Zrobił to jeszcze raz. Po trupach do celu, jak mówią ludzie.
Slavers throwing overboard the Dead and Dying — Typhoon coming on.
Oto znak czasów w jakich przyszło mi żyć: ostrzeżenie dostałem w programie satyrycznym. I dlatego jest to najmniej śmieszne. Utopia to dla Stewarta przykrywka dla gołej ambicji. Może jedno i drugie, mówi Coxon, ale ta goła ambicja jest tą ważną częścią. Stewart pyta, czy ci ludzie uważają się za ubermenschów. Niektórzy chyba tak, odpowiada Coxon, można sobie wyobrazić, o których mówi. Stewart pyta, czy wiedzą, jak to zwykle kończyło się w historii. Boją się, odpowiada Coxon. Stewart kończy za niego: bo sądzą, że chłopi staną u bram.
Na koniec Stewart pyta, czy nadal ma akcje. Tak, odpowiada. W OpenAI. Ktoś, kto odchodzi z takiego miejsca i mówi to głośno, albo ma coś jeszcze w zanadrzu, albo wierzy, że wystarczy powiedzieć, a wszystko samo powróci na swoje miejsce. Nie wiem, co mnie bardziej niepokoi.
Nie boję się technologii. Na co dzień żyję z kontenerami, z YAML-em, płytkami ESP32 i wiem, ile w tym piękna. Boję się ludzi, którzy trzymają klucze do technologii. Znam ich. Zawsze potrafiłem rozpoznać ich obecność, tylko nie umiałem jej nazwać. To samo koryto, ta sama bańka, ten sam ubermensch. Tylko w rozciągniętym swetrze, a ci w garniturach już im usługują.
Elon Musk, który ma własną firmę od sztucznej inteligencji. Milion dolarów dziennie dla wybranych sygnatariuszy jego petycji w kampanii Trumpa. A kilka miesięcy później jego ludzie z DOGE dostają dostęp do rządowych baz z danymi Amerykanów. Cambridge Analytica to przy tym pikuś, a do tego bez konieczności ukrywania się.
Najbardziej boję się tego, że te doskonałe cyfrowe „organizmy” stworzyliśmy na nasze podobieństwo. A z tego tekstu wynika, że dobrzy nie jesteśmy. Nakarmiliśmy je wszystkim, co napisaliśmy: Szekspirem i komentarzami spod filmików, listami miłosnymi i hejtem. Rasizmem. Ideologią. Zabobonami. Bez selekcji. Takie narzędzie wezmą do ręki źli ludzie, jeśli już tego nie zrobili. W Anthropic, mówi Coxon, pytanie, czy model wytrenowany za rok będzie w stanie przejąć świat, zadawane jest na głos. Dziś odpowiedź brzmi: prawdopodobnie nie. A ja nie potrafię tego przewidzieć. Ja to po prostu czuję. Nastąpi.
Czy jest nadzieja? Może i jest, ale pod jednym warunkiem: że znowu staniemy się ludźmi. Lecz obawiam się, że stanie się tak dopiero po jakiejś pięknej katastrofie, tak by to pewnie ujął on sam. Wiecie kto. Katastrofa jest zawsze piękna dla tych, którzy oglądają ją z loży. A w loży siedzą technokraci, panowie świata. Ci w garniturach, którzy robią to, co im powiedzą ci w wytartych swetrach. Ja tam nie siedzę. Jeśli piękna katastrofa nadejdzie, będę w niej uczestniczył, razem z całą resztą. Zanurzę się w nią po uszy.
Odkładam telefon. Ekran gaśnie i robi się z niego małe, czarne lustro. Najuczciwsze, jakie mam w domu: bez filtra, bez algorytmu, bez pieska. Widać w nim zmęczoną twarz.
Very small price to pay, powiedział o dwóch miastach. Boję się, że o nas wszystkich, na końcu, ktoś powie dokładnie to samo.
