Algorytm jest bogiem

Uważasz, że rozumiesz świat? Jeśli odpowiesz, że tak, to znaczy, że zupełnie go nie ogarniasz.

Kilka prostych pytań. Jak działa Google? Od czego zależy kurs walut? Czy potrafiłbyś skonstruować tak banalny przedmiot jak telefon komórkowy? Oczywiście – nie wiesz, nie masz pojęcia i nie potrafisz, chyba że masz odpowiednio wąską specjalizację. Nie zdajesz sobie sprawy z tego, jak to wszystko działa, a przecież technologia kształtuje twoje życie.

Chcesz kupić kanapę. Co robisz? Prosta sprawa: wchodzisz do Google'a, szukasz sklepu z kanapami, kupujesz. Nie kupujesz jednak tego, co chcesz. Kupujesz to, co jest ci podsuwane. 95 proc. kliknięć w Google'u dotyczy pierwszej dziesiątki wyników wyszukiwania. W pierwszą pozycję klika ponad połowa szukających. Jeżeli rozglądasz się za jakimś towarem, najprawdopodobniej kupisz go u jednej z firm zajmujących najwyższe miejsca w wyszukiwarce.

Dlaczego akurat te firmy znalazły się tak wysoko? Jak konkretnie działa algorytm Google'a? Na jakiej podstawie ocenia, co powinniśmy zobaczyć, a czego nie? Nie mamy pojęcia, bo właściciel najpopularniejszej strony w internecie, będącej podstawą e-marketingu i bazą informacji o wszystkich wyobrażalnych tematach, trzyma to w tajemnicy. Ale powiedzmy sobie szczerze – nawet gdyby rzucił nam algorytmem prosto w twarz i tak byśmy go nie zrozumieli.

Nawet nie zauważyliśmy, że zaczęliśmy żyć jak bohaterowie powieści science fiction, którzy potrafią za pomocą technologii dokonywać cudów, ale na dobrą sprawę nie dostrzegają jej obecności.

SF wkroczyło już m.in. do świata finansów - poprzez HFT, czyli High Frequency Trading. Transakcje giełdowe są przeprowadzane w mgnieniu oka, choć w porównaniu z możliwościami systemów komputerowych mgnienie okna to okres nieznośnie i niebezpiecznie długi. W czasie, który zajmuje ci pojedyncze mrugnięcie, systemy wykorzystujące skomplikowane algorytmy mogą wykonać dowolną operację finansową, i to dziesiątki razy. Czasu nie liczy się już w minutach ani sekundach, powoli również mikrosekundy stają się zbyt niedokładną jednostką.

Kilka lat temu media finansowe podały podlaną sensacyjnym sosem wiadomość: nowy, nieznany algorytm błyskawicznie wykonujący i anulujący transakcje odpowiadał za 4 proc. tygodniowego ruchu na Wall Street. Finansiści byli zszokowani imponującym pokazem możliwości, za pomocą których można wpłynąć na całą światową gospodarkę. Szok przerodził się w ścinający białko niepokój, kiedy stało się jasne, że nikt nie ma pojęcia, jak skonstruowano algorytm i w jaki sposób działał. Programu nie da się kontrolować – można go co najwyżej wyłączyć.

Z nowymi technologiami otwierają się nowe możliwości oszustwa. Gracze giełdowi o szybkim refleksie i zaawansowanej skoliozie moralnego kręgosłupa zaczęli już wykorzystywać to, że programy transakcyjne działają szybciej niż systemy, które je monitorują. Błyskawiczne, trwające nanosekundy „wojny algorytmiczne”, które toczą się na giełdzie każdego dnia, decydują o tym, kto zarobi a kto zbiednieje. Nie ma czasu na zabezpieczenia. Ich sprawdzanie trwa za długo, a czas to pieniądz - a raczej „pieniądze to czas”, jak mawiał bohater "Cosmopolis". Nie bez powodu biura maklerskie zatrudniają coraz więcej fizyków i specjalistów od IT, a traderów coraz częściej porównuje się do hakerów – oni również szukają sposobów na wykorzystanie dziur w zabezpieczeniach.

Domy giełdowe walczą o możliwość założenia biura jak najbliżej giełdy, bo przesył danych krótszy o nanosekundę może zadecydować o przewadze nad konkurencją. Szybkość i dokładność dokonywania transakcji wyszły poza granice ludzkiego pojmowania. Jednocześnie chęć zrozumienia programów – nie tylko tych odpowiadających za transakcje finansowe - przestała się liczyć. Po prostu zabrakło nam możliwości. I chęci zresztą też.

Stanisław Lem w „Obłoku Magellana” napisał, że jest tylko jedna rzecz gorsza od niebezpieczeństwa: nieznane. Owszem, boimy się nowego i zawsze się go baliśmy, ale przecież pomimo to nieustannie dążyliśmy do znalezienia, obejrzenia, dotknięcia, rozłożenia na czynniki pierwsze, zbadania, spisania, przeanalizowania, poznania i zrozumienia. A jeśli nie mieliśmy możliwości zrozumienia, zawsze szukaliśmy alternatyw.

„Hipoteza o Bogu daje z niczym nieporównywalną możliwość zrozumienia absolutnie wszystkiego, absolutnie niczego się nie dowiadując” - zauważyli bracia Arkadij i Boris Strugaccy. Jedną z najistotniejszych przyczyn powstania religii była potrzeba wyjaśnień. Zawsze, ale to zawsze chcieliśmy wiedzieć: dlaczego? To ironiczne, że teraz, kiedy odpowiedzi są w zasięgu ręki, wolimy od nich uciekać.

Technologia otworzyła nam oczy i uzmysłowiła, jak wiele jesteśmy w stanie się dowiedzieć. Wiedza jest wszędzie – jest jej tak dużo, że nikt nie jest w stanie jej przyswoić. Wielu nawet nie próbuje tego robić. Na pytanie, jak działa Google, odpowiadamy bez głębszego namysłu: wpisujesz frazę i klikasz „szukaj”; a jeżeli w lodówce pali się światło, wystarczy nam wyjaśnienie, że dzieje się tak dlatego, ponieważ otworzyliśmy drzwi.

Coraz bardziej zamykamy się na informację. Informacja nas przerosła. Zaczęliśmy uświadamiać sobie jej rolę, a następnie uzależniliśmy się od niej do tego stopnia, że przestaliśmy ją kontrolować. To informacja zaczęła kontrolować informację: światem kierują algorytmy, których nie zna 99,(9) proc. ludzkości, a decyzje są podejmowane tak szybko, że nie jesteśmy w stanie tego dostrzec. Przesada? Skądże znowu.

W 2011 algorytm odpowiadający za korektę cen w sklepie internetowym Amazon doszedł do wniosku, że książka przyrodnicza „The Making of a Fly” to biały kruk wart niemal dwa miliony dolarów. Ku rozbawieniu klientów cena szybko urosła do 23 milionów. Co się stało? Dwa pozostawione samym sobie programy zaczęły podbijać stawkę w odpowiedzi na zwiększenie jej przez konkurencyjnego sprzedawcę. Dopiero (mocno spóźniona) ingerencja administracji zakończyła pierwszą całkowicie wirtualną licytację. W tym przypadku chodziło tylko o książkę – a gdyby stawka była większa?

W roku 2010 doszło do wydarzenia, które dziś znamy pod nazwą Flash Crash. Nagle w wyniku błędu algorytmu dokonującego miliony błyskawicznych operacji indeks Dow Jones spadł o dziewięć procent, co doprowadziło do załamania cen na Wall Street. Nie wiadomo, dlaczego algorytm zachował się w ten sposób. Istnieją mniej lub bardziej prawdopodobne teorie, ale nie ma jednego solidnego wytłumaczenia.

O losach świata miliony razy na sekundę decydują algorytmy, których nie potrafimy kontrolować. Zależy od nich nie tylko to, jaką sofę postawisz w salonie, lecz także to, czy nadal będzie ci wystarczało do pierwszego. Nikt nie jest w stanie uniezależnić się od systemu, a każda zmiana w nim nie tylko może, ale prawie na pewno wywoła opisany przez Bradbury'ego efekt motyla.

Harlan Ellison pisał o świecie, w którym los ludzkości zależał od komputerów: algorytmy stworzone przez człowieka decydowały o pokoju, wojnie, bogactwie, ubóstwie, a wreszcie o samym życiu. To, co jeszcze kilka dekad temu było fantastyką, dziś jest rzeczywistością. Staliśmy się Eloi, o których pisał H.G. Wells – istotami korzystającymi z luksusów pojawiających się znikąd. Nie zdajemy sobie sprawy, że nasze dobra wytwarzają Morlokowie – algorytmy kryjące się poza zasięgiem wzroku.

Nie wykorzystujemy maszyn – jesteśmy od nich całkowicie zależni, a zarazem nie mamy najmniejszego pojęcia, w jaki sposób działają. To niebezpieczne, ale nie dlatego, że znany z filmów "Terminator" Skynet może zyskać świadomość i dojść do wniosku, że jesteśmy zagrożeniem dla samych siebie. Nawet jeśli w systemie nastąpi zmiana, nie zauważymy różnicy, bo i tak nie wiemy, jak działa.

Prawdziwe niebezpieczeństwo wiąże się z tym, że Skynetu może zabraknąć. Apokalipsy nie wywoła jądrowy wybuch ani plaga, lecz upadek systemów giełdowych, awaria elektronicznej organizacji transportu i brak możliwości natychmiastowej komunikacji.

W stechnicyzowanym Hongkongu na każdym kilometrze kwadratowym żyje średnio sześć tysięcy osób. Miasto każdego dnia pochłania tony pożywienia i produkuje tony śmieci. Produkcja, dystrybucja i utylizacja są uzależnione od maszyn, programów, algorytmów. Zagadka: co zrobić, żeby niemal siedem milionów mieszkańców Hongkongu padło trupem? Odpowiedź: wystarczy wyłączyć światło.