Dron MQ-9 Reaper w bazie lotniczej Creech w Nevadzie

Dron MQ-9 Reaper w bazie lotniczej Creech w Nevadzie

Algorytm zabijania. Skynet istnieje i dzięki big data decyduje, kogo trzeba uśmiercić

Ahmad Zaidan jest dziennikarzem – kieruje biurem Al-Dżaziry w Islamabadzie. Ponad rok temu dowiedział się, że Skynet chce go zabić. To nic, że Ahmad nie zrobił niczego złego – amerykańska maszyna uznała go za terrorystę i umieściła na liście celów do likwidacji.

  1. Kto się boi buntu maszyn?
  2. W jaki sposób Skynet wybiera cele do zabicia?
  3. Ile niewinnych osób zabiły amerykańskie drony?
  4. Czy można poddać się załodze atakującego śmigłowca?

Jednym z największych, podsycanych przez popkulturę lęków związanych z technologią jest obawa przed buntem maszyn. Niezliczone książki, filmy czy gry wideo opowiadają o tym, jak dzieło ludzkiego geniuszu na jakimś etapie rozwoju zyskuje samoświadomość albo opacznie interpretuje wydane polecenia.

Efekt jest powszechnie znany: filmy takie jak „Matrix”, „Terminator”, „Ja, robot” czy liczne, mniej znaczące dzieła raczą nas wizją świata, w którym maszyny, zamiast posłusznie parzyć nam kawę, podwozić do pracy i wyręczać w uciążliwych czynnościach, zwracają się przeciwko swoim stwórcom, stają się nagle śmiertelnym wrogiem ludzkości.

Los nietrwałych, białkowych istot staje się wówczas nie do pozazdroszczenia: nie dość, że mamy wrażliwe na uszkodzenia ciała, to na dodatek wymiana uszkodzonych narządów, choć niekiedy możliwa, jest skomplikowana i kosztowna.

W tej wojnie maszyny mają przewagę którą zniwelować może – i z reguły o tym opowiada historia – jakiś przebłysk ludzkiego geniuszu, podparty zazwyczaj wielkim poświęceniem głównego bohatera.

Mam nadzieję, że nie jesteśmy jedynie biologicznym bootloaderem dla cyfrowej superinteligencji. Niestety, wydaje się to coraz bardziej prawdopodobne.

Elon Musk

Kto się boi buntu maszyn?

Zostawmy jednak na boku popkulturowe schematy – chyba każdy je zna i mógłby wymienić kilka własnych przykładów. Sednem jest coś innego – zakorzeniony w tych opowieściach lęk przed maszynami.

Nie ten z okładek brukowców, opisujących wielkimi literami historię babci, którą chciał zamordować toster, ale raczej obawa przed tym, dokąd zaprowadzi nas rozwój technologii.

Zobacz również: Wideorecenzja: Acer Aspire S3

Wbrew pozorom nie jest to lęk pozbawiony podstaw. Obawy wyrażają nie tylko różni ekstremiści, którzy boją się smartfonów i kuchenek mikrofalowych, a na zewnątrz wychodziliby najchętniej w czapeczkach z folii aluminiowej, ale również osoby bezpośrednio związane ze światem technologii.

Krytykiem kierunku, w którym prowadzi nas rozwój technologii jest od lat ojciec wirtualnej rzeczywistości, Jaron Lanier. Z bardziej znanych postaci warto wymienić choćby Elona Muska i Stephena Hawkinga, koncentrujących swoje obawy na sztucznej inteligencji i tzw. technologicznej osobliwości.

Zdefiniujmy maszynę ultrainteligentną jako maszynę, która przewyższa intelektualnie każdego człowieka. Skoro projektowanie maszyn jest jedną z prac umysłowych, maszyna ultrainteligentna mogłaby projektować jeszcze lepsze maszyny. Byłaby to bez wątpienia eksplozja inteligencji, która pozostawiłaby człowieka daleko w tyle. Maszyna ultrainteligentna będzie ostatnim wynalazkiem człowieka.

Irving J. Good, brytyjski matematyk i kryptolog, współpracownik Alana Turinga
Eksperymentalny, autonomiczny dron X-47B na pokładzie lotniskowca

Skynet zabija w Pakistanie

Kilka lat temu w artykule „Autonomiczny bojowy dron X-47B. Kiedy pierwszy atak bez udziału człowieka?” przytaczałem poglądy prof. Ronalda Arkina, zajmującego się etyką robotów na polu bitwy.

(…) jestem przekonany, że za pomocą technologii uda się wyeliminować część czynników negatywnie wpływających na zachowanie żołnierzy (…) Zamiast zasady "Najpierw strzelaj, potem pytaj" autonomiczne systemy będą kierowały się mniej agresywną strategią zgodnie z zasadą "Nie czyń niepotrzebnie krzywdy"(…) Roboty staną się etyczne, gdy zostaną wyposażone w oprogramowanie zmuszające je do przestrzegania praw wojny.

prof. Ronald Arkin

Od tamtego czasu wiele się zmieniło: odwaga ludzi takich jak Edward Snowden uchyliła nieco rąbka tajemnicy nie tylko na temat masowej inwigilacji, ale i metod stosowanych przez Amerykanów do kontrolowania innych krajów i ich obywateli.

Jednym z wykorzystywanych do tego celu narzędzi jest Skynet. Serio – ktoś w Langley, Fort Meade czy jeszcze innym ośrodku, zarządzającym globalną inwigilacją uznał to zapewne za zabawne i nazwał jedno z narzędzi wywiadu złowrogim słowem, znanym z „Terminatora”.

Skynet analizuje dane pochodzące z telefonów komórkowych kilkudziesięciu milionów Pakistańczyków i na tej podstawie – analizując zbiory big data – tworzy listę celów dla dronów. Jak się to odbywa?

Stanowisko pilotów dronów, baza LSA Anaconda (port lotniczy Al-Bakr), Irak

Big data i metadane: paliwo dla wojny z terrorystami

Wszystko to jest zasługą big data i metdanych. Nie trzeba podsłuchiwać konkretnych rozmów czy analizować treści wszystkich wiadomości. Czasem wystarczą informacje o tym, że kontakt pomiędzy określonymi numerami w ogóle miał miejsce.

Jeśli ktoś często zmienia numery telefonów, podróżuje w miejsca uznawane za podejrzane, a na dodatek przebywa w tych samym miejscu i czasie, co inne, podejrzane numery – dla Skynetu jest potencjalnym celem dla drona.

Jak zostać terrorystą?

W taki właśnie sposób algorytm tworzy listę osób, które – po zatwierdzeniu – mają stać się ofiarami krążących gdzieś nad Pakistanem, uzbrojonych maszyn, kontrolowanych przez operatorów z drugiego końca świata.

MQ-9 Reaper odpalający rakietę Hellfire

Kogo Skynet uznaje za terrorystę?

Warto przy tym zastrzec, że o ile maszyna wybiera, kogo zabić, to ostateczną decyzję – czyli odpowiedź na pytanie, czy zabić – podejmuje na razie człowiek. I całe szczęście, bo jak się okazuje, metody typowania są wciąż dalekie od doskonałości.

Przekonał się o tym wspomniany na początku Ahmad Zaidan, który – według Skynetu – był modelowym terrorystą: często podróżował, zmieniał miejsce zamieszkania, przebywał w dziwnych lokalizacjach i kontaktował się z podejrzanymi ludźmi.

Klasyfikacja dziennikarza według Skynetu

Choć w przypadku dziennikarza Al-Dżaziry wszystko skończyło się dobrze i na którymś etapie weryfikacji wyrok śmierci został anulowany, nie wszyscy z wytypowanych przez Skynet mają tyle szczęścia.

Uzbrojony MQ-9 Reaper w Afganistanie

Rozterki pilota drona

Major Thomas Egan jest oficerem amerykańskich sił powietrznych. Służy w bazie lotniczej w Newadzie, ale nie lata już – jak na początku kariery – samolotami F-16. Jego służba to pilotowanie Reapera, bojowego drona, który po drugiej stronie globu zabija w Afganistanie wrogów pokoju, demokracji i podwójnych Maków.

Dobre wyniki i nienaganna służba sprawiają, że Egan wykonuje misje coraz trudniejsze, a zarazem coraz bardziej niejednoznacznie moralnie, co prowadzi w końcu do rozterek, niesubordynacji i samodzielnego wymierzania sprawiedliwości za pomocą Reapera.

Historia Thomasa Egana to fikcja – została opowiedziana w filmie „Dobre zabijanie”. Rozterki operatora drona wydają się jednak przedstawione wiarygodnie, podobnie jak fakt, że mimo nowoczesnego, precyzyjnego rozpoznania i zaawansowanej technologii, skutkiem ubocznym użycia dronów jest zabijanie niewinnych ludzi.

Jak rozpoznać, co krąży nad głową?

Drony zabiły setki niewinnych osób

Patrick Ball z Human Rights Data Analysis Group wskazuje, że – na podstawie szczątkowych danych, ujawnianych przez NSA – błędne wskazania mogą dotyczyć nawet 15 tys. Pakistańczyków.

Trudno ocenić, ilu z nich padnie ofiarą niespodziewanego nalotu. Ostrożne w obliczeniach organizacje, jak Bureau of Investigative Journalism czy New America Foundation, które trudno posądzić o szukanie taniej sensacji czy manipulowanie danymi, szacują liczbę cywilów zabitych przez bezzałogowce w Pakistanie na 600 – 1100 osób.

W pakistańskich górach dorasta właśnie pierwsze pokolenie dzieci, dla których bezchmurne niebo nie kojarzy się — jak dla ich rówieśników z innych zakątków planety — z piękną pogodą, zachęcającą do zabawy na zewnątrz. Bezchmurne niebo to dla nich synonim zagrożenia w postaci — dosłownie — gromu z jasnego nieba.

Niektóre dane wskazują, że wśród ponad 2300 zabitych w atakach zaledwie 84 osoby należały do Al-Kaidy, jeszcze inne, że 90 proc. zabitych nie było celami - to m.in. ofiary błędnej klasyfikacji przez Skynet lub ludzkich pomyłek w czasie ataku.

Wśród ornamentów na tradycyjnych, pakistańskich dywanach pojawiły się również drony

Dehumanizacja wojny: co się dzieje, gdy zabija maszyna?

Trudno traktować te dane bezkrytycznie, jednak bez wątpienia pokazują one istniejący problem.

Jest nim nie tylko liczba zabitych, niewinnych ludzi, ale również postępująca dehumanizacja wojny, która – co również znamienne – nie została przecież przez Stany Zjednoczone Pakistanowi wypowiedziana. Co więcej, oba państwa to – przynajmniej formalnie – sojusznicy.

Z punktu widzenia Pakistańczyka, ginącego właśnie w eksplozji rakiety nie ma raczej znaczenia, czy wystrzelił ją pilot samolotu, czy bezzałogowiec, kontrolowany przez odległego o tysiące kilometrów operatora. Znaczenie to pojawia się jednak, gdy zapytamy o przyszłość konfliktów zbrojnych.

Człowiek czy cel?

Jeszcze niedawno mogło się wydawać, że rację ma wspomniany wcześniej etyk, prof. Arkin. Jego zdaniem zaangażowanie w walkę pozbawionych emocji maszyn daje gwarancję „czystej”, pozbawionej okrucieństwa i niepotrzebnego cierpienia wojny.

Praktyka wydaje się wskazywać na coś innego: niwelując (choć wciąż jeszcze nie do końca) czynnik ludzki decydenci sprawili, że zabijanie stało się łatwiejsze. Pod względem tego, co widzi osoba decydująca o życiu i śmierci innych nie różni się od znanych nam wszystkim gier wideo.

Nie tylko nie ma ryzyka po stronie własnych sił, ale nie ma również ginących i cierpiących ludzi. Są tylko widoczne na ekranie cele.

MQ-9 Reaper

Czy można poddać się dronowi?

Niesie to z sobą kolejną zmianę. Wśród ujawnionych przez Snowdena materiałów znalazła się transkrypcja rozmowy pilota śmigłowca Apache z wojskowym prawnikiem. W 2007 roku podczas misji załoga śmigłowca o nazwie kodowej Crazyhorse 18 zaczęła ostrzeliwać talibów, którzy – będąc w beznadziejnym położeniu – rzucili w końcu broń i podnieśli ręce do góry.

Wobec nietypowej sytuacji pilot skontaktował się z dowództwem pytając, co ma w takich okolicznościach zrobić. Odpowiedź była jednoznaczna: strzelać dalej, bo „nie można poddać się samolotowi”.

Wygląda na to, że osoby odpowiedzialne za tworzenie wojskowych regulaminów mają teraz twardy orzech do zgryzienia. Przed nimi wyzwanie opracowania nowych zasad, dostosowanych do realiów, w których technologia zmieniła sposób wojowania. Mam wrażenie, że konflikty wcale nie staną się przez to bardziej humanitarne. Bo czy można poddać się dronowi?

MQ-1 Predator

Data oblotu: 1994 r.
Wejście do służby: 1995 r.
Uzbrojenie: 2 punkty podwieszeń (2 rakiety Hellfire lub 2 rakiety Stinger)
Prędkość maksymalna 217 km/h
Maksymalna masa startowa: 1020 kg
Producent: General Atomics

MQ-1C Grey Eagle

Data oblotu: 2005 r.
Wejście do służby: 2009 r.
Uzbrojenie: 4 punkty podwieszenia (4 rakiety Hellfire, do 8 rakiet Stinger lub 4 bomby GBU-44/B Viper Strike)
Prędkość maksymalna: 280 km/h
Maksymalna masa startowa: 1633 kg
Producent: General Atomics

MQ-9 Reaper

Data oblotu: 2001 r.
Wejście do służby: 2007 r.
Uzbrojenie: 7 punktów podwieszeń (4 rakiety Hellfire + 2 bomby GBU-12 Paveway II, pociski JDAM, rakiety Stinger i Brimstone)
Prędkość maksymalna: 482 km/h
Maksymalna masa startowa: 4760 kg
Producent: General Atomics

General Atomics Avenger (Predator C)

Data oblotu: 2009 r.
Wejście do służby: gotowy do służby, niewdrożony
Uzbrojenie: 1900 kg (wewnętrzna komora + 6 zewnętrznych punktów podwieszeń)
Prędkość maksymalna: 740 km/h
Maksymalna masa startowa: 8255 kg
Producent: General Atomics

Podziel się:

Przeczytaj także:

Także w kategorii Technologie:

Broń, która nie zabija. Wojna przyszłości: wszystko zniszczone, żadnych zabitych 8 cudów techniki z lat 90. Napęd ZIP, robot AIBO i pager BlackBerry. Pamiętasz je? Jak powstaje smartfon? Jeśli poznacie prawdę, być może nigdy więcej go nie kupicie Xanadu - zapomniany przodek WWW. Kto naprawdę wymyślił hipertekst? Bezpowrotnie tracimy dane. Nic po nas nie zostanie – ostrzega wiceprezes Google’a V3 - mordercza stonoga Hitlera. Największe działo drugiej wojny testowano w Międzyzdrojach Nurkujące drony i łodzie jak statki kosmiczne. Niezwykły sprzęt do podróży pod wodą „Das Marsprojekt”. Marsjańska misja Wernhera von Brauna z 1952 roku Jak prasa pisała o Internecie w 1988 roku? Quiz Gadżetomanii: Kto to powiedział? Dopasuj cytaty do znanych postaci! Ernő Rubik, człowiek schowany za kostką Binairy Talk – dane zapisane w obłokach dymu. Odczytamy je laserem Nietypowe zastosowania WD-40. Do czego można go wykorzystać? Jak oni podrabiają! Chińczycy skopiowali kuchenkę gazową Apple'a i... alpejski kurort Bałakława - tajna baza radzieckich okrętów podwodnych Niesamowity XC-120 Packplane: eksperymentalny samolot z lat 50. Kosmiczne technologie, których używamy na co dzień Tego używaliśmy przed internetem. Skazane na zapomnienie stare nośniki danych Jaki nóż wybrać? Najlepsze scyzoryki i foldery za 50, 100 i więcej złotych Hatsune Miku: oto przyszłość muzyki. Ta Japonka zawsze będzie miała 16 lat Za kulisami rezerwacji online. Jak kupić tani bilet? Bill Gates: kradnij pomysły, zdradzaj przyjaciół, ciężko pracuj. Tak zostaniesz miliarderem Współczesne czołgi i pojazdy bojowe Wojska Polskiego. Ten sprzęt ma nas obronić Tajny projekt NASA: dlaczego rozsypano w Kosmosie miliony miedzianych igieł?

Popularne w tym tygodniu:

Getac B300 – wodoodporny, niezniszczalny laptop Bang & Olufsen BeoSound Shape: modułowe głośniki za 16 tys. zł Lokalizator GPS W2: dziecięcy smartwatch z GPS-em i slotem SIM Dell UltraSharp UP3017Q: 30-calowy monitor OLED 4K Bose SoundLink Revolve i SoundLink Revolve+: nowoczesne głośniki Bluetooth 360˚