Autonomiczny bojowy dron X‑47B. Kiedy pierwszy atak bez udziału człowieka?

Wojskowe bezzałogowce zmieniły obraz współczesnego pola bitwy. Choć polowania na talibów urządzane z wygodnego fotela w bazie w Nevadzie nie są już niczym nadzwyczajnym, drony wciąż wymagają nadzoru operatora. Pojawił się jednak pierwszy wyjątek – autonomiczny bojowy dron X-47B.

Strach przed maszynami

Jeden z odcinków „Żony idealnej” zaczyna się kapitalną sceną. Na monitorze widać obraz z kamery drona krążącego nad miastem gdzieś w Afganistanie. W tle gra Awolnation, a w bazie na terenie Stanów Zjednoczonych parę osób siedzi sobie przed komputerami. Ktoś podejmuje decyzję, ktoś naciska przycisk fire, a na drugiej półkuli bezzałogowiec odpala rakietę. Widzimy eksplozję i możemy przypuszczać, że tysiące kilometrów dalej miejsce wybuchu otacza wianuszek ofiar.

Rozwój technologii sprawił, że aby wziąć udział w walce, nie trzeba już narażać własnego życia. Walka może odbywać się zdalnie, a zamiast cierpieć frontowe niewygody, żołnierz siedzi w wygodnym fotelu. W praktyce nie różni się to od gry wideo – no, może grafika jest trochę gorsza.

Taki sposób walki wciąż jednak wymaga zaangażowania ze strony człowieka. To operator drona inicjuje atak, poprzedzony zazwyczaj drobiazgową analizą sytuacji. O włączeniu się do walki decydują ludzie – maszyna jest wyłącznie wykonawcą ich woli. Jak długo uda się utrzymać taką sytuację?

Przez dziesiątki lat literatura i kino straszyły nas autonomicznymi maszynami, które na skutek różnych czynników miały w końcu zwrócić się przeciwko ludziom. Próbę okiełznania tego strachu podjął jeszcze w połowie XX wieku Isaac Asimov, jednak jego etyka robotów, zabraniająca im krzywdzenia ludzi jest o tyle szlachetna, co naiwnie oderwana od rzeczywistości.

• Robot nie może skrzywdzić człowieka ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
• Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
• Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.
• Robot nie może skrzywdzić ludzkości lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości (dodatkowe, zerowe prawo, dodane do trzech pierwszych).

Na lęki, jakie wyraża „Matrix” czy kolejne części Terminatora, jest już jednak za późno, co wykazują kolejne testy X-47B – maszyny nie tylko bezzałogowej, ale zarazem coraz bardziej autonomicznej.

Autonomia X-47B

Automatyzacja w lotnictwie nie jest niczym nowym. Awionika samolotów od dziesięcioleci potrafi wykonywać sekwencje różnych czynności, jednak autonomia X-47B daleko przekracza to, co oferują np. drony, wykonujące część swoich misji bez aktywnego udziału człowieka.

X-47B nie jest na razie przeznaczony do zastosowania bojowego. Skonstruowana przez wytwórnię Northrop Grumman dla US Navy maszyna jest określana mianem demonstratora technologii, jednak docelowo ma stać się kolejnym samolotem marynarki wojennej.

Cechą odróżniającą X-47B od innych bezzałogowców jest autonomia, co w praktyce oznacza, że maszyna dostając rozkaz, samodzielnie podejmuje decyzję o sposobie, w jaki go wykona. Z punktu widzenia praktyki nie różni się pod tym względem od żywego pilota.

Trwające obecnie testy X-47B obejmują na razie autonomiczne starty i lądowania i automatyczną wymianę danych pomiędzy dronem i okrętem. Przed rozpoczęciem prób twórcy sztucznej inteligencji X-47B zaserwowali jej intensywne, wirtualne treningi, pozwalające na znalezienie przez maszynę optymalnych rozwiązań i wypracowanie sposobów radzenia sobie w różnych niestandardowych sytuacjach.

Dron potrafi również współpracować z LSO (Landing Signal Officer) – człowiekiem, który z pokładu lotniskowca weryfikuje poprawność każdego lądowania i może np. w ostatniej chwili dać pilotowi sygnał, by poderwał samolot w górę. Po dopracowaniu autonomicznych lądowań, na 2014 rok zaplanowano kolejną serię prób, podczas których algorytmy sterujące X-47B zdobędą umiejętność tankowania w powietrzu.

Nowa etyka robotów

Można przypuszczać, że po opanowaniu wszystkich potrzebnych elementów pilotażu nadejdzie czas na kolejny kontrowersyjny aspekt – autonomiczną walkę, wybór celów i podejmowanie decyzji o ataku. Do czego nas to doprowadzi? Komentujący rozwój robotów i ich zastosowanie na polu walki prof. Ronald Craig Arkin, zajmujący się kwestiami etyki robotów jest pełen optymizmu.

Jego zdaniem to właśnie maszyny, pozbawione uczuć i emocji, dają szansę na prowadzenie wojny, w której zabijanie, choć niewykluczone, będzie wynikać z kalkulacji, a nie np. nienawiści lub strachu. Jak stwierdził w wywiadzie dla „Gazety Wyborczej”:

(…) jestem przekonany, że za pomocą technologii uda się wyeliminować część czynników negatywnie wpływających na zachowanie żołnierzy (…) Zamiast zasady "Najpierw strzelaj, potem pytaj" autonomiczne systemy będą kierowały się mniej agresywną strategią zgodnie z zasadą "Nie czyń niepotrzebnie krzywdy"(…) Roboty staną się etyczne, gdy zostaną wyposażone w oprogramowanie zmuszające je do przestrzegania praw wojny.

Czy tak będzie w rzeczywistości? Choć od X-47B do w pełni autonomicznego, bojowego samolotu wiedzie jeszcze długa droga, pierwsze kroki zostały już zrobione. Wbrew pozorom popkulturowa wizja walczących maszyn może jednak okazać się zupełnie chybiona. Zdaniem prof. Arkina to właśnie maszyny uwzględniające właściwy kodeks etyczny dają szansę na to, by przyszłe konflikty stały się  bardziej humanitarne.

Źródło: Popular Science • Gazeta Wyborcza