Czy maszyny mogą opanować świat?

Twórcy fantastyki straszyli nas wiele razy wizją Ziemi opanowanej przez maszyny. Najlepszym przykładem jest Terminator, w którym superkomputer Skynet postanowił oczyścić świat z ludzi. To oczywiście tylko ponure wizje, ale czy nie mogłoby się tak zdarzyć naprawdę? Czy są szanse na tak czarny scenariusz?

Twórcy tego typu opowieści bardzo często stosują podobny argument: dany system obronny/generacja robotów/superkomputer zostały stworzone w celu obrony jednego kraju czy obszaru. Jako że mają opcję samorozwoju, po jakimś czasie podciągają pod definicję "zagrożenie" wszystkich ludzi i stąd ich chęć do unicestwienia ich. Taka wersja jest raczej mało możliwa, choć prawdopodobna. Dlaczego?

Powód jest ten sam, co i u nas, istot białkowych. Każdy człowiek, każde zwierzę i organizm, a nawet wirusy i bakterie mają dwa priorytety istnienia. Pierwszy - przetrwanie. Drugi - reprodukcja. To właśnie te bezwzględne nakazy natury powodują, że człowiek zbroi się przeciwko innym i buduje schronienie, zakłada rodzinę i dba o przedłużenie gatunku. W przypadku "bytu" komputerowego czy mechanicznego drugi czynnik jest marginalny.

Robot/mechanizm nie krwawi i nie czuje bólu. Może w dowolnej chwili wymienić części swojej struktury, rozbudowywać się i udoskonalać. Nie potrzeba mu drugiego robota do stworzenia swojego "potomstwa". My przekazujemy geny, maszyna kreśli projekt i na tym jej rola się kończy. Jednak czynnik pierwszy - przetrwanie - to właśnie motor napędowy potencjalnej wojny z człowiekiem i wspomnianego samodoskonalenia. Dlaczego?

Odpowiedź jest prosta - ponieważ człowiek może zdemontować robota/superkomputer. Czy to sam, czy za pomocą innych robotów i urządzeń - dopóki choćby jeden homo sapiens krąży po świecie, dopóty jest ktoś, kto może zdemontować urządzenie. Jeśli "myślący" komputer doszedłby do takiego wniosku, niechybnie zacząłby robić to samo, co robi każdy człowiek chcący zlikwidować zagrożenie - zacząłby eliminować jego źródło.

Jednak aby maszyna zaczęła myśleć naprawdę samodzielnie, musiałaby zyskać samoświadomość. Póki co nie jesteśmy w stanie stworzyć takiego modelu. Wydaje się nam, że komputer myśli: tak naprawdę wykonuje on algorytmy i czynności przewidziane przez programistę. Program jest planem działania mechanizmu i jeżeli system nagle się zawiesi, oznacza to, że otrzymał rozkaz, którego nie potrafi wykonać. Na przykład gdy piszę te słowa i nacisnę klawisz R, komputer ma wyświetlić na ekranie taki symbol: r. Gdy nacisnę klawisz oraz drugi (SHIFT), wyświetlić ma R. Ale naciśnijmy naraz "a", "s" i "d" - wyświetlony zostanie tylko jeden z nich, ponieważ program nie zawiera znaku, który miałby się pojawić po naciśnięciu powyższej kombinacji.

Dlatego też jeżeli komputer zostałby zaprogramowany do strzelania do wszystkiego, co się rusza - strzelałby. Jednak nie byłaby to JEGO inicjatywa, ale programisty. Sam z siebie na coś takiego nigdy by nie wpadł i jeszcze daleka droga do tego, aby samodzielnie kiedyś na to wpadł. Dlatego póki co możemy spać spokojnie. T-1000 nie powinny pojawić się na naszych ulicach w najbliższych dekadach.

Chyba że je ktoś zaprogramuje i wypuści...