Stephen Hawking ostrzega przed sztuczną inteligencją. To największy błąd ludzkości?

Nie lubię nadużywania słowa “inteligencja”. Sam nie jestem w tym przypadku bez winy, ale nazywanie żarówki czy telefonu inteligentnymi wydaje się urągać istotom, które - przynajmniej w większości - inteligencją się wykazują.

Można jednak przypuszczać, że nadejdzie czas, gdy sztuczna inteligencja stanie się rzeczywistością. Nie ma znaczenia, czy będzie to zamierzony efekt ludzkich działań czy jakaś forma ewolucji maszyn. Warto jednak postawić pytanie, co to dla nas oznacza.

Determinacja, z jaką ludzie starają się zbudować inteligentne maszyny, sugeruje, że ich pojawienie się będzie dla nas (a przynajmniej dla jakiejś części ludzkości) korzystne. Tylko czy nie jest to aby myślenie życzeniowe?

Nasi dalecy przodkowie na nieznane reagowali strachem. Gdy słyszeli szelest w krzakach, profilaktycznie uciekali, a nie sprawdzali, czy to przypadkiem nie głodny drapieżnik, traktujący ich jak łatwy do upolowania obiad. Teraz też docierają do nas sygnały zwiastujące zbliżanie się czegoś nieznanego, jednak reagujemy na nie inaczej.

Oczekujemy z radosną niecierpliwością na coś, czego znaczenia i skutków nie jesteśmy w stanie przewidzieć. Tę właśnie kwestię poruszył Stephen Hawking. W rozmowie z dziennikarzami “The Independent” stwierdził:

Stephen Hawking:

Jeśli przeważająca nad nami obca cywilizacja prześle nam wiadomość: "Przybędziemy za kilka dekad", odpowiemy: "Dobrze, dajcie znać, kiedy dotrzecie, zostawimy wam otwarte drzwi"? Prawdopodobnie nie, ale w mniejszym lub większym stopniu właśnie tak postępujemy ze sztuczną inteligencją.

Jakie mogą być skutki takiej postawy? Stephen Hawking wskazuje na potencjalne zagrożenia:

Stephen Hawking:

Można sobie wyobrazić technologię, która przechytrzyłaby rynki finansowe, przerosłaby możliwościami ludzkich wynalazców, wywiodłaby w pole światowych przywódców i stworzyłaby broń, której nie będziemy nawet w stanie zrozumieć. Podczas gdy krótkoterminowy rozwój sztucznej inteligencji zależy od tego, kto ją kontroluje, na dłuższą metę chodzi o to, czy sztuczną inteligencję w ogóle da się kontrolować.

Przyznam, że gdy zapoznałem się z opinią profesora, pomyślałem w pierwszej chwili coś w stylu “dziadku, jesteś mądrym astrofizykiem, ale w innych dziedzinach nauki niekoniecznie musisz mieć rację”. Ale moment później pamięć podsunęła mi cytat, który niedawno mieliście okazję przeczytać na fanpejdżu Gadżetomanii:

Trafne, prawda? W takim kontekście przestrogi przed sztuczną inteligencją stają się trochę mniej abstrakcyjne. Jeden z najwybitniejszych umysłów naszych czasów wydaje się mieć sporo racji.

Z drugiej strony zastanawia mnie inna kwestia, o której kilka razy wspominałem w dyskusjach z Wami pod innymi artykułami. Niektórzy z Was snuli wówczas apokaliptyczne wizje tego, co stanie się, gdy powstanie inteligentna maszyna.

Popkulturowa odpowiedź jest oczywista: Skynet, Matrix, próba wyciągnięcia wtyczki zakończona zagładą cywilizacji albo straceńczą walką ludzi z wrednymi robotami. Problem w tym, że odpowiedź ta nie uwzględnia fundamentalnej kwestii: dlaczego jakakolwiek maszyna, o ile nie zalecił tego jej projektant, człowiek, miałaby troszczyć się o własne istnienie?

Istoty żywe - każdy z nas, nasze psy i koty czy choćby niepozorne owady - zostały w toku ewolucji wyposażone w coś, co można ogólnie nazwać instynktem przetrwania. Zazwyczaj robią wszystko, by uniknąć śmiertelnego zagrożenia i pożyć trochę dłużej. Dlaczego maszyna, która nie ma zapisanego w genach takiego bagażu doświadczeń, miałaby przejmować się swoim istnieniem? Dlaczego nie miałoby to być jej po prostu obojętne?

Nie znam odpowiedzi na te pytania. Sądzę jednak, że zastanawiając się nad wpływem technologii na przyszłość naszego gatunku, warto wziąć te rozważania pod uwagę.

W artykule wykorzystałem informacje z serwisów The Independent, IO9 i The Register.