Stephen Hawking ostrzega przed sztuczną inteligencją. To największy błąd ludzkości?

Co oznacza dla nas pojawienie się sztucznej inteligencji? Czekamy na nią z niecierpliwością, ale być może przypomina to zapał Trojan z naiwną radością witających w murach swojego miasta śmiertelne zagrożenie. Jak na tę kwestię zapatruje się Stephen Hawking?

Nie lubię nadużywania słowa “inteligencja”. Sam nie jestem w tym przypadku bez winy, ale nazywanie żarówki czy telefonu inteligentnymi wydaje się urągać istotom, które — przynajmniej w większości — inteligencją się wykazują.

Można jednak przypuszczać, że nadejdzie czas, gdy sztuczna inteligencja stanie się rzeczywistością. Nie ma znaczenia, czy będzie to zamierzony efekt ludzkich działań czy jakaś forma ewolucji maszyn. Warto jednak postawić pytanie, co to dla nas oznacza.

Determinacja, z jaką ludzie starają się zbudować inteligentne maszyny, sugeruje, że ich pojawienie się będzie dla nas (a przynajmniej dla jakiejś części ludzkości) korzystne. Tylko czy nie jest to aby myślenie życzeniowe?

Nasi dalecy przodkowie na nieznane reagowali strachem. Gdy słyszeli szelest w krzakach, profilaktycznie uciekali, a nie sprawdzali, czy to przypadkiem nie głodny drapieżnik, traktujący ich jak łatwy do upolowania obiad. Teraz też docierają do nas sygnały zwiastujące zbliżanie się czegoś nieznanego, jednak reagujemy na nie inaczej.

Oczekujemy z radosną niecierpliwością na coś, czego znaczenia i skutków nie jesteśmy w stanie przewidzieć. Tę właśnie kwestię poruszył Stephen Hawking. W rozmowie z dziennikarzami “The Independent” stwierdził:

Jeśli przeważająca nad nami obca cywilizacja prześle nam wiadomość: "Przybędziemy za kilka dekad", odpowiemy: "Dobrze, dajcie znać, kiedy dotrzecie, zostawimy wam otwarte drzwi"? Prawdopodobnie nie, ale w mniejszym lub większym stopniu właśnie tak postępujemy ze sztuczną inteligencją.

Jakie mogą być skutki takiej postawy? Stephen Hawking wskazuje na potencjalne zagrożenia:

Zobacz również: Wieczór Premier - 3D Mapping w Warszawie

Można sobie wyobrazić technologię, która przechytrzyłaby rynki finansowe, przerosłaby możliwościami ludzkich wynalazców, wywiodłaby w pole światowych przywódców i stworzyłaby broń, której nie będziemy nawet w stanie zrozumieć. Podczas gdy krótkoterminowy rozwój sztucznej inteligencji zależy od tego, kto ją kontroluje, na dłuższą metę chodzi o to, czy sztuczną inteligencję w ogóle da się kontrolować.

Przyznam, że gdy zapoznałem się z opinią profesora, pomyślałem w pierwszej chwili coś w stylu “dziadku, jesteś mądrym astrofizykiem, ale w innych dziedzinach nauki niekoniecznie musisz mieć rację”. Ale moment później pamięć podsunęła mi cytat, który niedawno mieliście okazję przeczytać na fanpejdżu Gadżetomanii:

Trafne, prawda? W takim kontekście przestrogi przed sztuczną inteligencją stają się trochę mniej abstrakcyjne. Jeden z najwybitniejszych umysłów naszych czasów wydaje się mieć sporo racji.

Z drugiej strony zastanawia mnie inna kwestia, o której kilka razy wspominałem w dyskusjach z Wami pod innymi artykułami. Niektórzy z Was snuli wówczas apokaliptyczne wizje tego, co stanie się, gdy powstanie inteligentna maszyna.

Popkulturowa odpowiedź jest oczywista: Skynet, Matrix, próba wyciągnięcia wtyczki zakończona zagładą cywilizacji albo straceńczą walką ludzi z wrednymi robotami. Problem w tym, że odpowiedź ta nie uwzględnia fundamentalnej kwestii: dlaczego jakakolwiek maszyna, o ile nie zalecił tego jej projektant, człowiek, miałaby troszczyć się o własne istnienie?

Istoty żywe — każdy z nas, nasze psy i koty czy choćby niepozorne owady — zostały w toku ewolucji wyposażone w coś, co można ogólnie nazwać instynktem przetrwania. Zazwyczaj robią wszystko, by uniknąć śmiertelnego zagrożenia i pożyć trochę dłużej. Dlaczego maszyna, która nie ma zapisanego w genach takiego bagażu doświadczeń, miałaby przejmować się swoim istnieniem? Dlaczego nie miałoby to być jej po prostu obojętne?

Nie znam odpowiedzi na te pytania. Sądzę jednak, że zastanawiając się nad wpływem technologii na przyszłość naszego gatunku, warto wziąć te rozważania pod uwagę.

W artykule wykorzystałem informacje z serwisów The Independent, IO9 i The Register.

Podziel się:

Przeczytaj także:

Także w kategorii Nauka:

Wynalazki Leonarda da Vinci. Nad czym pracował renesansowy geniusz? Gigantyczne bombardy, moździerze i armaty. 9 największych dział, jakie kiedykolwiek zbudowano Spece od nostalgii, domowych robotów i operacji na odległość. To są zawody przyszłości? Eksplozja nad Murmańskiem. Co wybuchło nad rosyjskim portem? NASA odkryła pierwszą tak podobną do Ziemi planetę, która znajduje się w strefie życia Technologiczne mity. Ile prób przeprowadził Edison przed wynalezieniem żarówki? Co będzie możliwe za 50 lat? Amerykanie przewidują przyszłość Takiego kamuflażu nie widzieliście! Dlaczego wojsko maluje swój sprzęt majtkowym różem? Polacy chcą lecieć na Marsa i nigdy nie wrócić. Jakie są ich motywacje? Komputery uczą się nawzajem: jeden nauczył drugi grać w Pac-Mana i StarCrafta Polski projekt misji na Marsa. Astronauci zamieszkają w zbiorniku paliwa [wywiad] Religia w budowie Kiedy nauka spotyka się z komiksem Naszą cywilizację czeka upadek. Tak mówią naukowcy z NASA Moss FM - prąd z fotosyntezy, czyli pierwsze na świecie radio zasilane roślinami Technologiczne mity. Laptop na kolanach powoduje bezpłodność? Co zamiast małej czarnej? Wojsko chce zastąpić kawę prądem! Świadomość roju. Zbudowano roboty, zachowujące się jak kolonia termitów Internet zmienił nasze mózgi. Emotikony są interpretowane... jako ludzkie twarze W Czechach powstaje laser o mocy większej od Słońca. Budują Gwiazdę śmierci? Jak wyleczyć uzależnienie od Internetu? Chińczycy stosują drastyczne metody! Jesteś cyberzombiakiem? Przerażający internetowy eksperyment 10 najdziwniejszych uzależnień, z jakimi zmagają się ludzie Seksualne skandale. Co lubili w łóżku Einstein, Skłodowska-Curie, Stephen Hawking i inni?