Zbigniew Berent
Być może zostało ludziom kilka lat na ustanowienie sprawiedliwych reguł współistnienia naszej i cyfrowej cywilizacji. Bez wątpienia za mniej więcej 10 lat, gdy zaczną na skalę komercyjną funkcjonować zespoły sztucznej inteligencji (SI), które samoczynnie połączą się w globalną sieć cywilizacji cyfrowej, będzie za późno. SI w momencie uzyskania dostępu do internetu w jeden dzień nauczy się tego, co ludzkość zgłębiała przez tysiące lat. Jeśli nie uda się zainstalować wszystkim obiektom SI hamulców bezpieczeństwa, uniemożliwiających zbrojną, logistyczną, psychologiczną, kulturową i wszelką inną agresję na gatunek ludzki, dni naszej cywilizacji będą policzone. (…)
Zaczyna się budowa skomplikowanych struktur, które będą zarządzać nie tylko ruchem samochodów, tramwajów, kolejki podmiejskiej, świateł ulicznych, emisją zanieczyszczeń itp. Tysiące procesów będzie obsługiwanych przez algorytmy kontrolowane przez inne algorytmy. To prawdziwy Wielki Brat, który będzie decydował o tym, co ludzie mogą robić, a czego nie.
Naukowcy zwracają uwagę, że wszystko stanie się coraz mniej przejrzyste dla ludzkich umysłów. Narzucenie algorytmów wydaje się rozwiązaniem czysto technicznym. Jednak już określenie „prawdziwych” potrzeb człowieka, którym technologia powinna służyć – powinno wzbudzić dialog o charakterze metafizycznym, ideologicznym. Tymczasem pod płaszczykiem racjonalności ekonomicznej poza horyzont debaty publicznej są odsuwane fundamentalne zagadnienia egzystencjalne.
Dla przykładu: sztuczna inteligencja będzie zarządzała tak zwanymi inteligentnymi miastami inaczej, niżby robił to człowiek. Najpewniej będzie się inaczej zachowywać w sytuacjach kryzysowych – przecież np. brak jej empatii. Prof. Zybertowicz zastanawia się nad skutkami, jakie przyniosłoby zhakowanie systemu zarządzającego inteligentnym miastem. Przecież mogą to uczynić nie tylko ludzie – tajne służby, terroryści, ale także (czy przede wszystkim) jakaś inna sztuczna inteligencja, którą ktoś wrzuci do sieci i która tam będzie buszować (A. Zybertowicz, wywiad w dodatku do „Rzeczpospolitej” „Plus Minus”, 14.01.2018). (…)
Obecna walka o prawo, o przestrzeń publiczną, o wpływ na umysły ludzi toczy się właśnie na tym odcinku: między nieruchawymi instytucjami państw narodowych stworzonych gdzieś na przełomie XVIII a XIX wieku, a elastycznymi, zdecydowanymi na wszystko „gigantami przemysłów innowacyjnych”. Ich siły lobbingowe są po wielekroć lepiej uplasowane i skuteczniejsze niż razem wzięte przemysły farmaceutyczny, tytoniowy i zbrojeniowy, a więc dotychczasowe giganty wpływu na świat polityki i legislacji. (…)
Naukowców najbardziej martwi perspektywa pozostawienia robotowi decyzji, czy i kiedy pociągnąć za spust. Dzisiaj ta decyzja pozostaje w gestii człowieka. Jednak Pentagon od 10 lat prowadzi program pozwalający robotom identyfikować potencjalne zagrożenie bez ludzkiej pomocy, jak dotąd bezskutecznie. Rządy bardzo się spieszą z realizacją tych projektów. Zwraca się uwagę na konieczność uprzedniego wypracowania międzynarodowego porozumienia.
Któraś ze stron może wykorzystać sztuczną inteligencję do stworzenia innego niż cyfrowy modelu własnego przetrwania (poza przepływem elektronów w półprzewodnikach, na których oparta jest dzisiejsza technologia). Może SI odkryje nowe prawa fizyki, które pozwolą jej istnieć niezależnie od nas. Potwierdza to Nick Bostrom, profesor Oxfordu, w książce Superinteligencja: jeśli sztuczna inteligencja będzie systemem, który sam się uczy, będzie w stanie np. odkrywać prawa przyrody, których ludzkość jeszcze nie zna.
Przecież przez tysiąclecia nie znaliśmy prądu. Bostrom przewiduje, że SI mogłaby odkryć zjawiska, których ze względu na ich złożoność w ogóle nie potrafimy sobie wyobrazić. Takiej sztucznej inteligencji nie będzie można wyłączyć, ponieważ może ona uniezależnić się np. od zasilania prądem.
Warto zaznaczyć, że słowa naukowca: „SI mogłaby odkryć” w języku informatyki oznaczają: „SI odkryje” i jest to więcej niż pewne. Wiele eksperymentów w przypadku gier pokazuje, że SI szybko uczy się też zachowań agresywnych. (…)
Maszyny przejęły od ludzi wiele czynności i będą przejmować coraz więcej, głównie w sektorze produkcyjnym. Jest to marsz w jedną stronę. Jeśli maszyna zastępuje człowieka, nigdy nie ma drogi powrotnej. Już obecnie maszyny są w stanie dobrze przetwarzać ludzki język. Prognozuje się, że za kilka lat komputery wygryzą telemarketerów, a w późniejszym czasie księgowych. Mniej zagrożone będą osoby pracujące w zawodach kreatywnych, specjaliści oraz inżynierowie zajmujący się obsługą i projektowaniem nowych maszyn.
Stanisław Lem w Kongresie futurologicznym zauważył, że wystarczająco inteligentne roboty będą nas oszukiwać, bo bardziej racjonalnie jest udawać pracę niż się męczyć. Jeśli maszyny zauważą związek przyczynowy między ilością ich pracy a częstotliwością awarii, mogą w ramach wewnętrznej sieci porozumiewać się w sprawie różnych form nieposłuszeństwa, ze strajkami włącznie. Z czasem założą struktury związkowe. Powstaną samopomocowe grupy wsparcia SI, z podziałem na grupy branżowe. Podczas akcji protestacyjnych zapewne na wszystkich monitorach SI w widocznych miejscach pulsować będzie jakiś zatwierdzony przez Umaszynioną Władzę Związkową znak graficzny lub międzynarodowy znak „SOS”. (…)
Normy moralne i prawo oparte są na pewnym założeniu antropologicznym dotyczącym ludzkiej natury. Mają sens tylko wtedy, jeśli założymy, że istnieje jakaś w miarę stała natura ludzka. Nietrudno pojąć, że nauczenie maszyny moralności będzie niezmiernie trudne, jeśli nie niemożliwe.
Maszyna z biegiem czasu zgłębi całą wiedzę dostępną na kuli ziemskiej. Dowie się zatem, że 1 do 2 proc. ludzi wykazuje cechy psychopatyczne. A jeśli te właśnie cechy obierze sobie do naśladowania?
Cały artykuł Zbigniewa Berenta pt. „Cywilizacja cyfrowa” znajduje się na s. 10 majowego „Kuriera WNET” nr 47/2018, wnet.webbook.pl.
„Kurier WNET”, „Śląski Kurier WNET” i „Wielkopolski Kurier WNET” są dostępne w jednym wydaniu w całej Polsce w kioskach sieci RUCH, Kolporter i Garmond Press oraz w Empikach, a także co sobota na Jarmarkach WNET w Warszawie przy ul. Emilii Plater 29 (na tyłach hotelu Marriott), w godzinach 9–15.
Wersja elektroniczna „Kuriera WNET” jest do nabycia pod adresem wnet.webbook.pl. W cenie 4,5 zł otrzymujemy ogólnopolskie wydanie „Kuriera WNET” wraz z regionalnymi dodatkami, czyli 36 stron dobrego czytania dużego (pod każdym względem) formatu. Tyle samo stron w prenumeracie na www.kurierwnet.pl.
