SI - bać się czy oczekiwać z nadzieją

 



W 2014 roku ukazał się artykuł w „The Independent”, którego współautorem był słynny fizyk Stephen Hawking, przestrzegał on przed zagrożeniami związanymi z szybkim rozwojem prac nad sztuczna inteligencją. Autorzy przekonywali, że stworzenie myślącej maszyny może się stać największym wydarzeniem w historii ludzkości, niekoniecznie pozytywnym. Taki twór mógłby „przechytrzyć rynki finansowe, przewyższyć nas inteligencją, przejąć nad nami kontrolę a nawet stworzyć broń, której nie jesteśmy w stanie zrozumieć”. Podkreślili też, że traktowanie ich obaw jako przejawu science fiction może okazać się „największym błędem w historii”.
Oczywiście obecnie funkcjonuje już na świecie olbrzymia liczba różnego rodzaju robotów i algorytmów potrafiących nie tylko realizować proste czynności ale i np. komponować muzykę. Jak na razie przyczyniają się one głównie do zastępowania ludzi w prostych pracach, wykonywania ich dokładniej, taniej i szybciej. Co ciekawe ich udział w procesach produkcyjnych rośnie nie tylko w krajach o wysokich kosztach pracy ludzkiej ale i w krajach, do których przenoszono z tego powodu produkcję, np. w Chinach.
Dziesiątki, a może setki wyspecjalizowanych firm zajmuje się rozwojem SI nie ustaje w dążeniach wygrania wyścigu. Sponsorzy liczą na ewentualną swoją przewagę w operacjach finansowych czy wyścigu zbrojeń. Dużą rolę odgrywają firmy takie jak Google, Facebook czy Amazon, dla których sztuczna inteligencja stanowi podstawę biznesowego modelu. Dodajmy do nich agencje wywiadowcze i inne organizacje państwowe.
Ankieta przeprowadzona pośród naukowców z tej dziedziny ujawniła, że 42% ankietowanych uznało, że myśląca maszyna pojawi się do roku 2030, 25%, że do roku 2050 a 25% - że dopiero przed 2100. 2% sądziło, że do tego nigdy nie dojdzie.
Pesymistycznym scenariuszem może być skierowanie SI na swój świat wewnętrzny (a przecież już teraz istnieją uczące się komputery), skupiając się na poprawie swoich możliwości, samoulepszeniu może doprowadzić do eksplozji inteligencji i my ludzie znaleźlibyśmy się pośród maszyn tysiące a może i miliony razy mądrzejszych. Czy wówczas era człowieka dobiegnie końca? A może połączy się on z maszynami, wzajemnie się wzbogacając.
Pesymizm przewidujący ciemną stronę jest znaczny. Co będzie jeśli SI wydostanie się z klatki, uzyska dostęp do Internetu i skopiuje części siebie do sieci, takie ryzyko jest niezwykle wysokie? Taka maszyna, wyposażona w sztuczna inteligencje może zniszczyć systemy finansowe, sieć nadzoru wojskowego, sieć energetyczną.
A nawet jak SI będzie przyjaźnie nastawiona do człowieka to przecież odbierze mu stanowiska pracy. Nie sposób będzie z nią konkurować w jakiejkolwiek dziedzinie.
Człowiek to zwierzę kulturowe, w toku ewolucji ukształtowały się normy, zasady jego działania, uczucia, emocje, korzysta z nich podświadomie. Nie sposób obecnie wyobrazić sobie „naturę” SI, przewidzieć zmiany kulturowe. Jeśli przyjąć, że obecny człowiek jest ogniwem pośrednim między zwierzęciem a homo sapiens i ma tak szkodliwy wpływ na świat, w którym żyje to może nie sama SI jest niepokojąca a właśnie ten okres przejściowy. Bowiem co może wyniknąć z tego gdy „niedoskonały człowiek” spotęguje swą moc?
Inicjator memetyki, R. Dawkins w „Samolubnym genie” zauważył, że dzięki kulturze jako jedyny gatunek na ziemi mamy moc przeciwstawienia się samolubnym genom a także samolubnym memom (jak na razie).  Ewolucja nie ma celu ale zapewne jej „najwyższym szczeblem” jest kultura a cała reszta służy do jej budowania, odżywiania.
Jak ktoś powiedział, ważniejszym jest zmienianie świata, jeśli go będziemy prawidłowo widzieć to zobaczymy możliwości zmian. Ewolucja kultury ma niebywałe tempo w porównaniu z biologiczną ale trudno sobie wyobrazić by udało się szybko zmienić  naturę człowieka pochodzącą z mroków pradziejów. Kultura nie oddzieliła nas od zwierząt, jedynie wzmocniła jedne z ich cech a złagodziła inne. Chęć dominacji, agresja uzyskały nowe, zdecydowanie silniejsze narzędzia. Co może się stać gdy ożyje prymitywna sztuczna inteligencja?
Tak jak w świecie komputerów, biologicznym tak i w kulturowym istnieją wirusy, wprowadzone do systemu zmuszają go podstępnie do pracy dla siebie czy swojego celu.
Może to jedno z możliwych narzędzi zmian, zatrzymania rozwoju?