Twoja wyszukiwarka

ROGER PENROSE PIOTR SZYMCZAK
KTO SKONSTRUUJE MYŚLĄCĄ ISTOTĘ, BĘDZIE MIAŁ WSZYSTKIE PRAWA I OBOWIĄZKI BOGA
Wiedza i Życie nr 9/2001
Artykuł pochodzi z "Wiedzy i Życia" nr 9/2001

Kto skonstruuje myślącą istotę, będzie miał wszystkie prawa i obowiązki Boga - twierdzi sir Roger Penrose w rozmowie z Wiedzą i Życiem

Jak to się stało, że Pan, matematyk i fizyk teoretyk, zajął się problemem świadomości?

To ciekawe - wiele osób o to pyta. W czasie nauki na uniwersytecie w Cambridge słuchałem wykładu z logiki matematycznej. Właśnie on spowodował zmianę moich poglądów na temat mózgu. Wcześniej wierzyłem, że pracę mózgu można sprowadzić do wykonywania szeregu obliczeń według pewnego algorytmu. Mógłby je w zasadzie przeprowadzić komputer o odpowiednio dużej mocy. Kiedy jednak dowiedziałem się o pewnych współczesnych koncepcjach w logice, takich jak twierdzenie Gödla, zacząłem w to wątpić. Uznałem, że ludzki mózg, przynajmniej podczas rozwiązywania problemów matematycznych, musi działać w sposób niealgorytmiczny.

Nadszedł też moment, w którym poczuł Pan chęć podzielenia się tymi poglądami z innymi...

Sporą rolę odegrał przypadek. Pod koniec lat osiemdziesiątych zobaczyłem w telewizji audycję, w której brali udział tacy ludzie jak Marvin Minsky i Edward Fredkin.

A więc prorocy sztucznej inteligencji.

W rzeczy samej. Byli bardzo pewni siebie - opowiadali, jak za kilka lat komputery będą potrafiły robić to wszystko, co człowiek i w dodatku dużo szybciej. Oczywiście z ich punktu widzenia wydawało się to logiczne, jeśli założymy, że mózg jest komputerem. Tylko że mój punkt wyjścia był dokładnie przeciwny. Wydawało mi się, że mam dobre argumenty przeciw ich tezie i dlatego zdecydowałem się przyspieszyć pisanie książki popularnonaukowej oraz uzupełnić ją o rozdziały bardziej filozoficzne, w których wyłożyłbym swoje poglądy.

W ten sposób zatem powstał "Nowy umysł cesarza". W Polsce ta książka stała się - jak na publikację popularnonaukową - bardzo znana.

Miło to słyszeć. Wiele z tego, co działo się po ukazaniu się "Nowego umysłu...", bardzo mnie zaskoczyło. Po pierwsze - fakt, że książka cieszyła się takim powodzeniem. Po drugie - co już było znacznie mniej przyjemne - gwałtowność, wręcz napastliwość, z jaką wielu naukowców i filozofów na nią zareagowało. Najgorzej było z ludźmi zajmującymi się sztuczną inteligencją. Wyglądało na to, że poczuli się osobiście zaatakowani. Trzecia rzecz, na którą nie byłem przygotowany - ludzie ci najwyraźniej niezbyt dokładnie czytali, co napisałem. Atakowali punkt widzenia, który nie był mój. Nie było wyjścia - zdecydowałem się na napisanie następnej książki, żeby wytłumaczyć wszystkie nieporozumienia. I tak powstały "Cienie umysłu".

Czy ta nowa książka spełniła Pana oczekiwania?

Wręcz przeciwnie! Okazało się, że po drugiej książce niezrozumienie było jeszcze większe niż po pierwszej. Bardzo mnie to sfrustrowało i machnąłem ręką. Wygląda na to, że część ludzi nie chce wcale wysłuchać i zrozumieć tego, co mam do powiedzenia. Z góry wiedzą lepiej i dyskusję z nimi można prowadzić w nieskończoność.

Dlaczego uważa Pan, że mózg działa w sposób niealgorytmiczny, przeciwnie niż komputer?

Maszyna postawiona przed zadaniem znalezienia dwóch liczb parzystych, których suma jest liczbą nieparzystą, biedzi się w nieskończoność. Działa według algorytmu: weź dwie liczby parzyste, dodaj, sprawdź, czy suma dzieli się przez dwa. Jeśli nie dzieli się, zadanie zostało wykonane. Jeśli dzieli się, próbuj dalej: weź dwie liczby parzyste... W ten sposób komputer sprawdza wszystkie możliwe pary liczb parzystych i naturalnie - nawet jeśli jest to bardzo szybki komputer, jego praca nigdy się nie skończy.

Dla człowieka jasne jest, że nie ma co się męczyć: suma liczb parzystych jest zawsze parzysta.

I to jest właśnie tajemnicze pojęcie "zrozumienia". Matematyki nie da się sprowadzić do zbioru tez wyjściowych i reguł wnioskowania, za pomocą których dowodzi się twierdzenia. Gdyby tak było, w roli matematyka doskonale spisywałby się komputer. Tymczasem wyobraźnia matematyczna nie jest algorytmiczna.

Ludzki rozum wykracza poza mechaniczne stosowanie reguł wnioskowania...

Tak! I jest to - moim zdaniem - podstawowe przesłanie, jakie niesie z sobą twierdzenie Gödla: sam akt rozumienia jest niealgorytmiczny, jest więc poza zasięgiem możliwości komputera. To, co pokazał Gödel 70 lat temu, to jedno z największych osiągnięć nauki XX wieku. Szkoda, że tak mało znane i w dużej części niezrozumiane.

A co z drugim elementem Pana koncepcji - dotyczącym związków świadomości z mechaniką kwantową, czyli teorią, która opisuje świat w skali atomowej?

Cóż, trzeba sobie jasno powiedzieć, że drugie wielkie osiągnięcie nauki XX wieku - mechanika kwantowa i ogólna teoria względności nie są kompletne. Nie dają się połączyć ze sobą. Opisują dobrze światy mikroskopowy i makroskopowy, ale nie da się powiedzieć, którędy przebiega granica między nimi i jakie prawa tam obowiązują. Wierzę, że właśnie tu - na styku mechaniki kwantowej i ogólnej teorii względności może się kryć ten brakujący element nauki, niezbędny do zrozumienia pracy mózgu.

Czy zwyczajna, klasyczna fizyka nie wystarczy do opisu świadomości?

O, nie. Wszystkie teorie fizyczne są dzisiaj algorytmiczne. Jeśli więc wierzymy, że mózg działa w sposób niealgorytmiczny, to potrzebujemy teorii wykraczającej poza współczesną fizykę, aby opisać jego działanie.

Powiedzmy, że dałem się przekonać, iż komputer nie dorówna nam w umiejętnościach matematycznych. Ale czy wynika z tego, że maszyna nie może być świadoma? W końcu świadomość, na szczęście, nie sprowadza się do dowodzenia twierdzeń.

Ścisłego wynikania tu oczywiście nie ma. Wierzę jednak, że sam proces rozumienia, który jest niezwykle ważny w matematyce, wymaga świadomości. Przecież nie ma sensu mówić "rozumiem coś", jeśli nie jestem tego świadomy. Co prawda wielu ludzi, w tym specjaliści od sztucznej inteligencji, mówi "mój komputer to rozumie", ale tak naprawdę chodzi tu o ich własne zrozumienie algorytmu, według którego maszyna działa. Jestem przekonany, że rozumienie jest jednym z przejawów świadomości. Koncentruję się na nim dlatego, że odgrywa tak ważną rolę w matematyce. Matematykę z kolei najłatwiej jest badać.

Zatem rozumowanie biegnie tak: pokazujemy, że uprawianie matematyki wymaga myślenia niealgorytmicznego. A skoro uprawianie matematyki jest jednym z przejawów świadomości, stąd wniosek, że i ona musi działać w sposób niealgorytmiczny?

Otóż to. Oczywiście słuchanie muzyki czy uczucie gniewu są również przejawami świadomości. Jedynym powodem, dla którego się nimi nie zajmuję, jest to, że nie potrafię powiedzieć o nich nic rozsądnego.

Pora zadać zasadnicze pytanie - czym jest świadomość, o której tyle mówimy?

Nie wiem! Zresztą wydaje mi się, że jest jeszcze zbyt wcześnie na odpowiedź. Jednak nie powinno nas to powstrzymać od mówienia o tych procesach i ich analizowania.

Czy poznawanie zjawiska świadomości może napotkać pewną nieprzekraczalną trudność: w końcu to umysł ma poznać samego siebie, trochę jak wąż zjadający własny ogon.

Ma Pan rację, nie brak tu zagadnień o tego typu charakterze - co ciekawe, nawet samo twierdzenie Gödla opiera się na podobnej argumentacji: w dowodzie występują zdania, które mówią o samych sobie, dokładnie jak ten wąż zjadający własny ogon! Ale - proszę zauważyć - Gödel sobie z tym radzi, potrafi wyciągnąć z analizy tych zdań logiczne wnioski. Mam nadzieję, że podobnie będzie w badaniach świadomości, gdzie "myślimy o naszym myśleniu". Nie jestem aż takim optymistą, by twierdzić, że kiedykolwiek będziemy w stanie rozwiązać wszystkie problemy związane ze świadomością, wierzę jednak, że będziemy się do tego zbliżali.

Wyklucza Pan to, że komputer sterowany algorytmami może być świadomy. Ale - jak rozumiem - nie znaczy to, że nie zbudujemy kiedyś świadomej maszyny.

To prawda - moje argumenty nie wykluczają takiej możliwości. Można sobie wyobrazić, że jakiś Frankenstein przyszłości zda sobie sprawę, że dzięki wykorzystaniu pewnych efektów kwantowych można zbudować maszynę, w której zachodziłyby procesy niealgorytmiczne i taka świadoma maszyna powstanie.

Nie boi się Pan, że za - przypuśćmy - pięćset lat, ludzie będą mówili: "całe to zło zaczęło się od Penrose'a"?

Czuję pewną - hmm - dozę niepokoju. Dlatego że pomysł budowy świadomej maszyny zupełnie mi się nie podoba. Jak na razie mogę być pewien tego, że ci, którzy dziś zajmują się tym zagadnieniem, poniosą porażkę, bo używają komputerów. Może więc nie powinienem nic mówić, tylko po prostu poczekać, aż nic im się nie uda. Może tym, co pozwala mi spać spokojnie, jest fakt, że konstrukcja świadomej maszyny jest niezwykle odległa od tego, co potrafimy zrobić dziś. Nawet jeśli uda nam się skonstruować niealgorytmiczną mechanikę kwantową, to i tak będziemy jeszcze musieli potrafić użyć jej do badania mózgu. Myślę, że to perspektywa niewyobrażalnie wręcz odległa i dlatego nie czuję zagrożenia. Jest jeszcze jedna kwestia, o której często się zapomina. Przecież jeśli skonstruujemy świadome istoty, to tym samym staniemy się za nie odpowiedzialni. To będzie w oczywisty sposób nasz obowiązek moralny. Nie mogę zrozumieć, dlaczego nie przejmują się tym stronnicy sztucznej inteligencji, którzy uważają, że wszyscy jesteśmy komputerami. Przecież oni ciągle dążą do zbudowania świadomej maszyny. Czy nie powinni sobie powiedzieć: "O Boże, a co się stanie, jeśli mi się uda? Nie będę mógł przejść obojętnie wobec tego, co ta maszyna myśli lub czuje! Jestem za nią odpowiedzialny"...

Trochę jak Bóg.

Tak, to prawda. Ktokolwiek skonstruuje myślącą istotę, będzie miał wszystkie problemy i obowiązki Boga. Tym bardziej cieszy mnie, że nie mamy tego w najbliższej perspektywie.

Problem chyba jednak pozostaje - czy zgłębiać tę dziedzinę wiedzy, jeśli liczymy się z tym, że ta wiedza może zostać użyta w jakimś strasznym celu.

Zgadzam się. Jestem jak najdalszy od stanowiska części naukowców, którzy mówią: "Och, to czym ja się zajmuję, to czysta nauka. Jeśli zostanie zastosowana w złych celach, to już nie moja wina, ale tych, którzy takie zastosowanie wymyślą". To zbyt wąski punkt widzenia. Wydaje mi się, że powinnością naukowców jest myślenie o możliwych konsekwencjach ich odkryć i mówienie o nich.

Ale czy można - takimi czy innymi metodami - zatrzymać rozwój jakiejś gałęzi nauki?

Nie sądzę... i wcale mnie to nie cieszy. Co gorsza, nierzadko ludzie nauki nie potrafią tych zastosowań przewidzieć. Na przykład Rutherford, jeden z twórców fizyki jądrowej, powiedział kiedyś, że "nigdy nie będziemy w stanie wykorzystywać energii jądrowej".

Nie widzi Pan przeszkód, aby wszystko, co dzieje się w naszym umyśle, mogło być naukowo wyjaśnione. Czy zostawia Pan choć jakiś skrawek dla metafizyki czy religii?

Powiedziałbym tak: pojęcie "wyjaśnienia naukowego" jest w tym przypadku zbyt wąskie. Będziemy potrzebowali czegoś więcej. Problemy, z którymi ludzie religijni próbują się zmierzyć, mają wiele wspólnego z pytaniami, które podejmie nauka przyszłości - problem wolnej woli czy moralności, która jest ze świadomością tak mocno związana.

Chciałoby się przenieść w przyszłość o kilkaset czy kilka tysięcy lat, aby zobaczyć te czasy, bo wizja zdaje się być fantastyczna - przewiduje Pan wspaniałą przyszłość nauki. No, może nie nauki, ale jakiejś formy ludzkiego poznania świata, która się z niej wyłoni.

Powiedziałbym "tak", gdybym miał wystarczająco dużo wiary w ludzi i w to, jak współistnieją w społeczeństwie. A tej wiary mi trochę brak. Ale w zasadzie - jeśli zapomnimy o czynniku ludzkim - przed nauką jest według mnie ogromna potencjalna przyszłość. Absolutnie nie zgadzam się z tymi, którzy twierdzą, że nauka dobiega już kresu i tak dalej - dla mnie to śmieszne. To wszystko przed nami i ludzkość może to osiągnąć. Czy jednak osiągnie - to już zupełnie inne pytanie. Pytanie o to, czy uda nam się uniknąć najprzeróżniejszych katastrof, które nam grożą.

Dlaczego brak Panu wiary w ludzi?

Staję się pesymistą, gdy patrzę, jak ludzie postępują. I nie chodzi mi tylko o wojskowych czy polityków, ale też o środowisko naukowców. Sposób, w jaki nauka jest uprawiana w dzisiejszych czasach - rządzi nią bowiem chęć bycia szybkim, natychmiastowej publikacji swoich wyników, zobaczenia w Internecie tego, co robią inni i napisania o tym czym prędzej, jeszcze zanim sami zrozumiemy, co mamy na myśli. Tego typu tendencje mnie niepokoją.

Ale nauka może rozwijać się niezależnie od ludzi, którzy ją tworzą.

Właściwie powinna, ale nie jestem pewien, czy zawsze tak jest i czy tak będzie.

Miejmy nadzieję, że tak.

Miejmy nadzieję.

Sir Roger Penrose, wybitny matematyk i fizyk teoretyk. Zajmuje się geometrią, teorią względności, podstawami mechaniki kwantowej i nauką o świadomości. Autor ogólnoświatowego bestsellera Nowy umysł cesarza. Za zasługi dla rozwoju nauki otrzymał w 1994 roku z rąk królowej brytyjskiej tytuł szlachecki.