**Roger Penrose, Nowy umysł cesarza. O komputerach, umysle i prawach fizyki, 1989
Głównym celem tej książki dla Penrose'a jest obalenie tezy mówiącej, że ludzki mózg i świadomość są tylko efektem działania algorytmu - być może nadzwyczaj skomplikowanego, ale jednak algorytmu, a jeśli tak to algorytm ten powinno móc się odtworzyć (lub chociaż przybliżyć) w postaci symulacji komputerowej, a zatem i stworzyć komputer, czy program komputerowy, który uzyskałby świadomość (co, w obliczu wielkiej przewagi technologicznej komputerów w porównaniu do ludzi, spowodowałoby niewyobrażalnie szybki wzrost możliwości takiego komputera). Popierających tę tezę, swoich oponentów, Penrose nazywa zwolennikami silnej SI (sztucznej inteligencji). Już na początku pozycji zaznacza on swoje stanowisko i mówi nam, że aby zrozumieć jego argumentację musimy wpierw poznać świat matematyczny i fizyczny (szczególnie mechanikę kwantową) i w taką właśnie edukacyjną podróż nas zabiera. Jest ona długa, bo obejmuje większość Nowego umysłu cesarza, ale zdecydowanie warta przeżycia. Po często wymagającej poznamy meandry sztucznej inteligencji, algorytmów, maszyn Turinga, liczb rzeczywistych i zespolonych, twierdzenia Godla, klasycznych i kwantowych teorii fizycznych, by z pomocą tego wszystkiego na sam koniec zająć się mózgiem i świadomością. Jest to bardzo ciekawa lektura, nie tylko dla fanów tematu świadomości i sztucznej inteligencji, ale i dla tych chcących poznać nasz świat i zasady nim kierujące. Penrose często przedstawia również własne poglądy na istotę Wszechświata, które mogą zaskoczyć lub zmienić nasz punkt widzenia. Dostarcza on np. silnych argumentów na rzecz indeterminizmu, a co najmniej nieobliczalności czy przedstawia ciekawe koncepcje związane ze światem platońskim, a najbardziej spekulatywnych (oraz interesujące) przypuszczeń dokonuje w ostatnim rozdziale, mówiąc o swojej wizji istoty funkcjonowania świadomości.
----------------------------------------------------------------------------------------------------------------------------------------------- Część bardziej obiektywną skończyłem, teraz tylko trochę krytyki i spoilerów (raczej dla tych co czytali).
R. Penrose niestety już na samym początku trochę mnie do siebie zraził, atakując zwolenników silnej SI (za którego chyba się uważam), w dodatku niekoniecznie celnymi argumentami, bo myląc poziomy funkcjonowania świadomości (później się zresztą poprawiając). Mówię tu o chociażby przykładzie chińskiego pokoju Searlego, gdzie argumentem staje się nierozumienie całości przez każdego z „pracusiów”, a więc i mający wynikać z tego brak faktycznej świadomości całości („Niemożliwe jest by naród jako całość rozumiał coś, czego nie rozumieją poszczególni jego członkowie”, czy jakoś tak) – nie wymagamy przecież od każdego z neuronów z osobna, by był świadomy, a jedynie oczekujemy tego od całości mózgu?
Równie niewłaściwe wydaje się być używanie twierdzenia Godla do udowodnienia niealgorytmicznego działania mózgu. Bo w odpowiedzi na argument, że algorytm (mózg) służący do stwierdzania prawdy, byłby sprzeczny z twierdzeniem Godla (z grubsza – nie istnieje algorytm mogący udowodnić prawdziwości lub sprzeczności dowolnego zdania), można odpowiedzieć że jeśli już mamy użyć tego twierdzenia w odniesieniu do mózgu, to raczej bardziej poprawnym byłoby porównanie mózgu i świadomości w określonej chwili do danego systemu formalnego, który owszem – nie jest w stanie stwierdzić całej prawdy (lub nieprawdy), ale jest w stanie udowadniać poszczególne zdania, a wraz z rozszerzaniem zbioru aksjomatów (wiedzy), może coraz bardziej „odkrywać prawdę”.
Mam wrażenie, że trochę niefortunnie Penrose zrobił, jak po części sam przyznaje, ze zwolenników silnej SI chłopców do bicia oraz wciska im w usta coś, czego wcale nie twierdzą. Takie pomylenie pojęcie dobrze wyraża akapit z ostatniego rozdziału:
Jeśli kiedykolwiek odkryjemy, jakie cechy układu fizycznego sprawiają, że staje się on świadomy, być może zdołamy sami skonstruować taki układ. Trudno byłoby nazwać go maszyną w obecnym znaczeniu tego słowa. Można sobie wyobrazić, że takie obiekty zyskałyby nad nami ogromną przewagę, ponieważ byłyby zaprojektowane specjalnie tak, aby zyskać świadomość. […] Można sobie wyobrazić, że korzystając ze swej przewagi obiekty takie zajęłyby miejsce ludzi, podczas gdy algorytmiczne komputery są, moim zdaniem, skazane na służebną rolę.
gdzie w dużej mierze wyraża przekonania swoich chłopców do bicia.
Tak czy inaczej, lektura bardo pouczająca i zdecydowanie warta przeczytania. 2 ostatnie rozdziały dla mnie najlepsze (mimo zapewne już sporej nieaktualności dotyczącej neurobiologii?), szczególnie teoria rozwoju mózgu na wzór quasi-kryształów.
I w ten oto sposób pokusiłem się o skrytykowanie jednego z lepszych fizyków dzisiejszych czasów :) Mam nadzieję, że postem (jeśli ktokolwiek go przeczytał, chociaż w części) zachęcę do dyskusji, bo temat ciekawy. W komentarzu wstawiam spis treści książki na zachętę (bo jest bardzo zachęcający!).**
@krolikbartek: polecam jeszcze Cycles of Time a na koniec The Road to Reality (do tej pozycji podchodziłem kila razy i ciągle nie mogę skończyć dużo rzeczy nie mogę zrozumieć)
R. Penrose niestety już na samym początku trochę mnie do siebie zraził, atakując zwolenników silnej SI (za którego chyba się uważam)
@krolikbartek: po lekturze tej książki nadal uważasz, że możliwe jest zbudowanie silnej AI w oparciu o algorytmy uruchomione na komputerze będącym implementacją maszyny Turinga? Przypomnę, że każdy współczesny komputer jest implementacją maszyny Turinga, każdy poprawny komputerowy algorytm da się wykonać na modelowej maszynie Turinga.
można odpowiedzieć że jeśli już mamy użyć tego twierdzenia w odniesieniu do mózgu, to raczej bardziej poprawnym byłoby porównanie mózgu i świadomości w określonej chwili do danego systemu formalnego, który owszem – nie jest w stanie stwierdzić całej prawdy (lub nieprawdy), ale jest w stanie udowadniać poszczególne zdania, a wraz z rozszerzaniem zbioru aksjomatów (wiedzy), może coraz bardziej „odkrywać prawdę”.
@krolikbartek: czytam to zdanie piąty raz i nie mogę zrozumieć co chciałeś przekazać. Penrose pisał (w uproszczeniu), że nasz mózg rozstrzyga o problemach, których nie można rozstrzygnąć na drodze algorytmu i systemu formalnego, więc implementacja naszego mózgu wyłącznie jako algorytm
@krolikbartek: jak? Przeczytałem dopiero 1/3 książki ale podejrzewam, że pozostałe 2/3 to również ciągłe wykazywanie dlaczego silna AI nie powstanie na maszynie Turinga.
@krolikbartek: Średnio mnie obchodziło, co Penrose myśli o sztucznej inteligencji, ale teraz stwierdzam, że może nawet przeczytam, co ma do powiedzenia.
@thecar: Przecież to jest oczywisty błąd logiczny - mózgi wnioskują o pewnych systemach formalnych z użyciem metod rozumowania niewynikających z tych systemów, co ma dowodzić, że nie istnieje taki system formalny, który uwzględnia i te reguły?
jak? Przeczytałem dopiero 1/3 książki ale podejrzewam, że pozostałe 2/3 to również ciągłe wykazywanie dlaczego silna AI nie powstanie na maszynie Turinga.
Według mnie Penrose tego nie wykazał. A jak konkretnie miałaby powstać jeszcze nie mam, ani nikt inny nie ma pojęcia. Problemem dzisiaj nie są wyłącznie ograniczenia technologiczne komputerów, choć ich rozwój będzie sprawę ułatwiał. Istnieje kilka podejść w budowaniu silnej AI, jak np. próby kopiowania dzialania ludzkiego
Nasz specjalista od wszystkiego. Od kolei, od dziennikarstwa, od wojny, od rigczu. On widział to już dwa lata temu swoim przenikliwym plebejskim umysłem.
![Jak zainstalować Linuksa obok Windowsa? [Linux Mint + Windows]](https://wykop.pl/cdn/c3397993/8256b11d6aa8cfdd8f61338a597f5f2d04a96080f1826dd8d5629362966282ff,q80.jpg)
Głównym celem tej książki dla Penrose'a jest obalenie tezy mówiącej, że ludzki mózg i świadomość są tylko efektem działania algorytmu - być może nadzwyczaj skomplikowanego, ale jednak algorytmu, a jeśli tak to algorytm ten powinno móc się odtworzyć (lub chociaż przybliżyć) w postaci symulacji komputerowej, a zatem i stworzyć komputer, czy program komputerowy, który uzyskałby świadomość (co, w obliczu wielkiej przewagi technologicznej komputerów w porównaniu do ludzi, spowodowałoby niewyobrażalnie szybki wzrost możliwości takiego komputera). Popierających tę tezę, swoich oponentów, Penrose nazywa zwolennikami silnej SI (sztucznej inteligencji).
Już na początku pozycji zaznacza on swoje stanowisko i mówi nam, że aby zrozumieć jego argumentację musimy wpierw poznać świat matematyczny i fizyczny (szczególnie mechanikę kwantową) i w taką właśnie edukacyjną podróż nas zabiera. Jest ona długa, bo obejmuje większość Nowego umysłu cesarza, ale zdecydowanie warta przeżycia. Po często wymagającej poznamy meandry sztucznej inteligencji, algorytmów, maszyn Turinga, liczb rzeczywistych i zespolonych, twierdzenia Godla, klasycznych i kwantowych teorii fizycznych, by z pomocą tego wszystkiego na sam koniec zająć się mózgiem i świadomością.
Jest to bardzo ciekawa lektura, nie tylko dla fanów tematu świadomości i sztucznej inteligencji, ale i dla tych chcących poznać nasz świat i zasady nim kierujące. Penrose często przedstawia również własne poglądy na istotę Wszechświata, które mogą zaskoczyć lub zmienić nasz punkt widzenia. Dostarcza on np. silnych argumentów na rzecz indeterminizmu, a co najmniej nieobliczalności czy przedstawia ciekawe koncepcje związane ze światem platońskim, a najbardziej spekulatywnych (oraz interesujące) przypuszczeń dokonuje w ostatnim rozdziale, mówiąc o swojej wizji istoty funkcjonowania świadomości.
-----------------------------------------------------------------------------------------------------------------------------------------------
Część bardziej obiektywną skończyłem, teraz tylko trochę krytyki i spoilerów (raczej dla tych co czytali).
R. Penrose niestety już na samym początku trochę mnie do siebie zraził, atakując zwolenników silnej SI (za którego chyba się uważam), w dodatku niekoniecznie celnymi argumentami, bo myląc poziomy funkcjonowania świadomości (później się zresztą poprawiając). Mówię tu o chociażby przykładzie chińskiego pokoju Searlego, gdzie argumentem staje się nierozumienie całości przez każdego z „pracusiów”, a więc i mający wynikać z tego brak faktycznej świadomości całości („Niemożliwe jest by naród jako całość rozumiał coś, czego nie rozumieją poszczególni jego członkowie”, czy jakoś tak) – nie wymagamy przecież od każdego z neuronów z osobna, by był świadomy, a jedynie oczekujemy tego od całości mózgu?
Równie niewłaściwe wydaje się być używanie twierdzenia Godla do udowodnienia niealgorytmicznego działania mózgu. Bo w odpowiedzi na argument, że algorytm (mózg) służący do stwierdzania prawdy, byłby sprzeczny z twierdzeniem Godla (z grubsza – nie istnieje algorytm mogący udowodnić prawdziwości lub sprzeczności dowolnego zdania), można odpowiedzieć że jeśli już mamy użyć tego twierdzenia w odniesieniu do mózgu, to raczej bardziej poprawnym byłoby porównanie mózgu i świadomości w określonej chwili do danego systemu formalnego, który owszem – nie jest w stanie stwierdzić całej prawdy (lub nieprawdy), ale jest w stanie udowadniać poszczególne zdania, a wraz z rozszerzaniem zbioru aksjomatów (wiedzy), może coraz bardziej „odkrywać prawdę”.
Mam wrażenie, że trochę niefortunnie Penrose zrobił, jak po części sam przyznaje, ze zwolenników silnej SI chłopców do bicia oraz wciska im w usta coś, czego wcale nie twierdzą. Takie pomylenie pojęcie dobrze wyraża akapit z ostatniego rozdziału:
gdzie w dużej mierze wyraża przekonania swoich chłopców do bicia.
Tak czy inaczej, lektura bardo pouczająca i zdecydowanie warta przeczytania. 2 ostatnie rozdziały dla mnie najlepsze (mimo zapewne już sporej nieaktualności dotyczącej neurobiologii?), szczególnie teoria rozwoju mózgu na wzór quasi-kryształów.
I w ten oto sposób pokusiłem się o skrytykowanie jednego z lepszych fizyków dzisiejszych czasów :)
Mam nadzieję, że postem (jeśli ktokolwiek go przeczytał, chociaż w części) zachęcę do dyskusji, bo temat ciekawy. W komentarzu wstawiam spis treści książki na zachętę (bo jest bardzo zachęcający!).**
#ksiazki #matematyka #fizyka #sztucznainteligencja #futurystyka #filozofia #liganauki #nauka
źródło: comment_tjVdOQt1E1GtTe7VyoV0abX2sFSnFz2b.jpg
Pobierzźródło: comment_pVJ5z4HOqbcOQyshBRNfdteOrluHxySr.jpg
Pobierz@krolikbartek: po lekturze tej książki nadal uważasz, że możliwe jest zbudowanie silnej AI w oparciu o algorytmy uruchomione na komputerze będącym implementacją maszyny Turinga? Przypomnę, że każdy współczesny komputer jest implementacją maszyny Turinga, każdy poprawny komputerowy algorytm da się wykonać na modelowej maszynie Turinga.
@krolikbartek: czytam to zdanie piąty raz i nie mogę zrozumieć co chciałeś przekazać. Penrose pisał (w uproszczeniu), że nasz mózg rozstrzyga o problemach, których nie można rozstrzygnąć na drodze algorytmu i systemu formalnego, więc implementacja naszego mózgu wyłącznie jako algorytm
ad. 2 Podaj przykład takiego problemu.
@krolikbartek: jak? Przeczytałem dopiero 1/3 książki ale podejrzewam, że pozostałe 2/3 to również ciągłe wykazywanie dlaczego silna AI nie powstanie na maszynie Turinga.
@krolikbartek: strona 132:
źródło: comment_Vf7h8DwAQTg7AVaIDloYGpILWPpxVfkZ.jpg
Pobierzźródło: comment_piVWLxsiIhpcplDvNl3xl2HyQqQaQbvG.jpg
PobierzWedług mnie Penrose tego nie wykazał. A jak konkretnie miałaby powstać jeszcze nie mam, ani nikt inny nie ma pojęcia. Problemem dzisiaj nie są wyłącznie ograniczenia technologiczne komputerów, choć ich rozwój będzie sprawę ułatwiał. Istnieje kilka podejść w budowaniu silnej AI, jak np. próby kopiowania dzialania ludzkiego
Komentarz usunięty przez autora