[Odmien_Byc]

Dlaczego sztuczna inteligencja raczej nie wytworzy takiej świadomości jak ludzka? Czy musimy się jej bać?

1. Wytwarzanie nowych połączeń. Ludzki mózg ucząc się i dojrzewając wytwarza coraz to nowe połączenia między komórkami nerwowymi. Najintensywniejszy ich przyrost u większości osób występuje między 2. a 4. rokiem życia. W przypadku układów elektronicznych ciężko mówić o wytwarzaniu nowych połączeń. Owszem, jest we współczesnej elektronice możliwość wytrawiania nowych dróg w trakcie działania układu poprzez odpowiednie sterowanie przepływem prądu, jednak jest to droga w jedną stronę. Mimo stosowania nowoczesnych (i bardzo skutecznych) algorytmów, pewne możliwości w ten sposób zostają nieosiągalne, jak choćby ograniczony tylko do zestawu algorytmów proces "twórczy", odczuwanie emocji (o tym zaraz) lub "element nieracjonalności". Bez tego ostatniego nie mielibyśmy tak naprawdę współczesnej fizyki, która poprzez czystą myśl i intuicję wywnioskowała/wyprowadziła prawa, których byśmy nie wywnioskowali z danych obserwacyjnych za pomocą jakichkolwiek algorytmów. Co do możliwości twórczych lub kreatywnych: są one zazwyczaj ograniczone do danego przeznaczenia. Przykładowo, dzisiejszych programów szachowych, które wygrywają już z każdym, nie rozumiemy - nie potrafimy zrozumieć, dlaczego komputery podejmują takie, a nie inne ruchy, gdyż osiągnęły taki poziom zaawansowania w swojej dziedzinie. Testowane jest również zestawianie przeciwstawnych sieci neuronowych, czego celem jest wytworzenie "kreatywności" SI.

2. Poziom skomplikowania. Zgadnijcie: czym się różni galaktyka od komórki ciała? Galaktykę prędzej zasymulujemy. Nie poznano tak do końca mechanizmów działania komórek, gdyż dotychczasowe dane nie tłumaczą satysfakcjonująco pytania "jak to życie działa?". Przypuszcza się, że jest to spowodowane ciągłym działaniem nietrwałych związków i reakcji, które podtrzymują życie takiej komórki, oczywiście w interakcji z pozostałymi jej częściami. Nie jest to jednak dziedzina, w której byłbym jakkolwiek kompetentny, więc na tym poprzestanę. Wkracza nam tutaj pojęcie emergencji, czyli powstawania nowych zjawisk i zanikania innych, bardziej podstawowych przy odpowiedniej zmianie skali. Przykładowo: opisując pojedynczą osobę korzystamy z psychologii, jednak chcąc opisać interakcje i zachowanie 100000 osób psychologia się nie sprawdzi - dlatego korzystamy z socjologii, która w pewnym uproszczeniu jest uogólnieniem psychologii na społeczeństwo. Wracając: poziom skomplikowania pojedynczych składowych w ogólności nie musi przekładać się na poziom skomplikowania całości, jednak może tak być i poznanie owych części składowych pomoże w poznaniu całości. W przypadku ludzkiego ciała nie znamy jeszcze wielu mechanizmów jego działania lub nie potrafimy ich wytłumaczyć. Korzystając z tej emergentnej własności ludzkiego organizmu, próbujemy symulować jego zachowanie za pomocą komputerów, jednak nie jest to wierna symulacja ze wszystkimi zachodzącymi procesami, a jedynie korzysta z pewnych uśrednionych ludzkich cech.

3. Na dzień dzisiejszy pewne rzeczy dla techniki wydają się nie do przeskoczenia. Nie chodzi wcale o moc obliczeniową czy efektywność algorytmów, które z roku na rok są coraz lepsze. Chodzi o znane wszystkim zjawisko emocji, twierdzenie Gödla oraz ograniczenia w formułowaniu praw (zaraz wyjaśnię). Kwestia emocji jest o tyle ciekawa, że samo rejestrowanie czegoś nie oznacza od razu odczuwania - w końcu obraz też możemy bezemocjonalnie "rejestrować". Ja osobiście nie znam sposobu, jak można by zasymulować odczuwanie bólu lub emocji, zwłaszcza tych wyższych i różniących się niuansami, jednak nie wydaje mi się, że w oparciu o technikę półprzewodnikową to byłoby możliwe. Twierdzenia Gödla omówię tylko w dużym uproszczeniu. Wyobraźmy sobie, że wprowadzamy do komputera pewne założenia (aksjomaty), na podstawie których ma wyprowadzić wszystkie możliwe w ramach tych założeń prawa. Jako przykład: liczby naturalne. Czy na ich podstawie sztuczna inteligencja powinna dać radę wyprowadzić wynikające z nich prawa? Okazuje się, że nie. Są takie zdania (zdania w logice można osądzić jako prawda lub fałsz) dotyczące liczb naturalnych, których nie da się wyprowadzić, a które są prawdziwe (co było ogromnym szokiem w matematyce, gdy Kurt Gödel udowodnił to w 1931 r.). Idźmy dalej. Czy na podstawie tych aksjomatów powstanie współczesna fizyka? Nie ma szans. Współczesna fizyka bazuje na przestrzeniach i zbiorach, których nie można wyprowadzić na podstawie aksjomatów dotyczących liczb naturalnych. Należałoby sformułować nowe teorie oparte o nowe aksjomaty. W SI nie ma tam tego elementu nieracjonalności, którego dzisiaj jeszcze wytłumaczyć nie umiemy, a który odpowiada nie tylko za pomyłki, ale również za nowe pomysły i idee. Oczywiście, zdecydowana większość owych nowych idei jest do bani, jednak dzięki tym nielicznym sensownym "szalonym" ideom jesteśmy w miejscu, w którym jako ludzkość jesteśmy.

Na koniec: czy musimy się bać sztucznej inteligencji samej w sobie? To zależy. Jeśli przyjrzymy się organizmom żywym (w tym nam), to posiadają one takie mechanizmy zaprogramowane w sobie, przez które mogą być niebezpieczne lub tak się adaptować do otoczenia, by takimi były. Zasada egoizmu, przedkładanie swojego interesu nad czyiś, dążenie do przekazania genów dalej czy dążenie do przetrwania, często za wszelką cenę, to tylko niektóre mechanizmy, które zaimplementowane w sztucznej inteligencji mogłyby ją uczynić niebezpieczną samą w sobie. Pozostaje jeszcze kwestia jej możliwości działania w realnym świecie, które na razie są ograniczone, ale wszystko przed nami. Na dzień dzisiejszy bardziej niebezpieczni są ludzie, którzy korzystając z jej ogromnych możliwości do przetwarzania informacji, mogą wykorzystać ją do wypełnienia własnych, egoistycznych interesów.

[Marek Cyborg-Mikke]

________________________
Nasz tag: #odmienbyc
Nasz fp na fb

#ciekawostki #gruparatowaniapoziomu #sztucznainteligencja

[smyl]

W przypadku układów elektronicznych ciężko mówić o wytwarzaniu nowych połączeń.

@Odmien_Byc: to jest koszmarna nieprawda i to na kilku poziomach. W symulacjach sieci neuronowych tworzenie i usuwanie połączeń jest banalną, rutynową czynnością (googluj "neural pruning deep learning"). Jeśli koniecznie chcesz mieć fizyczne połączenia, to można użyć FPGA. Tylko że matematycznie to bez znaczenia

Punkt drugi to nie wiem, jaką myśl ma przekazywać. Że mamy zbyt słabe komputery? Strumyk też jest emergentną

[Aokx]

@Odmien_Byc: Ale #!$%@?

[nielegalny_imigrant]

@Odmien_Byc: już na samym początku pierwszego punktu jasno pokazałeś, że nie masz pojęcia jak działają współczesne banalne sieci neuronowe - a to dopiero elementarna namiastka tego, co będziemy mieć w przyszłości, bo technologia raczkuje.

Jak zrobisz tldr z tych punktów, to może bym się skusił przeczytać całość, jeżeli mnie zaintryguje, ale po takim wstępie dałeś znać, że nie warto marnować czasu na te wypociny, skoro nie masz pojęcia jak działają sieci

[rmweb]

@Odmien_Byc: Nie potrzeba wcale odtwarzać struktury mózgu, by zbudować sztuczny umysł. Według mnie ludzki umysł składa się z czterech głównych elementów - umysł logiczny, umysł intuicyjny, generator bytów wyłaniających się z pustki, umysł lingwistyczny. Czyli że do zbudowania maszyny myślącej w podobny sposób do człowieka, należy wyposażyć ją generator bytów realnych i nierealnych, ewaluator możliwości, wiarę, która popycha do działania, archetypy, pamięć skojarzeniową, intuicję analizującą całościowo, myślenie analityczne oparte na logice

[J.....l]

@Odmien_Byc:

Są takie zdania (zdania w logice można osądzić jako prawda lub fałsz) dotyczące liczb naturalnych, których nie da się wyprowadzić, a które są prawdziwe (co było ogromnym szokiem w matematyce, gdy Kurt Gödel udowodnił to w 1931 r.). Idźmy dalej. Czy na podstawie tych aksjomatów powstanie współczesna fizyka? Nie ma szans. Współczesna fizyka bazuje na przestrzeniach i zbiorach, których nie można wyprowadzić na podstawie aksjomatów dotyczących liczb naturalnych. Należałoby sformułować

[LegionPL]

@Odmien_Byc: Si nie musi imitować człowieka, to było by nawet szkodliwe.
Jeśli mają być narzędziami to jest to zbędne, wystarczy czysta logika, zakazy i hierarchia.
Zaimplementowanie im podobnych instynktów co nasze może być ciekawym eksperymentem ale to w symulacji raczej.

[Krzychu007]

Miało wyjść mądrze ale ciężko to osiągnąć jak się nie wie o czym się pisze..

[AdireQ]

@smyl: @nielegalny_imigrant: Miałem nadzieje że rozkręci się tu jakaś dłuższa dyskusja ale raczej nic z tego. Wygląda na to że @Odmien_Byc nie jest autorem tego tekstu a po prostu przekleił go tu aby wypromować swój fejsbookowy fanpage.

generator bytów wyłaniających się z pustki

@rmweb: Brzmi to trochę ezoterycznie. Coś jak "niepokalane poczęcie idei" ;).

[rmweb]

@AdireQ: Tylko z nazwy, bo to taka metafora jest, a w praktyce można by zaciągnąć do tego czynnik losowy albo bardziej fantastycznie prawa mechaniki kwantowej - na zasadzie, że z energii można wytworzyć materię. Zawsze jest to jakiś pomysł ( ͡° ͜ʖ ͡°)

[hawat]

@AdireQ: @rmweb: "mózg Boltzmanna" - ale chyba coś się autorowi pokićkało i pomieszał "niebyt też jest bytem" zasłyszane gdzieś przypadkiem z energią punktu zerowego (co również zasłyszał pewnie - przypadkiem.
A mózg Boltzmanna świetnie jak na razie sprzedał się w popkulturze jako "Ego" z MCU.

[T.....a]

@smyl:

Nie wiem, czy lepiej późno niż wcale.

Strumyk też jest emergentną własnością cząsteczek wody, a umiemy go zasymulować w grach komputerowych.

Nie jest i za bardzo nie umiemy.

[smyl]

@Turysta_Onanista: ok

[AdireQ]

Tylko z nazwy, bo to taka metafora jest, a w praktyce można by zaciągnąć do tego czynnik losowy albo bardziej fantastycznie prawa mechaniki kwantowej

@rmweb: Losowe generowanie idei (pomysłów, bytów?) jest nieefektywne. To nic innego jak nieskończona ilość małp. Sztuczny umysł działający na tej zasadzie byłby tak nieefektywny że nie byłbyś w stanie zauważyć jakichkolwiek przejawów jego myślenia. W praktyce systemy sztucznej inteligencji operują danymi pozyskanymi ze środowiska (ze zbioru