Aktywne Wpisy
J3BACZ3000 +7
#321685 definitywny koniec z alkoholem
JJtriple777 +10
#raportzpanstwasrodka
Wedlug prof. dr hab. nadzwyczajnego Macieja Amanowicza pilka nozna powinna byc zakazana.
Wedlug prof. dr hab. nadzwyczajnego Macieja Amanowicza pilka nozna powinna byc zakazana.
źródło: IMG_0487
Pobierz
https://wykop.pl/wpis/86291257/sztucznainteligencja-programowanie-programista15k-
Takie tam notatki o tym dlaczego AGI nie powstanie a może powstanie:
Za:
Piękny i mądry paper Fjellanda z 2020, który swoją drogą posłużył mi jako baza do jednego z artykułów.
centralna teza jest prosta: komputery nie są w świecie. nie mają ciała, nie miały dzieciństwa, nie wyrastały w kulturze. a bez tego nie mamy innej drogi do na ten moment AGI.
brzmi jak filozoficzny sceptycyzm dla sceptycyzmu? No nie sondaże.
autor rewitalizuje argument dreyfusa (lata 70.), który naśmiewany przez dekady, wygląda dziś dobrze. dreyfus mówił: istotna część ludzkiej wiedzy jest niejawna, nie umiemy jej zwerbalizować, bo nigdy jej nie werbalizowaliśmy. uczymy się chodzić, jeździć na rowerze, czytać emocje innych przez zanurzenie w świecie, nie przez przyswajanie reguł.
żaden program nie może tego przepisać, bo nie ma co przepisywać. nie ma źródłowego kodu.
druga rzecz którą autor mocno podkreśla: problem przyczynowości. pearl i mackenzie (book of why): żeby mieć cokolwiek zbliżonego do ogólnej inteligencji, system musi umieć interweniować w świat i odróżniać korelację od przyczyny. tymczasem sieci neuronowe przez ostatnie 30 lat to w gruncie rzeczy bardzo sprytne wykrywacze korelacji. słynny przykład z artykułu: system trenowany do odróżniania wilków od huskych miał 90% accuracy. okazało się że rozpoznawał śnieg w tle.
trzy “kamienie milowe” AI które autor rozkłada: deep blue, watson ibm, alphago. każdy spektakularny w swojej domenie. każdy kompletnie bezradny poza nią. watson miał zrewolucjonizować medycynę skończył jako asystent do rutynowych zadań. deepmind w tym samym czasie tracił setki milionów rocznie i odkrył że to co działa w go, nie działa w onkologii.
słuszna też jest moim zdaniem teza że wiara w bliskie AGI jest aktywnie szkodliwa. jeśli przeceniasz maszynę i nie doceniasz człowieka, zastępujesz coś co działa czymś gorszym. i masz dobre PR.
Przeciw:
co mnie w tym gryzie? Paper jest z 2020, przed erą obecnych llm. część empirycznych argumentów o niemożności obsługi języka jest dziś słabsza. ale teza o braku rozumienia przyczynowego i braku ucieleśnienia to wciąż otwarty problem. żaden z obecnych modeli nie przeszedłby “mini-testu turinga” pearlera: odpowiedz na proste pytanie przyczynowe tak jak trzylatek.
Poza tym
boston dynamics, manipulatory uczące się przez dotyk. jeśli ucieleśnienie to jedyna bariera, to jest to bariera inżynieryjna, nie zasadnicza. dreyfus mógł mieć rację co do dlaczego, ale niekoniecznie co do czy możliwe.
fjelland pisał przed gpt-4, przed o1, przed modelami które rozwiązują olimpiady matematyczne. emergentne zdolności przy skalowaniu były zaskoczeniem nawet dla twórców może kolejny próg przyniesie kolejną niespodziankę której nie przewidujemy.
obecne modele jakoś obsługują kontrfaktuały “co by było gdyby hitler wygrał wojnę” generuje spójną odpowiedź. pearl powiedziałby że to interpolacja, nie rozumowanie. ale skąd wiemy gdzie kończy się jedno a zaczyna drugie? może to pytanie źle postawione.
No i to co mnie gryzie w mózg najmocniej: argument ewolucyjny odwrócony
fjelland mówi: człowiek rozumie bo jest w świecie. ale mózg też jest tylko układem przetwarzającym sygnały tyle że z innym interfejsem wejściowym. jeśli inteligencja może wyłonić się z neuronów, może wyłonić się z innych substratów. pytanie o substrat to może być ślepa uliczka.
Co myślicie?
https://www.nature.com/articles/s41599-020-0494-4
Mordeczki, model dreyfusa pokazuje dlaczego “jeszcze trochę skalowania i mamy agi” to myślenie życzeniowe.
llm operuje na poziomie kompetentnym góra biegłym w wąskich domenach, i to tylko pozornie. nie dlatego że za mało parametrów czy
Stosujesz ad personam porównania do ss. We wpisie o teorii Agi. Piszesz o Wewelsburgu we wpisie w którym mówię że sam nie wiem jaka jest odpowiedz.
Wpadasz na moje top 10 odklejencow tutaj.
"Piękny i mądry paper Fjellanda z 2020, który swoją drogą posłużył mi jako baza do jednego z artykułów.
centralna teza jest prosta: komputery nie są w świecie. nie mają ciała, nie miały dzieciństwa, nie wyrastały w kulturze. a bez tego nie mamy innej drogi do na ten moment AGI."
To coś nie będzie człowiekiem. Nie będzie potrzebować tych rzeczy. Może postrzegać inaczej niż my i wiedzieć rozumieć inaczej
Co się dzieje z umysłem w komorze deprywacyjnej ? Halucynuje, gdzie teraz masz zanurzenie w rzeczywistości po odcięciu sygnałów
@JamesJoyce: myślę, że wobec braku jakiegokolwiek sensownego wyjaśnienia fenomenu świadomości (tej ludzkiej, a nie sztucznej), których LLM ani żaden inny algorytm zwyczajnie nie posiada myślę, że prawdopodobieństwo solipsyzmu jest całkiem wysokie.
Skoro nie jesteśmy w stanie sobie nawet wyobrazić jak można z materii stworzyć subiektywne doświadczenie, to może warto zastanowić się czy centrum tego doświadczenia jest po prostu jedno. A cała reszta to nieświadoma projekcja umysłu.
Do głów innych ludzi też
Ale co ciekawe sam akt doświadczenia wymaga od nas jakiejś nieświadomości. Nie można doświadczać będąc świadomym wszystkiego. A przynajmniej ja nie jestem sobie tego w stanie wyobrazić. Nawet jak doświadczamy myśli, to dlatego, że chcemy wydobyć na powierzchnie coś z tej nieświadomości właśnie. Akty wyciszania czy głębokiej medytacji w zamyśle mają wyciszyć wszystko, nasze myśli, postrzeganie - to jest najbliższe chyba realnemu brakowi doświadczenia. Czysta obserwacja bez żadnych przekonań