Wpis z mikrobloga

#pasjonat15k #logika #matematyka #filozofia #programowanie #programista15k #it #sztucznainteligencja #czytajzwykopem

Hej,

Siedzę ostatnio mocno w logicznych (a konkretniej w zakresie logiki modalnej) i semantycznych implikacjach współczesnych metod AI, co może niektórych z Was zainteresuje. Od jakiegoś czasu pracuję nad tym, jak można wykorzystać klasyczną filozofię języka i semantykę logiki modalnej (Kripke, Putnam) w nowoczesnych systemach AI. I szczerze - coraz częściej miewam chwile, gdy myślę, że to otwiera sporo ciekawych drzwi.

Podstawy: Logika modalna to rozszerzenie logiki klasycznej o operatory konieczności () i możliwości (◇). ELI5: podczas gdy logika klasyczna mówi nam "prawda/fałsz", logika modalna dodaje "musi być prawdą" i "może być prawdą".
Weźmy przykłady z it:

"Program się wykonuje" - zwykłe stwierdzenie
"Program się wykonuje" - program MUSI się wykonać (np. gwarancja terminacji)
◇"Program się wykonuje" - program MOŻE się wykonać (np. istnieje ścieżka wykonania)

Kripke wpadł na pomysł modelowania tego przez "możliwe światy" - czyli różne stany/scenariusze połączone relacjami dostępności.
W kontekście AI/ML możemy wykorzystać to np. do:

modelowania niepewności w systemach decyzyjnych
weryfikacji właściwości programów
rozumowania o wiedzy w systemach multi-agent

Do rzeczy:

Weźmy na przykład teorię Kripkego (Naming and Necessity). Kripke wpadł na to, że nazwy własne działają jak "sztywne wskaźniki (desygnaty)" - czyli jak raz coś nazwiemy, to ta nazwa "przykleja się" na stałe, niezależnie od zmian właściwości obiektu. W kontekście AI możemy to wykorzystać do:

trackowania obiektów w computer vision (ten sam obiekt mimo różnych perspektyw/oświetlenia)
poprawy działania sieci neuronowych w zadaniach wymagających persistent identity
lepszego modelowania relacji w graph neural networks

Putnam z kolei (The Meaning of 'Meaning') dokonał pewnego przewrotu twierdząc, że znaczenie nie siedzi tylko "w głowie" (czyt. w naszym modelu), ale jest mocno zależne od środowiska i kontekstu. To ma ciekawe zastosowanie w:

multi-agent systems (jak agenty między sobą negocjują znaczenie)
transfer learning (jak model ma się adaptować do nowych domen)
few-shot learning (jak wykorzystać kontekst do uczenia się z małej ilości danych)

Jeśli kogoś to interesuje, to polecam:

Pearl "Causality" - rewolucja w modelowaniu przyczynowości, bez tego nie byłoby połowy modern ML
Battaglia "Relational inductive biases" - super paper o tym, jak wbudować tego typu intuicje w architektury neural networks
Lake "Building machines that learn and think like people" - świeże spojrzenie na to, jak możemy uczyć AI bardziej "po ludzku"

A na początek, polecam z całego serca ten wspaniały tekst o "Mózgach w maszynie" Pytnama. Wydaje mi się, że Lem wykorzystał go w którymś z opowiadań, ale nie wiem którym.

https://philosophy.as.uky.edu/sites/default/files/Brains%20in%20a%20Vat%20-%20Hilary%20Putnam.pdf

I analizę tego tekstu w szerszym kontekście

https://pau.krakow.pl/KwartalnikFilozoficzny/KF_XLIV_2016_z3_04.pdf
  • 29
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@JamesJoyce: Dzięki za fajną wypowiedź, niestety to nie jest na moje progi. Po prostu ja niczego nie rozumiem. Nieco większa jasność w wyjaśnieniach – dla kogoś, kto nie zna filozofii języka, pojęcie "sztywnego desygnatu" Kripkego może być trudne.

Ja głównie zajmuję się w wolnym czasie robieniem Leetcode i certyfikatów AWS'a.
  • Odpowiedz
  • 6
@Ksiega_dusz: Oki, dzięki za feedback. Pewnie masz rację. Postaram się bardziej tłumaczyć podstawowe tematy.

W skrócie:

Sztywny desygnator to nazwa, która wskazuje na TEN SAM obiekt niezależnie od okoliczności czy zmian jego
  • Odpowiedz
@JamesJoyce: Super że publikujesz święte teksty dla nerdów. Czymś trzeba zająć swój umysł, gdy obok dziewczyna się leniwie przeciąga :D

Ale tak na poważne: powinieneś mieć jakiś swój blog, bo na Wykopie jak coś opublikujesz, to ciężko potem coś znaleźć. Polski internet jest płytki np. w porównaniu z rosyjskim, chińskim albo angielskim. Więc takie treści jakie publikujesz, spowodują podnoszenie poziomu całego polskiego internetu pod warunkiem, że będziesz miał swój adres
  • Odpowiedz
  • 5
@eU2MO: Publikuję pracę naukowe byku plus rzadziej w mediach bardziej popularnych. Tutaj zwyczajnie jestem anonimowy :) Żona w pracy. Ale może masz rację, co do czegoś większego, celem wyrobienia marki.
  • Odpowiedz
"Linus Torvalds" to sztywny desygnator


@JamesJoyce: z drugiej strony "Linus Torvalds" w innym możliwym świecie mógłby nazywać się inaczej np. "Jan Kowalski" - patrz serial Twin Peaks
  • Odpowiedz
@JamesJoyce: Mam pytanie co do sensowności mocnego uczenia się logiki, tzn.: w jednej ze swoich książek o logice natrafiłem na opinię, że logika jako nauka jest w kryzysie od lat 70-tych XX wieku. Nie mogę zaprzeczyć: przed latami 70-tymi dorobek logiki jest bardzo znaczący i przez to warto logikę poznać - dla zapoznania się z tym dorobkiem. Ale możesz się podzielić tym, co skłania cię do profesjonalnego zajmowania się logiką?
  • Odpowiedz
  • 3
@eU2MO: Wywodzę się z logiki i interesuje mnie to. Jeśli chcesz mieć zawód związany z AI, to raczej nie musisz się tego uczyć. Jeśli chcesz robić badania, to każdy trop i ogólna erudycja dot. nauk ścisłych i fil. nauki jest na wagę złota.
  • Odpowiedz
  • 1
@a5f5c1: Dokładnie! W "Twin Peaks" mamy doskonały przykład tego problemu - Laura Palmer/Carrie Page to ta sama "osoba" w różnych światach/rzeczywistościach, ale z innym imieniem i historią. To pokazuje fundamentalny problem:
Co FAKTYCZNIE jest tym sztywnym desygnatorem?

Samo imię "Linus Torvalds"? (które jak słusznie zauważono, mogłoby być inne)
Jakaś "esencja" danej osoby/obiektu?
Może ciągłość czasoprzestrzenna?
  • Odpowiedz
@JamesJoyce: może jakiś stały/niezmienny identyfikator nadawany w nadprzestrzeni, którego my jako ludzie niestety nie znamy, sami będąc tylko niewielkim elementem większej układanki ( ͡° ͜ʖ ͡°)
  • Odpowiedz
  • 1
@swiadomy_anakolut: wbrew pozorom to nie podważa teorii, a pokazuje jej większą subtelność!

Kripke właśnie o tym myślał - sztywny desygnator działa jak łańcuch odniesień, który zaczyna się od "chrztu" (pierwotnego nadania nazwy) i jest przekazywany dalej. Zmiana nazwiska to nie przerwanie tego łańcucha, a raczej jego przedłużenie/modyfikacja.

Przykład z branży:
Weźmy MySQL -> Oracle MySQL. Mimo zmiany "nazwiska", wciąż mówimy o TEJ SAMEJ bazie danych, z tym samym "rodowodem" i historią. Łańcuch odniesienia
  • Odpowiedz
@JamesJoyce: zapytam może przewrotnie. Czy z perspektywy osoby uczonej uważasz, że możliwe jest, że jako ludzkość za X tys./milionów/miliardów lat odkryjemy np., że żyjemy w symulacji stworzonej przez coś/kogoś i np. po śmierci respawnujemy się jako nowy ktoś/coś w innej symulacji i tak w kółko? Czy Twoim zdaniem możliwe jest w ogóle dojście do zrozumienia tego poziomu abstrakcji przez ludzkość, czy też całkowicie wykluczasz taką możliwość? Jeśli odrzucasz, to czy
  • Odpowiedz
  • 1
@a5f5c1: Oj, to jest temat na seminarium całe, a nie wpis na wykopie. Ale tak. Daj mi chwilę, coś skończę i odpiszę więcej. A w międzyczasie, jeśli Cię to interesuje kup Chalmersa, a nie pożałujesz. Są tam różne stanowiska odpowiadające na Twoje pytania.
JamesJoyce - @a5f5c1: Oj, to jest temat na seminarium całe, a nie wpis na wykopie. Al...

źródło: image

Pobierz
  • Odpowiedz
@JamesJoyce: dzięki wielkie za polecenia literatury ( ͡° ͜ʖ ͡°) Tunel Ego niedługo pojawi się w mojej biblioteczce i REALITY+ również, skoro polecasz jako odpowiedzi (nawet cząstkowe) na moje dziwne pytania ;)
  • Odpowiedz
  • 1
@a5f5c1: Temat jest złożony i można na niego patrzeć z wielu perspektyw. Posługuje się tutaj notatkami dla studentów z 2021 chyba:

1. Problem poznawalności fundamentalnej natury rzeczywistości:

Argument z ograniczeń poznawczych: nawet jeśli żyjemy w symulacji, nasze umysły mogą być "zaprogramowane" tak, by nie móc tego pojąć - podobnie jak postać w grze komputerowej nie może zrozumieć natury swojego świata.
Z drugiej strony, rozwój fizyki kwantowej i teorii informacji pokazuje, że możemy odkrywać
  • Odpowiedz
wbrew pozorom to nie podważa teorii, a pokazuje jej większą subtelność!


@JamesJoyce: No domyślam się, że cała słynna teoria to nie są dwa akapity z wikipedii pod hasłem Rigid designator.

Zmiana nazwiska to nie przerwanie tego łańcucha, a raczej jego przedłużenie/modyfikacja.

No to w takim razie nie zgadza się z tym co pisałeś wcześniej. Janina Nowak "wskazuje na TEN SAM obiekt niezależnie od okoliczności czy zmian jego właściwości" - to
  • Odpowiedz
@swiadomy_anakolut: problem w tym, że matematyka to również swojego rodzaju język, tak samo jak polski/angielski/niemiecki - w innych możliwych światach może w ogóle nie być czegoś takiego jak cyfry, liczby itd. - ogólnie matematyki, więc znów prawdopodobnie nie jest to dobry przykład desygnatu ( ͡° ͜ʖ ͡°)
  • Odpowiedz
  • 1
@swiadomy_anakolut: Masz rację i mylisz się. Ponownie i tutaj. Odpiszę szerzej za pewien czas.

W skrócie: z punktu widzenia Kripkego nie przeszkadza to w przyznaniu nazwom własnym statusu sztywnych desygnatów: chodzi o to, że w każdym indywidualnym akcie odniesienia (w danym kontekście) ustalamy, do kogo się odnosimy. Gdy już ten „łańcuch referencji” jest ustalony (wiadomo, którego Jana Kowalskiego mamy na myśli), to nazwa „Jan Kowalski” jest sztywnym desygnatem dla tej konkretnej
  • Odpowiedz
  • 1
@a5f5c1: przydatne tu jest porównanie nazwy własnej z deskrypcją określoną:

Deskrypcja określona (np. „aktualny prezydent Polski”) nie jest sztywnym desygnatem, ponieważ w różnych możliwych światach „aktualny prezydent Polski” może być zupełnie inną osobą. W jednym świecie to będzie ktoś inny niż w świecie, w którym rozważamy alternatywny wynik wyborów.

Nazwa własna („Jan Kowalski”), po ustaleniu, do kogo się odnosi, wskazuje zawsze tę samą osobę – niezależnie od tego, czy w
  • Odpowiedz
w innych możliwych światach może w ogóle nie być czegoś takiego jak cyfry, liczby


@a5f5c1: Też o tym pomyślałem. Ale liczba 20 istniała już wcześniej, zanim człowiek wymyślił matematykę - np. małpa miała tyle palców w rękach i nogach. W sensie, akurat symbole liczb, ich nazwy, człowiek wymyślił, ale samych liczb już nie (przynajmniej naturalnych). Jak pierwsza małpa człekokształtna zaczeła się zastanawiać nad tym, to miała już akurat dwie, a
  • Odpowiedz