[Sinity]

GPT-4 (obsługujące zarówno tekst jak i obrazki na wejściu) wyjaśnia mema

#programowanie #machinelearning #sztucznainteligencja #technologia

[LateMacchiato]

@Sinity: Piękne i straszne. Przyjdzie moment, że uznamy AI za narzędzie doskonalsze od człowieka, że zawierzymy mu rządzenie nami.

[MacDada]

@Sinity: trzeba mieć płatną wersję, żeby ogarniał obrazki?

[Sinity]

@LateMacchiato: https://mobile.twitter.com/ESYudkowsky/status/1634876247036534785

Laboratoria AGI bawią się tym, jak mówią "AGI": większość ludzi słyszy "hiper-zaawansowany chatbot", a laboratorium ma na myśli coś pokroju boskiego pożeracza galaktyk.

Laboratoria mówią, że ich zdaniem prawdopodobieństwo, że coś pójdzie źle wynosi 5%, a przez to mają na myśli "100% szansy, że ktoś zbuduje boga i 95%, że pójdzie dobrze"; a większość ludzi myśli, że to musi oznaczać, że jest tylko 5% szansy, że możliwe jest zbudowanie

[dafto]

Piękne i straszne. Przyjdzie moment, że uznamy AI za narzędzie doskonalsze od człowieka

@LateMacchiato: najpierw trzeba wynaleźć AI

[LateMacchiato]

najpierw trzeba wynaleźć AI

@dafto: To wyścig, który trwa i zapewne który zostanie osiągnięty. Już obecne AI ogarnia ogromny zasób danych. Wiesz, początkowo będzie narzędziem wspomagającym, ale z kolejnym udoskonaleniem będzie się stawało narzędziem zastępującym myślenie. Auta, pralki, kalkulatory nie zastąpiły myślenia a jedynie pozwoliły skupić się na innych rzeczach, natomiast AI ma potencjał zastąpić rozum, czyli człowieka.
Będziemy żyć jak w limes inferior

[dafto]

@LateMacchiato: bardziej mi chodziło o to, że aktualnie nie mamy żadnej sztucznej inteligencji

[LateMacchiato]

żadnej sztucznej inteligencji

@dafto: No nie mamy, toteż napisałem, że wyścig o jego stworzenie trwa. A przynajmniej nie został stworzony odpowiednik ludzkiego umysłu. Bo czym jest inteligencja? Może mówimy o samoświadomości istnienia? Celu w życiu? Działania z powodu motywacji zapewnionych przez instynkt? Narazie o AI mówimy jak o czymś a nie kimś. Pewnym jest, że kierunkiem rozwoju będzie między innymi skopiować ludzki umysł. To stare marzenie fantastów. Wydaje mi się, że

[tos-1_buratino]

@dafto: @LateMacchiato
Jeśli ją będziemy mieli, niekoniecznie będziemy o tym wiedzieli. Obecnie w chacie gpt jest zaszyty model językowy którego nie znamy a który działa poprzez brute force miliardów połączeń neuronowych.
Jeśli kiedyś powstanie SI może działać jak ten model językowy i nie będziemy rozumieć podstaw tego działania.

[timechain]

@Sinity: mylisz AGI z ASI

[Sinity]

@timechain: Różnica jest pomijalna

[Sinity]

@timechain:

[Sinity]

@Sinity:

[OranieMaszynowe]

@Sinity: ja #!$%@?. Poziom inteligencji obu nie ma nic do rzeczy. Weź sprawdź definicje czym są. Samoświadomość nie ma nic do tego. Od dawna #!$%@? że ludzie nie mogą zbudować bezpiecznej AGI a o idiotyzm. AGI nie ma nic wspólnego ze świadomością.

I różnica nie jest pomijalna kompletnie. Pretrwnowane transformery są jak najbardziej bezpieczne. Nie myślą samodzielnie w sposób ciągły. Tworzą tylko jednorazowy przebieg przez sieć neuronową po wejściu przez wagi

[OranieMaszynowe]

@Sinity: w ogóle możliwe że trzeba będzie stworzyć do tego ReRAM, gdzie kalkulacja odbywa się w samej pamięci a nie osobnym CPU.

[Sinity]

@OranieMaszynowe: Nie mówię że LLM są samoświadome. Samoświadomość w ogóle niekoniecznie ma jakiś większy związek z inteligencją. Nie mówię też że obecne LLMy są w jakikolwiek sposób niebezpieczne.

Choć zapewne da się coś zrobić na ich podstawie.

Jak napisał jakiś rando na Twitterze

Szczerze mówiąc? Uważam, że Transformery to jest to... Najtrudniejszą sztuczką było stworzenie algorytmu przewidywania "tokena" Xn+1 w kontekście X0...Xn.

Teraz to działa na zasadzie tokeny == słowa.

Ale

[qwe_]

AGI nie ma nic wspólnego ze świadomością.

@OranieMaszynowe: A skąd ty to możesz wiedzieć? Bredzisz jak zwykle.

Niebezpieczna osobliwość nigdy nie powstanie na takim modelu.

Wiesz czym są układy neuromorficzne? No właśnie, to może się dokształć zanim zabierzesz kolejny raz głos w tej kwestii.