Laboratoria AGI bawią się tym, jak mówią "AGI": większość ludzi słyszy "hiper-zaawansowany chatbot", a laboratorium ma na myśli coś pokroju boskiego pożeracza galaktyk.
Laboratoria mówią, że ich zdaniem prawdopodobieństwo, że coś pójdzie źle wynosi 5%, a przez to mają na myśli "100% szansy, że ktoś zbuduje boga i 95%, że pójdzie dobrze"; a większość ludzi myśli, że to musi oznaczać, że jest tylko 5% szansy, że możliwe jest zbudowanie
@dafto: To wyścig, który trwa i zapewne który zostanie osiągnięty. Już obecne AI ogarnia ogromny zasób danych. Wiesz, początkowo będzie narzędziem wspomagającym, ale z kolejnym udoskonaleniem będzie się stawało narzędziem zastępującym myślenie. Auta, pralki, kalkulatory nie zastąpiły myślenia a jedynie pozwoliły skupić się na innych rzeczach, natomiast AI ma potencjał zastąpić rozum, czyli człowieka. Będziemy żyć jak w limes inferior
@dafto: No nie mamy, toteż napisałem, że wyścig o jego stworzenie trwa. A przynajmniej nie został stworzony odpowiednik ludzkiego umysłu. Bo czym jest inteligencja? Może mówimy o samoświadomości istnienia? Celu w życiu? Działania z powodu motywacji zapewnionych przez instynkt? Narazie o AI mówimy jak o czymś a nie kimś. Pewnym jest, że kierunkiem rozwoju będzie między innymi skopiować ludzki umysł. To stare marzenie fantastów. Wydaje mi się, że
@dafto: @LateMacchiato Jeśli ją będziemy mieli, niekoniecznie będziemy o tym wiedzieli. Obecnie w chacie gpt jest zaszyty model językowy którego nie znamy a który działa poprzez brute force miliardów połączeń neuronowych. Jeśli kiedyś powstanie SI może działać jak ten model językowy i nie będziemy rozumieć podstaw tego działania.
@Sinity: ja #!$%@?. Poziom inteligencji obu nie ma nic do rzeczy. Weź sprawdź definicje czym są. Samoświadomość nie ma nic do tego. Od dawna #!$%@? że ludzie nie mogą zbudować bezpiecznej AGI a o idiotyzm. AGI nie ma nic wspólnego ze świadomością.
I różnica nie jest pomijalna kompletnie. Pretrwnowane transformery są jak najbardziej bezpieczne. Nie myślą samodzielnie w sposób ciągły. Tworzą tylko jednorazowy przebieg przez sieć neuronową po wejściu przez wagi
@OranieMaszynowe: Nie mówię że LLM są samoświadome. Samoświadomość w ogóle niekoniecznie ma jakiś większy związek z inteligencją. Nie mówię też że obecne LLMy są w jakikolwiek sposób niebezpieczne.
Choć zapewne da się coś zrobić na ich podstawie.
Jak napisał jakiś rando na Twitterze
Szczerze mówiąc? Uważam, że Transformery to jest to... Najtrudniejszą sztuczką było stworzenie algorytmu przewidywania "tokena" Xn+1 w kontekście X0...Xn.
#programowanie #machinelearning #sztucznainteligencja #technologia
@LateMacchiato: najpierw trzeba wynaleźć AI
@dafto: To wyścig, który trwa i zapewne który zostanie osiągnięty. Już obecne AI ogarnia ogromny zasób danych. Wiesz, początkowo będzie narzędziem wspomagającym, ale z kolejnym udoskonaleniem będzie się stawało narzędziem zastępującym myślenie. Auta, pralki, kalkulatory nie zastąpiły myślenia a jedynie pozwoliły skupić się na innych rzeczach, natomiast AI ma potencjał zastąpić rozum, czyli człowieka.
Będziemy żyć jak w limes inferior
@dafto: No nie mamy, toteż napisałem, że wyścig o jego stworzenie trwa. A przynajmniej nie został stworzony odpowiednik ludzkiego umysłu. Bo czym jest inteligencja? Może mówimy o samoświadomości istnienia? Celu w życiu? Działania z powodu motywacji zapewnionych przez instynkt? Narazie o AI mówimy jak o czymś a nie kimś. Pewnym jest, że kierunkiem rozwoju będzie między innymi skopiować ludzki umysł. To stare marzenie fantastów. Wydaje mi się, że
Jeśli ją będziemy mieli, niekoniecznie będziemy o tym wiedzieli. Obecnie w chacie gpt jest zaszyty model językowy którego nie znamy a który działa poprzez brute force miliardów połączeń neuronowych.
Jeśli kiedyś powstanie SI może działać jak ten model językowy i nie będziemy rozumieć podstaw tego działania.
I różnica nie jest pomijalna kompletnie. Pretrwnowane transformery są jak najbardziej bezpieczne. Nie myślą samodzielnie w sposób ciągły. Tworzą tylko jednorazowy przebieg przez sieć neuronową po wejściu przez wagi
Choć zapewne da się coś zrobić na ich podstawie.
Jak napisał jakiś rando na Twitterze
@OranieMaszynowe: A skąd ty to możesz wiedzieć? Bredzisz jak zwykle.
Wiesz czym są układy neuromorficzne? No właśnie, to może się dokształć zanim zabierzesz kolejny raz głos w tej kwestii.