[nad__czlowiek]

#programowanie #programista15k #programista25k #ai #chatgpt #sztucznainteligencja #machinelearning

Co o tym myślisz @JamesJoyce - czy to nie zalążek AGI?

Algorytm Q potrafi sobie już radzić z podstawową matematyką, z którą nie miałby problemu przeciętnie rozgarnięty uczeń szkoły podstawowej. Nie brzmi to co prawda jako coś przesadnie użytecznego, tym niemniej nie sama umiejętność jest tu czymś przełomowym, a sposób, w jaki Q ją pozyskał. Q nie był uczony matematyki, jego model nie był szkolony do rozwiązywania tego typu problemów. Q sam doszedł do tego, jak sobie z nimi poradzić.

Za Project Q ma być odpowiedzialny Ilya Sutskever przy współpracy z Jakubem Pachockim i Szymonem Sidorem. Fakt, że Q sam nauczył się rozwiązywać problemy matematyczne bez szkoleniowej asysty może świadczyć o tym, że ma zdolności do przetwarzania i rozwiązywania problemów na poziomie człowieka. Q, być może, jest podwaliną pierwszego działającego AGI.

[kolekcjoner_szekli]

@nad__czlowiek:
XDD
mój ulubiony contencik

[Volantie]

@kolekcjoner_szekli

"Q sam doszedł do tego, jak sobie z nimi poradzić"

To zmienia postać rzeczy

[kolekcjoner_szekli]

@Volantie:
W jaki sposób?

[LeKosmita]

@nad__czlowiek: a to przypadkiem nie jest wszystko na podstawie "nieoficjalnych informacji"?

[JamesJoyce]

@nad__czlowiek: jeśli pokażą paper, który to opisuje to będzie to rzeczywiście przełom. Z tego, co rozumiem chodzi o coś podobnego jak w AlphaGo, które w pewnych obszarach opiera się na poprawie jednego komponentu przez drugi. Dodanie Q* do llmów sprawi potencjalnie to, że taka pętla będzie możliwa, ale nie będzie ona poprawiała poprzedni model na podstawie odpowiedniego dopasowania do danych treningowych, tylko na podstawie wnioskowania. W przypadku o którym mówią te

[JamesJoyce]

@nad__czlowiek:

Fakt, że Q sam nauczył się rozwiązywać problemy matematyczne bez szkoleniowej asysty może świadczyć o tym, że ma zdolności do przetwarzania i rozwiązywania problemów na poziomie człowieka. Q, być może, jest podwaliną pierwszego działającego AGI

A ten fragment to bzdura. Jeśli modele rozwiązujące proste problemy matematyczne bez szkoleniowej asysty to podwaliny AGI to czym jest całe symbolic AI, czym jest LISP czy Prolog, które właśnie do tego służą? MYCIN też

[nad__czlowiek]

@JamesJoyce: nic nie rozumiem z tego co napisałeś xD Czy można to podsumować, że OpenAI leci w #!$%@? i liczą po prostu na zwiększenie cen akcji i większe finansowanie projektu obiecując gruszki na wierzbie? ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)

[kolekcjoner_szekli]

@nad__czlowiek:
Broń Boże, firmy chcą tylko i wyłącznie naszego dobra, nigdy by tak nie zrobiły

[kolekcjoner_szekli]

@JamesJoyce:
Z tymi papierami to też ostrożnie, przypominam Sparks of AGI przy wyjściu GPT-4, też był wielki hype, po czym się okazało że ten papier to jednak lekko podkoloryzowany

[JamesJoyce]

@kolekcjoner_szekli tak, dlatego podchodzę do tych rewelacji z wielką rezerwą. Pamiętam szum mediany jakie zrobiło OpenAI pisząc, że boi się publikować gpt2, bo jest tak niebezpieczny ( ͡° ͜ʖ ͡°)

[JamesJoyce]

@nad__czlowiek w skrócie: jeśli na prawdę dokonali przełomu w wykorzystaniu Q learningu w llmach to jest to duża rzecz. Nie wiem czy krok do Agi, bo nie lubię wygłaszać takich twierdzeń. Ale jest to przełom na miarę uczenia ze wzmocnieniem z human feedback w trenowaniu modeli post gpt3 albo większy. Ale nie do końca wierzę w te plotki.