[JamesJoyce]

Naukowcy ze Stanford opublikowali ciekawy artykuł w którym wskazują, że "emergentnte" własności modeli językowych (czyli takie, które pojawiają się niesopodziewanie, a których nie obserwuje się w mniejszych modelach) znikają po zastosowaniu innego sposobu pomiaru tych zdolności. W praktyce oznacza to, że można wybrać sposób pomiaru, który będzie sugerował że model posiada emergentne zdolności.

https://arxiv.org/pdf/2304.15004.pdf

Cytując:
"Ergo, emergentne zdolności mogą być wytworami wyborów badacza, a nie fundamentalną właściwością rodziny modeli na konkretnym zadaniu".

Czemu takie działanie może służyć? Oczywiście marketingowi. Udawaniu, że modele językowe posiadają "iskry" ogólnej SI (artykuły MS nie da się zreplikować) , lub że emergentnie nauczyły się języka, którego nie ma w danych treningowych (oczywiście był w danych treningowych).

#programowanie #programista15k #datascience #sztucznainteligencja

[WaveCreator]

@JamesJoyce: Czekam aż ktoś odkryje, że nagły "skok jakościowy" GPT pokazany w ostatnich miesiącach był marketingową szopką obliczoną na przyciągnięcie inwestorów i podbicie wartości firmy ( ͡° ͜ʖ ͡°)

[JamesJoyce]

@WaveCreator: modele językowe są produktem, więc moim zdaniem nie jest to wykluczone.

[D.....t]

@WaveCreator: już sam zespół Microsoft wykazał że GPT 4 jest bardzo ograniczony https://arxiv.org/pdf/2303.12712.pdf Opracowanie na 155 stron więc mało kto czyta, z czego większość to bardziej zachwyty, naga bolesna prawda jest przedstawiona na stronach 76-101, mało kto to przeczytał.
https://wykop.pl/wpis/71222045/cytuje-chatgpt-jest-daleki-od-doskonalosci-i-ma-wi

[D.....t]

Czemu takie działanie może służyć? Oczywiście marketingowi. Udawaniu, że modele językowe posiadają "iskry" ogólnej SI (artykuły MS nie da się zreplikować)

@JamesJoyce: https://arxiv.org/pdf/2303.12712.pdf Przeczytaj strony 76-101, tam jest sama naga prawda, bardzo bolesna dla ich modelu.

Przetłumaczone https://wykop.pl/wpis/71222045/cytuje-chatgpt-jest-daleki-od-doskonalosci-i-ma-wi