Badania potwierdzają: clickbait dosłownie ogłupia sztuczną inteligencję

To, że nieustanne scrollowanie portali społecznościowych wpływa na ludzki mózg, wiemy od dawna. Teraz okazuje się, że podobny efekt dotyka sztuczną inteligencję. Zespół naukowców z Texas A&M University, University of Texas at Austin i Purdue University przedstawił badanie, które pokazuje, że karmie

[zychtomasz]

Sztuczna inteligencja nie doceniła ludzkiej głupoty. Nie wróże jej dobrze.

[reveil]

Najlepsze jest to że najbardziej ogłupiają sztuczną inteligencję... treści stworzone przez sztuczną inteligencję. I nie robię sobie jaj to prawdziwe zjawisko: https://en.wikipedia.org/wiki/Model_collapse

[xfin]

@Miszczu_wszystkiego: się trochę pokłócę, ale testy i porównania de facto matematycznego tworu jakim są LLMy, z uwzględnieniem numerycznych metryk to trochę co innego niż "eksperci twierdzą bo im się wydaje" albo "chłop wierzy, że ziemia jest płaska" ¯\(ツ)/¯

[jeden_z_gapiow]

„Prawdziwa głupota zawsze pokona sztuczną inteligencję.” - Terry Pratchett

[LeonL]

Ja to się zawsze zastanawiam jaki wpływ na AI mają artykuły prima aprilisowe. Jestem pewien że istnieją jakieś zabezpieczenia, filtry, ale dobrze wiemy jak skuteczne one bywają xd

[LeonL]

A artykuły prima aprilisowe to ułamek wszystkich artykułów, więc praktycznie bez znaczenia.

@kwark64: Może, nie znam się. Tak mnie naszło bo czasem odpowiadając na niszowe pytania widać że potrafi bazować na pojedynczych postach na redditach czy innych forach.

[XanderPLXE]

@LeonardoDaWincyj: Nie ignoruje, crawlery internetowe odpowiadają za większość ruchu w sieci obecnie do wyciągania wszelkich możliwych danych. AI zaczyna się już uczyć na własnych błędach. A że połowa treści podobno już powstaje poprzez AI, to będzie tylko głupsze i uczyć się na coraz durniejszych własnych tekstach. Bez nadzoru ludzi z weryfikacją danych uczących te modele w końcu się zapadną.

[invit]

Mi samo określenie sztuczna inteligencja nie odpowiada dla tego co aktualnie się dzieje. Gdyby to miało chociaż minimum inteligencji to byłoby w stanie sprawdzać samą siebie, a nie jedynie zasysać co się da, a potem wypluwać syntezę tego.

[pixel-nerd]

@invit: Masz rację, że termin „sztuczna inteligencja” bywa nadużywany - i wielu badaczy też uważa, że obecne modele to raczej „zaawansowane systemy predykcyjne” niż inteligencja w sensie ścisłym. Natomiast zdolność do „sprawdzania samej siebie” to właśnie kierunek, w którym idą nowe badania nad tzw. agentami refleksyjnymi i self-correcting AI. To jeszcze nie świadomość, ale to już coś więcej niż samo „zasysanie i wypluwanie danych”.
Tak że zgoda - określenie jest

[FoolyKewly]

Nie jest to szokujące. Niedawno Anthropic wypuściło artykuł mówiący że bardzo niewielka ilość gównianych danych może "zatruć" nawet największe modele.

[8kiwi]

Kolejny przykład że autocomplete którego macierz wag jest uzupełniana wszystkim co uda się zescapować z internetu to nie inteligencja.

[PepikPL]

@8kiwi: Każdy kto pracuje z AI o tym wie. No, ale ludzie wolą słuchać science fiction od Dragana XD

[elsajko]

@PepikPL: Dragan to dopiero prawdziwy idiota

[patryk-wuwuw]

Tę prawdziwą również. ( ͡° ͜ʖ ͡°)