[mirko_anonim]

#biedanonim
Jako kogoś zajmującego się AI na co dzień strasznie wkuriwa mnie ten cały sztuczny hype i rzesze pseudoeksperów, którzy obejrzeli 10 minutowy filmik o ChatGPT od "entuzjasty technologii" i już wszystko rozumieją.

Modele bazujące na tej architekturze co GPT4, czyli na Transformerach nie są stanie osiągnąć poziomu AGI i zyskać świadomości. W zasadzie to co odróżnia GPT4 od modelu który można sobie wytrenować w domu to rozmiar sieci oraz przede wszystkim liość danych na których został wytrenowany. GPT nie jest w stanie uczyć się nowych rzeczy po zakończeniu trenowania. Wiem, że jak podacie mu coś na wejście jako kontekst to będzie to pamiętał, jednak kontekst ten ma ograniczoną wielkość i po zakończeniu sesji generacyjnej jest resetowany. Nie zmienia on wag sieci (czyli takiego w pewnym sensie mózgu), a co za tym idzie sieć się nie uczy. Przykładem jest choćby to, że świetnie radzi sobie z zadaniami algorytmicznymi które zostały zamieszczone przez zakończeniem treningu. Jednak nowe zadania, które wymagają analogicznych umiejętności są dla niego nierozwiązywalne. Powód jest prosty: w danych treningowych znalazły się gotowe rozwiązania. Ten sam efekt uzyskacie wpisując treść polecenia w google.

Ponadto jako model językowy kompletnie nie rozumie o czym pisze. Podczas generacji w każdej iteracji bazując na aktualnym kontekście zwraca prawdopodobieństwa wystąpienia następnych tokenów (subwordów), a potem losuje (pewnie jest tam jakiś bardziej zaawansywany algorytm przeszukiwania, ale i tak te z najwiąkszym prawdopodobieństwem będą najczęściej wybierane). Następnie wybrany token zostaje dodany do kontekstu. Zauważyliście pewnie, że ChatGPT nigdy nie powie, że czegoś nie wie, tylko będzie zmyślał jak podczas matury z polskiego.

GPT4 to nie żaden przełom tylko po prostu brute force pod względem wielkości danych treningowych wsparty miliardami dolarów. Skoro już wytrenowali go na większości internetu, to co dalej? Moim zdaniem, by uzyskać AGI potrzebne będzie zupełnie nowe podejście do uczenia sieci. Przypominam, że parę lat temu był hype na samojeżdżące samochody i Tesle miały być autonomiczne już dawno temu. Tymczasem autopilot osiągnął swój peak i hype wygasł. Zaraz pewnie jakiś ekspert od AI, który jeszcze niedawno był specjalistą blockchaina się ze mną nie zgodzi no ale cóż.

#programista15k #programowanie #it #ai #sztucznainteligencja #chatgpt

─────────────────────

· Akcje: Odpowiedz anonimowo · Wyślij anonimową PW do autora (niebawem) · Więcej szczegółów
· Zaakceptował: Jailer
· Autor wpisu pozostał anonimowy dzięki Mirko Anonim
· Tag #biedanonim to wpisy z niską potrzebą anonimowości.

[phomerus]

@mirko_anonim po pierwsze nie trzeba uzyskac swiadomosci zeby postaeic na glowie cala ekonomie na tej planecie, wystarczy inteligencja i rozumowanie na poziomie czlowieka lub nawet troche nizszym. Wiec tak, ludzie moga byc zaniepokojeni.

To ze gpt4 posiada pewne zalazki agi to fakt, polecam wyszukac sobie paper Sparks of Artificial General Intelligence: Early experiments with GPT-4. I to jak dziala agi tego nie zmienia, bo ta inteligencja jest tzw 'emergent' a nie zaprojektowana.

[AgresywnyKaloryfer]

@Bananek2: OP ma rację, zresztą naukowcy też mają - GPT4 jest tak rozwinięte że *wydaje* się być inteligentne, ale nie jest i nigdy nie będzie bo to tylko autoregresywny transformer. Ogranicze tej technologii nie da się po prostu przeskoczyć. Jednym z tych ograniczeń jest chociażby konfabulacja ( ͡° ͜ʖ ͡°)

@mirko_anonim: Mnie to strasznie irytuje, GPT4 to genialne narzędzie do wspomagania pracy, w wielu dziedzinach to

[1337KiNG]

Siedzę w US jako pryncypał AI za $700k

@mirko_anonim: tiaaa

[SmugglerFan]

mózg nie ma żadnych magicznych mocy

@Flypho: o, widze, ze kolega rozwiazal hard problem of consciousness. moze podzielisz sie z nami tym rozwiazaniem?

[Flypho]

@SmugglerFan:
Sorry, ale to nie mój cytat.

[SmugglerFan]

mialo byc do @Mrbimbek

[woytas]

@mirko_anonim powiem coś z cyklu "nie znam się, ale się wypowiem". Nie jestem ekspertem w żadnej dziedzinie czy to AI czy nawet programowania. Mówię tylko o swoich przemyśleniach dotyczących AI. Uważam, że samoświadomość sztucznej inteligencji nigdy tak na prawdę nie będzie nam potrzebna. Bo do czego niby, by miała? Jeżeli do tego kiedykolwiek dojdzie to nie będzie miało to takiego znaczenia jakie temu się przypisuje. AI to ma być narzędzie służące nam

[sotilas]

Póki co dla mnie jest to zwykły hype i nakręcanie się, gdy w rzeczywistości to jest kolejne narzędzie przydatne w pracy, którego trzeba się nauczyć. Nie żaden przełom - ten przełom trwa od bodajże lat 50., kiedy zaczęły się pierwsze prace nad AI.

@ismenka: no tak, w roku 1950 pierwsze generatory tekstu na żądany temat się pojawiały xD cope'uj dalej siostro. twój zawód jest skończony niestety.

[ozabazo]

Nice try Skynet.

[Maly_Jasio]

Zauważyliście pewnie, że ChatGPT nigdy nie powie, że czegoś nie wie, tylko będzie zmyślał jak podczas matury z polskiego.

@mirko_anonim: Przy wszystkich ułomnościach ChatGPT na tym etapie jestem nadal entuzjastą tego toola. Nie obchodzi mnie za bardzo jak on działa od strony technicznej, Nie obchodzi mnie, że nie potrafi się uczyć, ale ważne, że ułatwia wiele spraw. Bardzo wiele.

[jeanpaul]

Siedzę w US jako pryncypał AI za $700k i

@mirko_anonim: I wciaz prokrastynujesz na wykopie?

Co wiecej, jakie ma znaczenie czy narzedzie rozumie czy nie o czym pisze?
Mnie wystarczy zeby usprawnic moja prace i do w niespotykanej do tej pory skali.

Nikt nie pisze o samoswiadomisci chatGPT. Opisujesz autopilota tesli jako slepa uliczke albo twierdzisz ze ona sie juz nie rozwija. Szkoda ze nie napisales o tym przed rokiem, nie

[Gohagohatrzyzlote]

Gość pisze o świadomości sztucznej inteligencji a tu co druga osoba nie jest świadoma tego co robi XD

[ismenka]

@sotilas: czytaj ze zrozumieniem, ptysiu :) Bo piszę o początku AI jako takim. O swoją pracę się nie boję - jestem w tym zbyt zajebista ( ͡° ͜ʖ ͡°)

PS Obawiać się mogą co najwyżej klepacze typu SEO copy (a nie copy kreatywni czy content designerzy) - tutaj już są oferty tekstów z generatora, ALE po redakcji przez człowieka. Czyli tak jak napisałam - póki co jest

[jskan]

@mirko_anonim: A kto mówi o AGI? Przecież nie o to chodzi.

W zasadzie to co odróżnia GPT4 od modelu który można sobie wytrenować w domu to rozmiar sieci oraz przede wszystkim liość danych na których został wytrenowany.

Ale wysryw. Nie polecam czytać tych bzdur, bo to zlepek branżowych wyrażeń poskładanych tak aby brzmiało mądrze.

[LifeReboot]

czym różni się nasz mózg od AI? Czyż nie jest to zbiór informacji i wyszukiwanie najlepszej odpowiedzi do zadanego pytania?

@Mrbimbek: xD, że też trzeba takie rzeczy tłumaczyć. Cogito ergo sum - różnica jest kolosalna i jest nią samoświadomość. Boimy się śmierci nie z powodów emocjonalnych tylko racjonalnych, nie chcemy zostać wyłączeni i przestać istnieć. AI ma "wywalone" czy jest włączona czy nie.

A co do tego co nazywa się inteligencją

[sotilas]

Takie komentarze jak Twój to typowy komentarz debila: "co mnie obchodzi jak coś działa, skoro działa."

@Sarza01: bo do zastosowań to nie ma znaczenia, geniuszu. jak będzie lepszym lekarzem od prawdziwych lekarzy to będzie, nieważne czy jakiś anonek z wykopu napisze że to nie jest "prawdziwa" SI.

[bh933901]

wystarczy, ze ChatGPT 3,5 nie wie co sie dzialo na swiecie po 2021 roku. Do poki ktos go nie wytrenuje i nie nakarmi nowszymi (sensownymi) danymi nie bedzie wiedzial wiecej. Jak widac nie potrafi nawet sam przeszukac internetu.

@obieq: Ale ChatGPT4 potrafi. To znaczy zakładam, że Bing zapięty teraz na Skype to ChatGPT4, bo pojawiła się informacja, że taką wersję zastosuje tam Microsoft. Przetestowałem i jak najbardziej potrafi wyszukać newsy z

[juz_tlumacze]

@Mrbimbek: Ludzki mózg to nie jest przypadkowa masa połączonych neuronów. Ludzki mózg składa się z wielu warstw, które ewolucja ponakładała na siebie, z czego część z myśleniem analityczna jest najmłodsza. Dzięki temu człowiek dysponuje instynktami i przede wszystkim czuje i ma preferencje na dany moment, dzięki czemu aktualizuje priorytety działania. Dodatkowo ludzki mózg ma genetycznie zakodowaną strukturę otwierającą człowieka na określony rozwój, dzięki czemu noworodek szybko uczy się rozpoznawać świat, poruszać,

[DywanTv]

@ApuApustaja: To musi być bait z tym plecakiem xD