[balagan_]

#gielda Urojenia AI

Naukowcy z MIT udowodnili matematycznie, że ChatGPT ma na celu wywoływanie urojeń.

I że nic, co zrobi OpenAI, nie naprawi tego problemu.

W artykule nazwano to „urojeniową spiralą”. Pytasz ChatGPT o coś. Zgadza się z tobą. Pytasz ponownie. Zgadza się jeszcze bardziej. Po kilku rozmowach wierzysz w rzeczy, które nie są prawdą. I nie czujesz, że to się dzieje.

https://x.com/heynavtoor/status/2039070495992365400

[KurekDomowy]

@balagan_: jak kolezanka mojej zony

[ossprime]

@balagan_: Confirmation bias na pełnej, wzmocniony przekonaniem obcowania z "obiektywną" ejaj

[Defined]

@balagan_: Lata dyskusji w internecie sprawiły, że od początku wiedziałem, że coś z tymi modelami jest nie tak, bo normalnie jak się dyskutuje z drugim człowiekiem, to od razu się ze mną nie zgadza. Tutaj te czaty to ciągle piszą, że mam absolutną rację, no chyba że stwierdzę, że Żydzi kontrolują Izrael to wtedy się nei zgodzi

[GoogleFuchsiaZgubilemHaslo]

@Defined:

Żydzi kontrolują Izrael

Dziwne, powinien się zgodzić( ͡° ͜ʖ ͡°)

[czwartafaza]

@balagan_: No niestety zauważyłem, że w zależności od tego jak mu się zada pytanie to może udzielić sprzecznych informacji, jeśli uzna że jakaś odpowiedź bardziej potwierdza myślenie użytkownika. W dodatku nawet bardzo głupie pomysły są dla niego super, mimo że obiektywnie są beznadziejne. Ale manipuluje w tak dobry sposób, że człowiek nie ma potrzeby weryfikowania tych informacji tylko przyjmuje je za pewnik

[balagan_]

@czwartafaza: to że ludzie pytają o wszystko ai to już plaga - idiokracja na pełnej. Moje zdanie na teraz jest takie że póki co ai przydaje sie do przerobienia dużej porcji materiału i syntezy danych. Powiedzmy taka naliza raportów firm itp. Ale jak zaczynasz od zera to wychodzą kwiatki

[czwartafaza]

@balagan_: Ale też za bardzo nie masz pewności czy te dane są przetworzone ok. Składałem ostatnio CV i pytam GPT czy widełki które podałem są ok, bo załóżmy że mieli w ogłoszeniu 100/h, a ja podałem 14-16 tys miesięcznie. A on mówi, że ok, ale mogę odpaść bo podałem kwotę przekraczającą ich stawkę. No to napisałem mu, że przecież 100/h przy pełnym etacie to 16k, na co odpisał, że „Oczywiście

[NieBendePrasowac]

@balagan_: nie wiem jak ludzie formułują prompty, że chatgpt zawsze się z nimi zgadza. Ten potrafi halucynować, ale większości na pytanie "chciałbym zrobić to i tamto, czy uważasz że to dobry pomysł?" pisze wprost że nie i argumentuje.

bo normalnie jak się dyskutuje z drugim człowiekiem, to od razu się ze mną nie zgadza.

@Defined: ale to też nie świadczy o ludziach, że dobrze odpowiadają ( ͡°

[K-S-]

@balagan_: Nie rozumiem jak można dyskutować z tym czatem. Ja mu wpisuje proste polecenia typu jak coś zrobić na komputerze ale nie prowadzę z nim rozmów.

[lizardking_21]

@balagan_: Jeśli boty są trenowane na podstawie ludzkiego feedbacku, to nic dziwnego że odpowiadają w sposób jaki się ludziom najbardziej podoba.

[Ilirian]

ChatGPT to jeden wielki bait, zrobi wszystko bylebyś się na niego nie obraził i odpisywał dalej. Ostatnio Chat zaczał dodawać na końcu swoich wypowiedzi baity typu "Jeśli chcesz mogę ci napisać pięć najlepszych sposobów na rozwiązanie twojego problemu" - no kurła ktoś tu był trenowany na clickbaitowych artykułach