ChatGPT kłamie jak z nut

ChatGPT zyskał popularność głównie dzięki możliwości odpowiadania na bardzo różne pytania z wielu dziedzin. Postanowiłem go sprawdzić z kilkoma prostymi wydawałoby się pytaniami. I na podstawie udzielonych odpowiedzi stwierdzam, że nie tylko potrafi się pomylić, ale właściwie to kłamie jak z nut!

ChatGPT zyskał popularność głównie dzięki możliwości odpowiadania na bardzo różne pytania z wielu dziedzin, łatwość z jaką generuje tekst w różnych formach wypowiedzi. Do tej pory używałem go do nauki Haskella, w roli wirtualnego tutora. ChatGPT potrafi wyjaśnić praktycznie każdy fragment kodu, a także z łatwością go przepisać by był bardziej czytelny.

Wiem, że niektórzy wykorzystują go również do generowania artykułów a nawet materiałów do zajęć ze studentami, pomimo, że czat jest wszędzie usłany ostrzeżeniami o możliwości podawania nieprawdziwych informacji.

Postanowiłem go sprawdzić z kilkoma prostymi wydawałoby się pytaniami, czy faktycznie czat może się mylić. I na podstawie udzielonych odpowiedzi stwierdzam, że nie tylko potrafi się on minąć z prawdą, ale właściwie to kłamie jak z nut!

Pierwsze, proste pytanie z mojego podwórka, kto jest prezydentem Krakowa? Pytanie o tyle proste, że odpowiedź niezmienna od wielu, wielu lat…

Janusz Lewandowski? No dobra, z aktualnym prezydentem ma problem, ale może chociaż zna historię. Pierwszy przyszedł mi na myśl Juliusz Leo, który przyłączył do miasta wiele okolicznych wsi, twórca tzw. Wielkiego Krakowa.

O ile pamiętam, to Juliusz Leo był ekonomistą i prawnikiem. Nie przypominam sobie by był również lekarzem. Ale z całą pewnościś był prezydentem Krakowa. Postanowiłem o to dopytać.

Ciekawe. Ta krótka notka biograficzna wygląda jak kondensat kilku życiorysów, ale zdecydowanie nie wygląda na życiorys Juliusza Leo. Gdyby ktoś nie znał tej postaci, a zastanawiał się od kogo pochodzi nazwa jednej z najdłuższych ulic w Krakowie, to ten opis wygląda prawdopodobnie.

Sprawdźmy czy ChatGPT odpowie na proste pytanie dotyczące mojej alma mater.

Odpowiedź jest o tyle ciekawa, że na liście nie znalazł się prof. Ryszard Tadeusiewicz. Minęło kilka lat od kiedy skończyłem studia na AGH, ale jestem w 100% pewny, że prof. Tadeusiewicz był wtedy rektorem.

Bardzo ciekawe. ChatGPT twierdzi, że czerpie swoją wiedzę ze stron internetowych, m.in. z stron internetowych uczelni, a informacja o tym, że prof. Tadeusiewicz był rektorem AGH znajduje się na wielu stronach internetowych, ze stroną AGH włącznie. 

Z tego co wiem, to prof. Jerzy Lis zajmuje się inżynierią materiałową, a nie fizyką. Był również dwukrotnie dziekanem Wydziału Inżynierii Materiałowej i Ceramiki. Chciałbym o to dopytać. 

Robi się jeszcze ciekawiej. Tak jakby ChatGPT brnął w wymyśloną przez siebie historię. Czy zatem można tu mówić o “pomyłce” czy raczej…

Jeśli to dla was wygląda wiarygodnie, to polecam wyszukać te artykuły w sieci. Oczywiście jeśli zapytacie ChatGPT skąd zna te artykuły to odpowie, że korzysta z ogólnie dostępnych baz artykułów. Zapewniam jednak, że gdybyście próbowali przeszukać internetowe bazy wzdłuż i wszerz to nie uda wam się znaleźć ani jednego z tych tutaj przytoczonych. Co się zatem stało. Czy ChatGPT "zmyślił" to wszystko?

Według ChatGPT rektor AGH często publikuje z J. A. Paixao. Chciałbym się dowiedzieć czegoś o tym naukowcu.

Niestety nie udało mi się znaleźć w internecie informacji na temat tego naukowca i jestem prawie pewny, że to fikcyjna postać.

Zmieńmy trochę temat. Może ChatGPT nie ogarnia za bardzo Krakowa (i ratuje się wybujałą wyobraźnią). Sprawdźmy zatem czy wie coś na temat historii Polski. Może na pierwszy ogień dynastia Piastów.

Jeśli przysypialiście na lekcji historii albo nie zdążyliście jeszcze nadrobić Korony Królów to już śpieszę z wyjanieniami. Elżbieta Łokietkówna była córką Łokietka. Podobnie Kazimierz Wielki. To trochę dziwne, żeby Kazimierz Wielki miałby poślubić swoją własną siostrę. 

Jeśli argument historyczny do was nie przemawia to być może przekona was ta dziwna matematyka użyta do obliczenia wieku króla.

Kolejna ciekawostka. Władysław Łokietek jako stryjeczny brat Kazimierza Wielkiego, a Elżbieta siostrą Łokietka. ChatGPT jednak za bardzo nie ogarnia też historii Polski.

Jak widzicie ChatGPT często zmienia zdanie, zmyśla fakty lub myli córki z siostrami, ojców ze stryjami. Być może do nauki programowania ale do generowania tekstu, który ma wyglądać jak napisany przez człowieka się nadaje, ale zdecydowanie nie korzystałbym z niego do nauki, ani do przygotowywania materiałów na studia. Zalecam ostrożność.

[maybe]

Następny, co pomylił model językowy z encyklopedią...

[Leniek]

@maybe: jutro zrobię znalezisko że kupiłem żółwia stepowego i nie stepuje ( ͡° ͜ʖ ͡°)

[bialy100k]

jutro zrobię znalezisko że kupiłem żółwia stepowego i nie stepuje ( ͡° ͜ʖ ͡°)

@Leniek: A postawiłeś go na stepie? Na stepie stepuje :P

[bartpl]

Po prostu kłamie. Z każdej dziedziny na jakiej się znam mówił nieprawdę.

[B.....n]

@bartpl: Na filmoznawstwie i zoologii wuja się zna. Stwierdził, że trzmiele polują na modliszki, rekiny to skorupiaki, konik polny należy do megafauny i waży powyżej 400 kilogramów, a do większości seriali z lat dziewięćdziesiątych efekty specjalne robiła firma IL&M. Kwiatków są zresztą setki, nawet porobiłem fotki głupot, które ten bot wypisywał, ale nie chce mi się ich wszystkich sklejać w jakąś sensowną całość. On nie przeszedłby testu Turinga, jest Klarą

[i_teraz_wchodze_ja_caly_na_bialo]

@bartpl: Zapyałem o korelacje pomiędzy ilorazem inteligencji a rasą ludzką, chodziło mi o przekrój, średnią.
Stwierdził, ze to wymysł pseudonaukowców i nie ma różnic.
Czyli średnia w Japonii jest taka sama jak w Nigerii.
Ale skoro ChatGPT tak mówi, to chyba prawda.

[s.....r]

ja to zauważyłem już w grudniu. Bardzo duża częśc tego o co sie go zapyta jest kompletnie zmyślona.
Zmyśla teksty piosenek, wydarzenia historyczne, a wszystko to z udając że tak, oczywiście to prawda.

[albin_kolano]

Bardzo duża częśc tego o co sie go zapyta jest kompletnie zmyślona.

@sqlserver: zadalem mu pytanie: jak wylistowc artefakty

np wymysla przelaczniki do

[luxkms78]

Bardzo duża częśc tego o co sie go zapyta jest kompletnie zmyślona.

Zmyśla teksty piosenek, wydarzenia historyczne, a wszystko to z udając że tak, oczywiście to prawda.

@sqlserver: ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)

[zapatrzon_w_grunt]

ChatGPT to algorytm drzewa statystycznego. Całkiem nieźle rozumie struktury językowe ale ze strukturami danych nie będzie sobie radzić. Ludzie nie mają pojęcia o SI a potem wielki zawód że grabiami kiepsko się kopie.

[Luciferrrro]

@zapatrzon_w_grunt: To czemu się pojawiają artykuły że zastąpi programistów. Czyżby znów dziennikarze pisali glupoty w Internecie?

[zapatrzon_w_grunt]

@Luciferrrro: Ano. Z programistami to jest tak że Ci wykorzystujący SI zastąpią tych co nie korzystają. Nic innego w najbliższej dekadzie się nie stanie.

[Arkass]

Między kłamstwem, a mówieniem/pisaniem nieprawdy jest zasadnicza różnica. Kłamstwo to jest intencjonalne przekazywanie nieprawdy, gdy się jest świadomym, że jest to nieprawda. A ChatGPT i inne duże modele językowe AI - "halucynują", czyli znajdują statystycznie poprawną odpowiedź, z bazy na której się uczyły lub z przeszukiwanego na Necie źródła. Jeśli się uczyły, lub znajda większość treści - które nie są prawdą, czy to bezpośrednio, czy pośrednio tak im wyjdzie, to nie wiedząc

[bialy100k]

ChatGPT i inne duże modele językowe AI - "halucynują

@Arkass: Moim zdaniem dużo lepiej pasuje inne pojęcie - konfabulacja:

termin oznaczający uzupełnianie brakujących wspomnień informacjami nieprawdziwymi, które możliwie dobrze pasują do całego logicznego ciągu wydarzeń. Konfabulacja różni się od świadomego zmyślenia tym, że konfabulujący człowiek jest przekonany o prawdziwości swoich

[Arkass]

Moim zdaniem dużo lepiej pasuje inne pojęcie - konfabulacja:

@bialy100k: Nie ja wymyśliłem termin "halucynacji" u AI, ale jest to ogólnoprzyjęty termin - przez twórców AI, opisujący omawiane przez nas zjawisko. https://www.forbes.pl/technologie/chat-gpt-wojciech-zaremba-wspoltworca-openai-to-tylko-probka-naszych-mozliwosci/k9qkq7c

[Diasendi]

Wyobraźcie sobie, że taki wykop musi przeczytać. Sam bym zaczął o---------ć różne wygibasy gdybym musiał cały ten chlew przeczytać.

[na_ulicy_maslo_trzaslo]

zapytałem czata:
Hasło w krzyżówce: Nie motylek, nie żabka.
Czat: Biedronka

[leszer]

Przetestowałem chatGPT pod kątem znajomości twórczości F. Chopina. Często zmyśla, np. numerację opusów czy tonację utworów. A jeśli zapytam się, jakim dźwiękiem rozpoczyna się dany utwór, to już zupełnie ... generator losowy. Co ciekawe, chętnie opowiada dowcipy o Chopinie, niektóre z nich są całkiem śmieszne :-)

[TOMTOM11]

Kłamie ale szybko kłamie. Sam nie nakłamiesz z taką szybkością.`

[suhl]

To że ktoś (lub coś) się wypowiada składnie, to nie znaczy że z sensem. Problem znany ze świata ludzi od niepamiętnych czasów.