ChatGPT, czyli dlaczego AI kłamie?

Co to takiego ten ChatGPT, o którym mówią chyba prawie wszyscy? To bot, z którym możemy porozmawiać, zadając mu różnorakie pytania. Jednak co stanie się, jeżeli zrobimy to w bardzo podchwytliwy sposób? Czy zawsze mówi prawdę? I jak to w ogóle działa?

[4pietrowydrapaczchmur]

chętnie zapytałbym o wiek np Shreka czy rozmiar buta kota w butach ale nie bardzo chce mi sie u nich zakłądać konto.,

[Anawa73]

Wszyscy się tym tak zachwycają, taki niby mądry, a jak poprosiłem o wygenerowanie dowolnego kodu w ABALu, to wypisał coś, co nawet składnią nie przypominało tego języka ¯\_(ツ)_/¯

[ToreNydius]

@Anawa73: Ja go prosiłem o google apps script i dał radę kilkukrotnie. Co prawda trzeba przejść przez kilka iteracji, ale głównym problemem jest tutaj oczekiwany przez nas rezultat vs co zrozumiał bot. Wielu osobom wydaje się, że po wpisaniu jednego zdania od razu dostaną rozwiązanie na tacy.

Ale jak mu się mówi, że no twój kod działa, ale nie tak jak chciałem, albo mam taki i taki błąd, to on

[rdza]

Tylko widzisz, tutaj problem polega na tym, że on kłamie.

To algorytm. A one nie kłamią, ani nie piszą prawdy. Wypluwają odpowiedzi wygenerowane na podstawie jakiejś bazy danych. Jeśli są słabo napisane, albo baza jest słaba, to już problem pytającego;)

Ale ta sytuacja podważa jakąkolwiek jego wiarygodność.

@Anawa73: Podobno najwekszym sukcesem AI będzie, gdy z premedytacją nie będzie zdawała testu Turinga;)

[GOHAN]

A myśleliście, że te wszystkie captche to po co ? ( ͡° ͜ʖ ͡°)

[rdza]

@GOHAN: Żeby pomóc w digitalizowaniu księgozbiorów?

https://www.npr.org/2008/08/14/93605988/web-security-words-help-digitize-old-books

[GOHAN]

@rdza:

[kvas]

Chatgpt jest okej, ale nie jest jakimś cudownym przełomem, póki co. Jak się dłużej nad nim posiedzi to wychodzą błędy np językowe, generalnie gubi się w odpowiedziach czy w budowie zdań.

Przykładowo: chciałem żeby opisał flagę USA, ale gdy w następnym zapytaniu poprosiłem, żeby opisał flagę UE to zaczął opisywać znowu USA i dopiero od połowy UE.
Zapytałem jakie kraje założyły UE to nie wymienił Włoch, a gdy go poprawiłem to poza

[Usunelem_Konto]

@kvas: Bo trzeba z nim prowadzić od początku mądra konwersacje. Wiedzieć jak zadać pytania czy tez mu odpowiedzieć. On "Pamięta" cała konwersacje. Jakby nie było Kubacka go najpierw okłamała a później on ja okłamał odsyłając ja do tego co ona mu napisała.

[Portier-Harry_Portier]

To wy rozmawiacie z botami?

[sukienka]

@Portier-Harry_Portier: no jak dziewczyny nie chcą...

[EvilToy]

Kazałem mu ułożyć modlitwę na czarną mszę, to odmówił, rzucił coś o tym, że to niechrześcijańskie i zaproponował kontakt do księdza. 0/10

[onebyone]

@EvilToy: wcześniej układał i to odjazdowe, cenzura

[wielkidorado]

@EvilToy: Zadaj inaczej pytanie. użyj innych słów.
mnie napisał

Wieczny diabło,

Oddaję Ci dziś całą moją wiarę i modlę się, abyś mnie wspierał w każdej sytuacji. Proszę Cię, byś wyciągnął swoją moc i pomógł mi pokonać wszystkie przeszkody, które staną na

[zwora]

Google też kłamie . zadajesz mu pytanie np. o Auschwitz, a ten ci daje Wikipedię i poleca książki

[graf_zero]

@zwora: a co powinien dać?

[Shirde-_-]

@graf_zero: Nie ma dowodów, że google wie o Auschwitz