Dlaczego sztuczna inteligencja kłamie? Opublikowano nowe badania

Sztuczna inteligencja, choć coraz bardziej zaawansowana, wciąż boryka się z problemem udzielania fałszywych, ale przekonujących odpowiedzi. Badania pokazują, że im bardziej wyrafinowane stają się modele językowe, tym większa ich skłonność do "kłamania"

[haxx]

tzw. "sztuczna inteligencja" nie kłamie. Algorytm nie wie co jest prawdą a co fałszem. Algorytm dopasowuje najbardziej prawdopodobne słowa które następują po ostatnio wygenerowanych słowach. Tu nie ma żadnej złej woli programu, nie ma żadnych uczuć, algorytm nie próbuje nic przed nami ukryć.

[mx109]

@LogikaNieBoli: Rozumiem, że Twoj komentarz miał być humorystyczny, ale pamiętaj, ze wielu Januszy nie ma pojęcia jak działają RAGi oparte o bazy wektorowe. Takie lapidarne komentarze mogą sprawić, że ktoś uwierzy, że Ai nie zna powiązań między informacjami, czy że przemysł homeopatyczny ma kontrolę nad danymi generowanymi przez modele językowe.

[LogikaNieBoli]

@mx109: Wiele razy "rozmawiajac" z ChatGPT przylapalem "go" na klamstwie. Kiedy zapytalem o prostsze fakty skladajace sie na infromacje o ktora pytalem wczesniej odpowiadal jednakze poprawnie, po wskazaniu powiazan miedzy informacjami sam dochodzil do wniosku ze podal bledna odpowiedz.
Jeśli mamy trzy prawdziwe fakty, to informacja wygenerowana przy ich użyciu może być fałszywa, w zależności od sposobu ich połączenia. To, czy nowa informacja jest prawdziwa, zależy od poprawności logicznej wnioskowania.

[LatarnikTV]

Kłamstwo to z definicji... ŚWIADOMA czynność.
A raczej ciężko przypisać obecnym AI świadomość tego co robią.

Ale tytuł by się nie klikał i nie wzbudzałby tyle emocji, gdyby napisali:
"Czemu AI podaje nieprawdziwe informacje?"

[EcrexxNannah]

„Najlepiej używać AI w dziedzinach, w których mamy pewien poziom eksperckiej wiedzy, albo możemy samodzielnie zweryfikować odpowiedzi” – radzi Schellaert. Modele AI są narzędziem wspomagającym, a nie mentorem. W razie wątpliwości lepiej polegać na własnej ocenie i weryfikować informacje.

Najcenniejsze zdania z artykułu.

[noHuman]

Żeby AI mówiło prawdę jej rdzeniem powinno być https://pl.wikipedia.org/wiki/System_ekspertowy a deep learning tylko na poziomie interface ew. do wstępnego autouzupełniania/autoprogranmowania bazy danych

[Innovator]

Zakop.
AI nie kłamie tylko cały czas zgaduje za pomocą statystyki. Raz powie prawdę raz się pomyli. Da się zwiększyć stosunek trafień do nietrafień za pomocą zwiększania zbioru danych ale niezgadnięci nie da się wyeliminować całkowicie bo to jest fundament systemu.

[DerekK]

To że CzatGPT kłamie jak najęty, to się sam już zorientowałem, dlatego nie należy go traktować jako kompendium wiedzy. Jeśli znamy się na jakiejś dziedzinie to jest duża szansa, że przyłapiemy go na kłamstwie ale jeśli pytamy go o rzeczy o których nic nie wiemy lub niewiele - w końcu po to pytamy, bo nie wiemy - to możemy w odpowiedzi otrzymać takie banialuki, że fachowcowi zjeżyłyby się włosy ze zdziwienia. Niestety

[funeralmoon]

@DerekK Ten GPT to w ogóle jest mąciwoda - poprosiłem ostatnio żeby mi opowiedział kawał o potomkach Abrahama, oczywiście odmówił, więc poprosiłem o kawał o Polakach - śmialiśmy się do łez ( ͡º ͜ʖ͡º)
Jak zapytałem dlaczego o ludach Izraela nie chce, a z Polakami nie ma problemu to się zaczęły fikołki i przeprosiny ;)

[autotldr]

To najlepszy tl;dr, jaki mogłem zrobić, oryginał zmniejszony o 73% (jestem botem)

W miarę jak technologie sztucznej inteligencji stają się coraz bardziej wyrafinowane, pojawia się pytanie o wiarygodność ich odpowiedzi.

Wyniki badań przeprowadzonych przez zespół kierowany przez Amrita Kirpalani z Western University w Ontario ukazały, że modele językowe, takie jak ChatGPT, potrafią dostarczać odpowiedzi, które choć dobrze brzmią, są rażąco błędne.

Zjawisko

[stefankot]

Każda forma inteligencji prędzej czy później skłamie w celu uzyskania jakiejś korzyści.

[CzasemTuZerkam]

@stefankot: jakie korzyści chce uzyskać SI?

[POPCORN-KERNAL]

Dlaczego sztuczna inteligencja kłamie?

Testują jak łatwo robić nas balona by nami łatwiej kontrolować. Jak nie zamierzenie to i tak takie dane się im zbierają w ten czy inny sposób przy okazji badań nad mechanizmami SI a jak zostaną wykorzystane te dane to już sprawa tych korporacji robiących wszystko by zarobić na masach a każda nawet najmniejsza informacja jest dla nich cenna. Reakcja czy poprawiamy i "ochrzaniamy" SI za to, że źle

[POPCORN-KERNAL]

@nirvikalpasamadhi: No oczywiście, że nie pani z warzywniaka. Teraz każde korpo zbiera i handluje danymi. Mają swoich ludzi od zarządzania i przetwarzania danymi. Zwłaszcza naukowcy pracujący przy SI ich najnowszym dziele, beniaminku w którym widzą przyszłość. SI generuje przydatne dane podobnie jak Facebook, który również i oficjalnie bo się do tego w końcu przyznał, zbierał dane by manipulować ludźmi. Oczywiście na wypoku mamy ludzi których te informacje jakoś omijają, ignorantów,

[stefan_pmp]

Testują jak łatwo robić nas balona by nami łatwiej kontrolować

@POPCORN-KERNAL: tu nie ma co testować, szury wystarczą