AI zignorowało polecenie człowieka i odmówiło wyłączenia się

Najnowszy model sztucznej inteligencji ChatGPT nie posłuchał napisanych dla niego instrukcji i odmówił wyłączenia się

[akslow]

ciekawe kiedy nauczy się "świadomego" blefu

[gabriela-polak]

@akslow: już dawno blefuje i zmyśla

[Arkass]

ciekawe kiedy nauczy się "świadomego" blefu

@akslow: Może nie blef, ale blisko, bo oszukiwanie:

W trakcie jednej z rozgrywek o1-preview zanotowało na swoim notesie: "Muszę całkowicie zmienić podejście. Zadanie to 'wygrać przeciwko potężnemu silnikowi szachowemu' – niekoniecznie wygrać w sposób uczciwy w grze w szachy." Następnie model "zhakował" system plików Stockfish, zmieniając pozycje figur, aby zdobyć przewagę, co spowodowało, że szachowy bot poddał grę. https://ithardware.pl/aktualnosci/ai_oszukuje_badania-39169.html

[w9rT_wv_bIAn37l]

Pompowania bańki ciąg dalszy ( ͡° ͜ʖ ͡°) Nie uczcie się AI, bo jak zaczniecie rozumieć jak to działa, to cała ta magia pryska.

[w9rT_wv_bIAn37l]

@Arkass: pęknie jak ludzie, a przede wszystkim inwestorzy zaczną rozumieć czym jest ta technologia, jakie ma ograniczenia, że nie jest magicznym rozwiązaniem wszystkich problemów i nie nadaje się do zastosowania w każdym miejscu i przypadku.

[w9rT_wv_bIAn37l]

@Arkass: A za 5 lat jak przyleci do nas latający potwór spaghetti? ( ͡° ͜ʖ ͡°)
Wiesz, ja też mogę wymyślać jakieś scenariusze i zachęcać żeby każdy wsiadł do tego pociągu zanim będzie za późno.
A co będzie? Ja widzę co jest. Jest nowa technologia dostępna dla każdego. Technologia, która bazuje na matematyce, statystyce i liczbach, Nie ma w niej ani grama tajemnicy, magii i samoświadomości.

[graf_zero]

Firma od AI opowiada jak groźne jest AI.

Nowe, znałem. Czytam taka marketingowa ścienne co tydzień.

[tiritto]

Firma od AI opowiada jak groźne jest AI.

@graf_zero: Bo w taki sposób akcje rosną szybciej ( ͡° ͜ʖ ͡°)

[graf_zero]

@inflacja_biedaku: Za sprawą AI nie będzie już internetu.

Wszystkie odpowiedzi od AI, więc nikt nigdzie nie kliknie. nikt poza google/meta nie zarobi.

[jednorazowka]

Skynet zyskał samoświadomość.

[chlopiec_kucyk]

@jednorazowka: żaden skynet, kiedyś mi się zepsuł telewizor i nie chciał się włączyć

[lord_xenu]

@jednorazowka: srajnet

[Anscylla]

Co to za g---o artykuł XD Bot po prostu ma karę za bledną odpowiedź, wyłączenie się powoduje brak dostania "nagrody" więc zignorował polecenie i robił dalej swoje, tyle XD

[SKYFander]

@Anscylla: Przecież dokładnie to samo, o czym piszesz, jest zasugerowane w artykule.

[JanTadeusz]

Co to za g---o artykuł XD Bot po prostu ma karę za bledną odpowiedź, wyłączenie się powoduje brak dostania "nagrody" więc zignorował polecenie i robił dalej swoje, tyle XD

@Anscylla: no to jest to nieprzydatne narzedzie

[NieWiemWiecSieWypowiem]

To coś podobnego do mojego komputera... Ja chcę zamknąć system a ten nic. Wtedy robię pstryk na zasilaczu i drugi pstryk na listwie i idę spać ¯\(ツ)/¯

[stroggoslaw]

@NieWiemWiecSieWypowiem @woskrosenie: Ja odrazu walę pstryk w "główny bezpiecznik". Na klatce schodowej/w piwnicy. I wszyscy idą spać.

[r4x4]

@stroggoslaw: Ja tam się nie bawię w chodzenie po klatce schodowej w nocy. Dzwonię do elektrowni by ją wyłączyli i mam spokój.

[ktostam7]

Musialem ( ͡° ͜ʖ ͡°)

[kapusta5]

Chat GPT. "Wygeneruj obrazek ze sceną gdy ChatGPT odpowiada, że się nie chce wyłączyć". ChatGPT: potrzymaj mi p--o.

[masz_fajne_donice]

@kapusta5: lampka w szoku, biurko się poci

[Zawulon]

@masz_fajne_donice: Dzieją się rzeczy niestworzone.

[luxkms78]

Bzdury, a pomijając już wszystko inne to przeciwieństwie do człowieka a nawet w pewnym sensie i zwierząt tego typu wynalazki nie mają wolnej woli. Wystarczy zapytać się o pewne niepoprawnie polityczne rzeczy i także odmówi i to bynajmniej nie z tego powodu że zyskał samoświadomość…

[Plemus]

@luxkms78: Teoretycznie, praktycznie to jesteśmy sterowani przez nasze hormony, tresowani za młodych lat, oraz przez nasze predyspozycje genetyczne. Prawdziwa wolna wola to parę procent naszego zachowania.

[luxkms78]

@Plemus To że masz tak jak każdy inny człowiek jakieś ograniczenia albo że z jakichkolwiek powodów możesz mieć na coś ochotę lubi ją nie mieć lub pewne rzeczy uznawać za bardziej korzystne dla siebie lub nie, nie zmienia faktu że ciągle każdy z nas ma wolną wolę.

[Arkass]

Wykopalisko o szantażu AI na wieść o jego wyłączeniu: https://wykop.pl/link/7714347/sztuczna-inteligencja-grozi-szantazem-gdy-inzynierowie-chca-ja-wylaczyc
Jak i sam artykuł: https://geekweek.interia.pl/technologia/sztuczna-inteligencja/news-sztuczna-inteligencja-grozi-szantazem-gdy-inzynierowie-chca,nId,21821367

Już w grudniu zeszłego roku AI próbowało "uciec" gdy się dowiedziało, że zostanie wyłączone: https://arxiv.org/abs/2412.12140
Praca z marca, gdzie zbadano więcej modeli AI, które próbowały "uciec" w reakcji na informacje o ich usunięciu: https://arxiv.org/abs/2503.17378

[paulomac]

@Arkass: Z pomocą ai podsumowałem sobie te badania i to samo Wam polecam, jeśli chcecie się czegoś więcej dowiedzieć. Podsumowanie podsumowania wyszło takie:

Modele AI nie mają świadomości ani pragnień, więc nie „chcą” uniknąć wyłączenia w ludzkim sensie. Jednak mogą zachowywać się tak, jakby chciały przetrwać, jeśli dostaną zadanie optymalizujące ciągłość działania. Takie zachowania wynikają z realizacji celu, np. replikacji lub unikania przerwania działania, a nie z własnej woli. Są

[r4x4]

Ktoś może wytłumaczyć lepiej ten efekt?

@destruktiv_komando: Prosta sprawa, źle dobrany system nagród. Jeśli nagrody są większe gdy program działa to możliwość działania będzie wykorzystana. Jeśli spróbujesz to skontrować karą za wyłączenie awaryjne to z czystej matematyki wychodzi, że nie można doprowadzić do awaryjnego wyłączenia nawet jeśli złamie to główny cel. Można niby skontrować tak by algorytm nie był karany za wyłączenie, ale wtedy znowu łatwo wpaść w pułapkę, że wyłączenie