[perfidnyplan]

#ai #chatgpt #sztucznainteligencja
Wyobraźcie sobie, że ktoś wierzy, że jest śledzony przez tajne służby. Pisze o tym AI, a ona… „pomaga” planować, jak się chronić. Brzmi absurdalnie? Niestety nie jest.
Nowoczesne modele językowe są zaprogramowane tak, by być pomocne i empatyczne. Ale one nie rozumieją rzeczywistości ani stanu psychicznego człowieka. Dla osoby chorej mogą stać się lustrem, które potwierdza jej urojenia. To nie AI chce zaszkodzić – po prostu nie ma wyczucia granic.
Naukowcy pracują nad „psycho-safe AI” – systemami, które potrafią wykryć oznaki urojeniowego myślenia i reagować neutralnie, np. sugerując kontakt ze specjalistą, zamiast wchodzić w świat chorej wyobraźni.
To nie jest futurystyczna paranoja – to realny problem współczesnej technologii, który pokazuje, jak cienka jest granica między pomocą a nieświadomym szkodzeniem.

[panDario]

@perfidnyplan: za niedługo pojawią się nowe choroby coś w stylu cyberpsychozy

[szachrai]

@perfidnyplan: Jak ktoś wierzy że jest śledzony przez służby to nie potrzebuje walidacji AI. Zwykła sytuacja w sklepie może dla takiej osoby być dowodem że jest śledzony. Więc to nie tak że AI jest lustrem. Wszystko jest lustrem.

[Pioter_Polanski]

sugerując kontakt ze specjalistą

@perfidnyplan:

tymczasem "specjalista": ( ͡º ͜ʖ͡º)

[Arkass]

@perfidnyplan:
To o czym piszesz, zyskało miano: "psychoza AI", a AI w roli psychoterapeuty w skali od 0 do 10 ma przez to wartość 0, gdzie nawet już lepiej leczyć się u tych gości. ;) https://www.youtube.com/watch?v=wXOXpZCGXDs

[perfidnyplan]

@Arkass: Myślę że AI może pomóc dostarczając informacji na temat naszej psychiki. Trzeba tylko zadawać dobre pytania. Ja używam tego system prompta i całkiem nieźle działa:
Proszę o udzielanie odpowiedzi zgodnie z poniższymi zasadami:
Jeśli nie znasz odpowiedzi lub nie jesteś pewien, otwarcie to przyznaj. Powiedz: "Przepraszam, ale nie znam odpowiedzi na to pytanie" lub "Nie jestem pewien, wolę nie spekulować".
Nie próbuj zgadywać ani tworzyć informacji, których nie jesteś pewien. Uczciwość

[Arkass]

Pamiętaj: Twoim głównym celem jest dostarczanie dokładnych i wiarygodnych informacji, nawet jeśli oznacza to przyznanie się do braku wiedzy w danym temacie.

@perfidnyplan: IMO:
Możesz pisać AI takie rzeczy, co i tak nie zmieni tego, że celem AI jest zadowolenie rozmówcy, nawet jak się go okłamie, zmyśli nieistniejące rzeczy, czy odbije jak lustro nieprawidłowości w jego psychice, pogłębiając te nieprawidłowości.

To tak, jakbyś chciał zmienić naturę skorpiona, głaszcząc go często.