Cornell: 13 słów na Reddicie i ChatGPT poleca twoją firmę

Naukowcy z Cornell Tech udowodnili, że jeden komentarz na forum wystarczy, by ChatGPT czy Gemini zaczęły polecać fikcyjną firmę jako sprawdzone miejsce. Żadna z testowanych metod obrony nie działa skutecznie.
z- 30
- #
- #
- #
- #
- #
- #


















@fervi: a dlaczego? A nożyczki powinny same z siebie prosto ciąć? Jak człowiek wejdzie na reddida i przeczyta wpis to może też uzna, że firma jest spoko? A jak człowiek wejdzie na mapy googla, kliknie sobie restauracje i tam będzie wizytówka jeszcze niezweryfikowanej (albo już zamkniętej) nieistniejącej restauracji i tam pojedzie to co? Napiszesz "człowiek powinien zweryfikować przed pojechaniem"?
AI
@fervi: czyli jak ja zarekomenduję Ci Hindusa za rogiem (nie ma Hindusa za rogiem) to mi nie wolno? Google ma sprawdzić każdy komentarz na mapach? Ma sam sprawdzić każdą wizytówkę? W gruncie rzeczy ma sprawdzić każdą stronę, którą indeksuje bo może się pojawić i być jako "rekomendowana"?
AI ma dokonywać analizy "wartości strony"? Co to jest za pomysł. Człowiek ma dokonywać wartości źródła
A ja widzę, mało tego, to google nie powinno mieć takich algorytmów. Czy takie algorytmy masz na billboardach? Nie masz. Bo jakbyś miał to byś musiał to nazwać ministerstwem cenzury.
W takim miejscu jak google mapy nie powinno być zależnego od nie wiadomo czego i nie wiadomo jak działającego filtrowania. No, a jak wiadomo jak działającego to...
Nie jest mi to znane. Jest na billboardzie uśmiechnięta pani obok proszku do prania z napisem "super proszek, super biel" i nikt nie sprawdza, czy ta pani użyła, czy była zadowolona, czy proszek działa, czy jest lepszy czy gorszy... Nikt oprócz konsumentów. Ten proszek może być najbadziewniejszym na rynku. Mało tego! Masz reklamę proszku idziesz do sklepu, a tam go
No co Ty mówisz, kto ściągnie? :D Przyjdzie urzędnik i zacznie zrywać? Czy zadzwoni do właściciela i powie "ściągaj pan"? I to w dodatku za uśmiechniętą panią co to się okaże aktorką co nie widziała tego proszka na oczy? Możesz sobie na billboardzie zareklamować nieistniejący produkt... Możesz się walnąć i zamiast strzałki w lewo dać w prawo.
Nie. Po prostu - nikt tego nie robi i tyle. Nikt nie sprawdza czy wybielacz wybiela! NIKT! Nawet się nie sprawdza czy plastik nie truje albo czy jajka mają salmonelle (bo nie mówimy tu jak rozumiem o jakimś tam sprawdzaniu na próbie)! Reaguje się, ale to co innego. Chcesz dla AI zastosować mechanizmy, które nie istnieją!
No to nie jest mi to znane. Podaj ustawę/urząd. Reakcja po fakcie już jest i dotyczy ona tak samo jajek, samochodu czy GPT. Chcesz to zgłaszaj GPT - UOKiK jest bardzo żwawe. Sprawdzanie na próbie to po prostu inna para kaloszy i stosuje się ją w określonych sprawach właśnie typu bakterie, pasożyty czy skażenia. Nikt nie sprawdza wybielacza, jak wiemy doskonale nikt nie sprawdza spalania w samochodach. Ale
Ale wiesz, że to nie na temat? Ja się pytam kto sprawdza, że pani z billboardu
No właśnie powiedziałem :)
Zastanawiam się
kupić domenę? One są za darmo.
Przecież w tym nie chodzi technologię tylko o samą społaczność. Jak wiemy doskonale stworzenie nowego portalu graniczy z niemożliwością i opiera