Niektóre lokalne LLMy mają tendencję do zapętlania się w pewnym momencie, na przykład: Michał to bardzo porządny #programista15k i umie programować w Pythonie i umie programować w Pythonie i umie programować w Pythonie i umie programować w Pythonie i umie programować w Pythonie i umie programować w Pythonie...

Czy da się skutecznie zapobiec takim sytuacjom? Jeśli nie, to jak sobie z takimi sytuacjami radzicie? Może je jakoś wykrywacie i w
  • 9
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

Niektóre lokalne LLMy mają tendencję do zapętlania się w pewnym momencie, na przykład


@a5f5c1: Zdarza się, że wpadają w pętlę - zwłaszcza stare i małe LLMy albo takie które są głównie trenowane pod EN ale używasz ich z innym językiem. Jest na to techniczny sposób ale raczej mało praktyczny i trudny (trzeba użyć contrastive sampling), wątpię żeby było obsługiwane przez typowe lmstudio/ollama.

Potrzebujesz nowszego i większego modelu.
  • Odpowiedz
masz na myśli wykorzystanie contrastive sampling podczas generowania odpowiedzi i gdy zostanie wychwycone zapętlenie modelu to na przykład wymuszenie zatrzymania generowania?


@a5f5c1: LLMy to są modele statystyczne - na wyjściu dostajesz dystrybucję (prawdopodobieństwa) dla każdego tokenu ze słownika i możesz sobie wybrać. Jest wiele technik wybierania - najprostsza to losujesz z dystrybucji albo wybierasz najbardziej prawdopodobny. Ale są też bardziej zaawansowane (je się używa) np. beam searching i są też
  • Odpowiedz
@skylerdw fajnie jakby aplikacje były też na starsze iPhone. Na takim fakt starym ale działającym iPhone 7 można by poklikać w te krzyżówki ale aplikacja jest od iOS 17.6+
  • Odpowiedz
Hej Mirki i Mirabelki! 🚀

Mam przyjemność zaprezentować Wam OmegaDrive - silnik storage napisany w Rust, kompatybilny z protokołem Redis, oraz cały ekosystem open source zbudowany wokół niego.
Oczywiscie również Rozdajo ;)

Czym jest OmegaDrive?
  • 7
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@JamesJoyce: właśnie robie kolejny scrapper, przypomniało mi się o tym poście i chciałem użyć... ale to nie do HTML ;) ...na szczęście napisałem Cursorowi żeby obciął nieistotne rzeczy i sam zrobił rozwiązanie do usuwania śmieci
  • Odpowiedz
@trevoz: hah faktycznie było takie coś. SM odpytywał programistów na ile dni/punktów/basenów olimpijskich wyceniają taska, którego teraz AI klepie w 30s i nie trzeba nic szacować
  • Odpowiedz
W Polsce jest bardzo mała dostępność do lekarzy, zwłaszcza specjalistów, dlatego uważam, że powinniśmy otworzyć się na lekarzy np., z Kolumbii albo Indii, kim są ustali się później, nasi lekarze na pewno się ucieszą, że kolejki się zmniejszą ( ͡° ͜ʖ ͡°)

#programista15k #programowanie #pracait #korposwiat #lekarz
  • 1
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@202492: g---o
Lekarza myślą jak położyć lape na kosmetologi bo widzą że baby ostryzkuja po g---o licencjacie inne karyny i w rok mogą mieć na wkład własny wiec trzeba blokować
  • Odpowiedz
Skrót dzisiejszych wiadomości ze świata technologii #codziennytech #sztucznainteligencja #technologia #wydarzenia #komputery #informatyka #ciekawostki #programowanie #gruparatowaniapoziomu
Uwaga: Streszczenia i tłumaczenia mogą być niedokładne, dlatego zawsze podaję link do artykułów żródłowych.

Cytat dnia autorstwa współzałożyciela Oracle, Larry’ego Ellisona: „Obywatele będą zachowywać się jak najlepiej, ponieważ nieustannie rejestrujemy i raportujemy wszystko, co się dzieje” — poważne ostrzeżenie dotyczące erozji
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach