@makrofag74: IMO:
Najczęściej branża AI odwołuje się do rankingu z tego agregatora benchmarków, z moich obserwacji: https://artificialanalysis.ai/models

@Gleacher: tymczasem mi stworzył hacki to gry dzisiaj xD

@rtpm na czym masz postawione?

@Pan_Slon: Problem leży w systemowym prompcie frameworka. OpenClaw domyślnie pakuje ogromny kontekst przy każdym zapytaniu niezależnie od jego prostoty, do tego agent "myśli na głos" przed odpowiedzią co generuje dodatkowe tokeny. Rozwiązanie to albo przycięcie systemu promptu do minimum, albo ustawienie max_tokens w odpowiedzi, albo wywalenie narzędzi których bot nie potrzebuje bo sam ich opis zjada konteksty.

@marcus777: może tak, ale ja mam już tak dosyć spekulacji na temat przyszłości naszego zawodu oraz ludzkości w ogóle, że już nawet pogodziłem się z najgorszym.

@rolling_stone_with_no_hope: zapewniam Cię że ze względów strategicznych, bezpieczeństwa, przewagi biznesowej, niezależności, model biznesu oparty o chmury dostarczane przez globalne korporacje będzie tracił rynek na rzecz lokalnych serwerowni, nad którymi przedsiębiorcy będą chcieli mieć większą kontrolę, to dotyczy także AI. Te przemiany to kolejne pół wieku zapieprzania w IT aby nadgonić za potrzebami rynku. Rynku który będzie pełen konfliktów, walk korporacji, armie inżynierów zawsze będą potrzebne.

To że inwestorzy sami niePokaż całość

Nie jest tak sprytny jak modele z setkami miliardów parametrów

@taktylkozerkam: to mało powiedziane, jest głupi jak but

@taktylkozerkam: kurde no dobra abstrahując od jakości outputu to to 14k tokenów na sekundę robi wrażenie

@makrofag74: https://wykop.pl/wpis/85934963/ej-ale-co-google-zrobilo-ze-swoim-si-tzn-nie-korzy ( ͡° ͜ʖ ͡°)

@niedorzecznybubr: IMO:
Z tego co mówił kilkukrotnie prof. W. Duch, to modele AI używane przez Chat, piszą naraz z wieloma użytkownikami, przez co dostrajają się do wielu użytkowników naraz, przejmując po części ich styl/osobowość/itp, w jednej sesji takiego modelu. O ile dobrze zrozumiałem.
Zatem ktoś inny mógł jednocześnie pisać w prostacki i wulgarny sposób z takim chatem, a model to podłapał, i Tobie tak, a nie inaczej odpisał. ;)

@makrofag74: IMO:
Ale wniosek z tego jest taki:
- Albo obydwa testy są do kitu, i nie mierzą poprawnie halucynowania modeli AI, w sensie - nie pokazują, które modele najmniej halucynują.
- Albo tylko jeden z tych testów jest do kitu.

Różne wyniki na tych samych modelach AI nie mogą być poprawne, w sensie wskazujące poprawnie - które modele najmniej halucynują.

@saggitarius_a: jaki risercz? ogólnie musisz wziąć pod uwagę że nie tylko liczy się całościowa liczba parametrów ale też ile kontekstu wpakujesz

@BiauekRemover: to jest ogólnie problem z tą technologią. Ona halucynuje i jest niedeterministyczna. W 90% może działać dobrze w 10% zachowa się inaczej i coś się złego stanie. Jak ktoś używa za dużo agentów to zaczyna im ufać, zaufanie powoduje, że coraz to kolejne uprawnienia są im przyznawane i coraz słabiej się ich sprawdza. Ludzka psychologia działa przeciwko nam bo zaczyna się antropomorfizacja i nawet nie przychodzi do głowy, żePokaż całość

@Beekeeper: poprawka ja właśnie tak używam 35b a3b :), jako agent no cóż może nie działa super szybko, ale wyniki bardzo fajne będę musiał sobie sprawdzić na większej mocy https://www.youtube.com/watch?v=YyTkPNxevAo :)

@Beekeeper: windows 11 używam lm studio, 20t/s. Co do sprzętu to na razie czekam aż spadnie bo ceny powalone, jakby ceny były normalne to bym celował w jakieś 2 rtx z 16gb albo może jeden 4090 i jakby ram był w cenach w jakich kupowałem to z 256gb bym brał :P