@rolling_stone_with_no_hope: zapewniam Cię że ze względów strategicznych, bezpieczeństwa, przewagi biznesowej, niezależności, model biznesu oparty o chmury dostarczane przez globalne korporacje będzie tracił rynek na rzecz lokalnych serwerowni, nad którymi przedsiębiorcy będą chcieli mieć większą kontrolę, to dotyczy także AI. Te przemiany to kolejne pół wieku zapieprzania w IT aby nadgonić za potrzebami rynku. Rynku który będzie pełen konfliktów, walk korporacji, armie inżynierów zawsze będą potrzebne.

To że inwestorzy sami nie
  • Odpowiedz
Czy ktoś zna się tutaj na #ai? Mam genialny pomysł na personal assistanta do nauki języków tylko nie umiem w programowanie ani robienie appek. Jak ktoś ogarnia to może się dołączyć, raczej pewniak że Duolingo przy tym będzie wyglądać jak quiz z gimnazjum. #chatgpt #llm #startup #jezyki #korposwiat #pracait (wołam 200k osób xD)
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

Wszystkie LLMy działają na procesorach graficznych, które ciągle muszą odczytywać i zapisywać dane do VRAM. Żeby działało to jakkolwiek wydajnie cały model i cache musi zmieścić się w VRAM. Dlatego żeby odpalić przyzwoity model trzeba mieć w cholerę pamięci, a i tak dostaniemy maks kilkaset tokenów na sekundę, bo wymiana danych ma swoje ograniczenia.

Takie podejście jest konieczne, ze względu na to, że modele ciągle się zmieniają. Ten sam hardware może dzisiaj wspierać
  • 3
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@Oo-oO 0
Ej, ale co google zrobiło ze swoim SI? Tzn - nie korzystam na tyle często bym wiedział czy wcześniej się tak zachowywało ale wydaje mi się że nie... teraz jest bardzo... luzackie. Odpowiada w stylu:

- rozwiązanie A zmasakruje wydajnością rozwiązanie B
noooo okej, dobra

- jednak obsługa tego (...)
  • Odpowiedz
@niedorzecznybubr: IMO:
Z tego co mówił kilkukrotnie prof. W. Duch, to modele AI używane przez Chat, piszą naraz z wieloma użytkownikami, przez co dostrajają się do wielu użytkowników naraz, przejmując po części ich styl/osobowość/itp, w jednej sesji takiego modelu. O ile dobrze zrozumiałem.
Zatem ktoś inny mógł jednocześnie pisać w prostacki i wulgarny sposób z takim chatem, a model to podłapał, i Tobie tak, a nie inaczej odpisał. ;)
  • Odpowiedz
@makrofag74: IMO:
Ale wniosek z tego jest taki:
- Albo obydwa testy są do kitu, i nie mierzą poprawnie halucynowania modeli AI, w sensie - nie pokazują, które modele najmniej halucynują.
- Albo tylko jeden z tych testów jest do kitu.

Różne wyniki na tych samych modelach AI nie mogą być poprawne, w sensie wskazujące poprawnie - które modele najmniej halucynują.
  • Odpowiedz
Nie mam pojęcia gdzie OP robotę dostał, ale po wrzuceniu Claude na bazkę z wrażliwymi danymi, i to jeszcze produkcyjną, pozostaje chyba tylko mieć nadzieję że to organ państwowy dla sąsiedniego województwa xddd

BiauekRemover - Nie mam pojęcia gdzie OP robotę dostał, ale po wrzuceniu Claude na ba...

źródło: 1000009216

Pobierz
  • 9
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@BiauekRemover: to jest ogólnie problem z tą technologią. Ona halucynuje i jest niedeterministyczna. W 90% może działać dobrze w 10% zachowa się inaczej i coś się złego stanie. Jak ktoś używa za dużo agentów to zaczyna im ufać, zaufanie powoduje, że coraz to kolejne uprawnienia są im przyznawane i coraz słabiej się ich sprawdza. Ludzka psychologia działa przeciwko nam bo zaczyna się antropomorfizacja i nawet nie przychodzi do głowy, że
  • Odpowiedz
@tubkas12: @some_ONE: czyli innymi słowy ktoś koncertowo w-----ł podstawowe BHP, z własnej woli i w całości puścił dane klientów na jakieś bliżej nieokreślone serwery hen za lasami, a potem mimo istnienia gotowego backupu cały dzień zeszło mu na przywracaniu tego do stanu używalności. Nie wiem, może .bckp kurierem wiózł w zipie i czekał na doręczenie xD

A na koniec, zamiast po prostu siedzieć cicho i liczyć, że nie będzie
  • Odpowiedz
@Beekeeper: windows 11 używam lm studio, 20t/s. Co do sprzętu to na razie czekam aż spadnie bo ceny powalone, jakby ceny były normalne to bym celował w jakieś 2 rtx z 16gb albo może jeden 4090 i jakby ram był w cenach w jakich kupowałem to z 256gb bym brał :P
  • Odpowiedz
#affinity #grafikakomputerowa #llm #sztucznainteligencja
Ciekawa nowa funkcja w wersji 3.2 Affinity – automatyzacja AI z Claude’em
Zautomatyzuj powtarzalne zadania w Affinity, wydając instrukcje w języku naturalnym asystentowi AI.
Affinity wykorzystuje protokół Model Context Protocol (MCP) — otwarty standard, który umożliwia asystentom AI bezpośrednią komunikację z aplikacjami — w celu odbierania instrukcji od asystenta i wykonywania zadań na dokumentach.
Serwer MCP firmy Affinity działa lokalnie
makrofag74 - #affinity #grafikakomputerowa #llm #sztucznainteligencja
Ciekawa nowa fu...

źródło: interesting-new-feature-in-v3-2-ai-automation-with-claude-v0-9z2fogn39lvg1

Pobierz
  • 9
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

Nieźle wyszło. Jechałeś na domyślnych ustawieniach czy zmieniałeś jakieś ustawienia?

Jak śmiech dodać? [śmiech] ?


@makrofag74:
Wspomogłem się Gemini w promptowaniu. Dałem mu taki
Arkass - >Nieźle wyszło. Jechałeś na domyślnych ustawieniach czy zmieniałeś jakieś us...

źródło: image

Pobierz
  • Odpowiedz