Takie modele 35B to max na moim sprzęcie.
@neo78: też mam 16GB vram i 64GB ram i na styk mieści sie u mnie qwen3.5 122b w wersji UD-Q3KXL.
dodatkowo lm studio nie jest najlepszym programem do odpalania llmów, jak odpalisz ten sam model w llama.cpp to będzie generował 2x szybciej




















#wojna #ukraina
źródło: 17817658496202443293644110782163
Pobierz