Na początku bardzo lubię bawić się w odpalanie modeli językowych #ai lokalnie. Głównie dla zabawy, ale czasami pomagają mi one w pracy.
Bardzo się zajarałem jak zobaczyłem że #deepseek jest opensource i że można go pobrać. Szanuję swój główny sprzęt (już nie pierwszej nowości) na, tyle że zazwyczaj


























Oblicza, ile warstw modelu można rozładować do GPU. (im więcej tym lepiej)
Oto, co oznacza każdy termin:
VRAM (GB): Pamięć dostępna na GPU (np. 24 GB lub
źródło: RunningFULLDeepSeekR1671BLocally
Pobierzhttps://playground.allenai.org/