Katowice wykpiły Strefę Czystego Transportu. Będzie, ale nie obejmie mieszkańców

STC ma objąć teren, gdzie i tak nikt nie jeździ, głównie place i deptaki. Dodatkowo z ograniczeń strefy mają być całkowicie wyłączeni... wszyscy mieszkańcy, i to nie tylko Katowic, ale całej Metropolii (ponad 2 mln mieszkańców). UE zakpiła z Kato uznając pomiary nad autostradą, to Kato zakpiło z UE.
z- 236
- #
- #
- #
- #
- #
- #


















Zakupiłem serwer z drugiej ręki na Allegro.
Procesor Intel XEON E5-1620v4 3.50GHz, max turbo 3.80GHz, 4 rdzenie
Pamięć
@kwanty: cuda nie ma takiego znaczenia jeśli karta wspiera Vulkan. llama.cpp na vulkanie pozwoliła mi odpalić LLM nawet na Titan Black - architektura Kepler z 2013 roku. LLama praktycznie zawsze w momencie wykonywania obliczeń robi transformację na FP16, a
@mathmed: MOE ma fajną cechę że jeśli chcesz tylko krótkie rozmowy to spokojnie możesz ładować model o większym rozmiarze niż pamięć. W czasie inferencji najczęściej używane MoE będą rezydować w VRAM, następnie RAM, a najrzadziej używane zostaną na dysku. U mnie taka konfiguracja dale znośny TP/s dla GPT-OSS 120B który ma 60 GB a mam w kompie
Najprościej - pobierasz np wersję dla CUDA 12.4 + CUDA DLL. Rozpakowujesz, dll z pliku zip cuda wklejasz do folderu gdzie rozpakowałeś llame (nie wiem dlaczego tak, podejrzewam że