#ai #llm #sztucznainteligencja #huggingface
Narzędzie CLI, które w ciągu kilku sekund szacuje wymagania pamięciowe modeli Hugging Face, odczytując jedynie 100 KB metadanych, dzięki czemu nie musisz pobierać gigabajtów danych, aby dowiedzieć się, że Twoja karta graficzna nie jest w stanie ich obsłużyć.
Należy pamiętać, że hf-mem nie przechwytuje jeszcze długości kontekstu dla LLM i VLM, którą można pobrać i oszacować z pola maxposition
makrofag74 - #ai #llm #sztucznainteligencja #huggingface
Narzędzie CLI, które w ciągu...

źródło: image_1

Pobierz
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach