#sztucznainteligencja #ai #llm #llama #qwen #nvidia #retrocomputing #starekomputery
Jako że Qwen wypuścił kilka małych modeli z rodziny 3.5 to zastanawiało jak stare GPU można jeszcze użyć do odpalenia tych LLMów ( ͡° ͜ʖ ͡°)
Na pierwszy strzał poszedł GTX Titan Black - najpotężniejsza dostępna wersja karty z generacji architektury Kepler - 2013 rok! 2880 rdzeni, 6 GB
Jako że Qwen wypuścił kilka małych modeli z rodziny 3.5 to zastanawiało jak stare GPU można jeszcze użyć do odpalenia tych LLMów ( ͡° ͜ʖ ͡°)
Na pierwszy strzał poszedł GTX Titan Black - najpotężniejsza dostępna wersja karty z generacji architektury Kepler - 2013 rok! 2880 rdzeni, 6 GB
Natknąłem się ostatnio na Yt na materiał "tylko dla wspierających", więc zablokowane jest normalne jego oglądanie.
Nie wiem jak, ale Grok potrafi zrobić podsumowanie takiego niedostępnego normalnie filmu, a Qwen nawet pokazać transkrybcję.
Ciekawe jak AI omija takie zabezpieczenia?