#llm #sztucznainteligencja #ai #nvidia #rtx

https://github.com/Zagitta/gpu-unlock

"Kilka dni temu... `Limit obliczeń AI' firmy NVIDIA na RTX... został właśnie całkowicie odblokowany dzięki niedawno wydanemu oprogramowaniu open source. Nazywa się to GPU-Unlock… bez kupowania nowej karty graficznej lub podkręcania, po prostu poprzez zniesienie ograniczenia… Wydajność poprawiła się, jak pokazano poniżej. RTX 3060 --> 78~99% RTX 3070 --> 72~81% RTX 3080 --> 68~73% RTX 3090 Ti --> BF16 80% RTX 4070 Ti --> 83~84% RTX 4090 --> Specyficzny tensor też prawie 2x RTX 2080 Ti --> 36~64% --> Nie chodzi tu tylko o serię RTX 3000. Od serii 20/30/40, testy zarówno komputerów stacjonarnych, jak i laptopów w świecie rzeczywistym stale się kumulują, nawet teraz. Ci, którzy zajmują się generowaniem obrazów AI lub prowadzą lokalne LLM, szczególnie odczują różnicę! Prawdziwym powodem, dla którego to wszystko narasta jak szalone... jest to, że w mojej domowej karcie graficznej RTX była „zablokowana” wydajność AI, z której mogłem korzystać. Największe podejrzenie w tej chwili dotyczące tego, dlaczego NVIDIA to zrobiła... --> Czy celowo osłabiono FP16/BF16, aby stworzyć poziomy pomiędzy GeForce i drogimi, profesjonalnymi procesorami graficznymi. (Chociaż NVIDIA jeszcze tego oficjalnie nie przyznała) Czysty szok wywołany uświadomieniem sobie, że NVIDIA ograniczała tak dużą wydajność starszych kart RTX, które już posiadam... "

https://x.com/lucian__03/status/2114301914108354708