Na czym to idzie odpalić, to ogólnie działa tak, że jeżeli na rtx4080 odpali się model kilka GB i kilkaset GB to większy będzie dawał dłużej odpowiedzi (ale
Jak AI zmieni sposób, w jaki pracujemy i żyjemy?

100 lat temu elektryczność zmieniała kolejne gałęzie przemysłu, jedna po drugiej. To samo uczyni z przemysłem sztuczna inteligencja.
z- 1
- #
- #
- #
- #
- #
- #
























Modele można uruchomić na CPU, jednak prędkość będzie nieporównywalnie mniejsza. Na moim Ryzen 9 7900 jest to może dwa trzy słowa na sekundę. Wsadzając jednak model do 4070 dostaję kilkanaście do kilkudziesięciu słów na sekundę