@essos: Na obydwu to se będziesz mógł robić AI, o ile kupisz porządne rozwiązanie w chmurze, a nie lokalnie.

@essos: jak widać - 79 euro od ręki, a potem maksymalnie 184 euro miesięcznie, a ogólnie to wg zużycia.
https://www.hetzner.com/dedicated-rootserver/matrix-gpu/

lub jeśli coś tańszego i koniecznie chcesz trenować swoje własne modele
https://www.runpod.io/ - w zależności od RAM jaki potrzebujesz ceny za karty w chmurze się zaczynają od 0,16 USD/godz.

@De_Fault:

Ale to są naprawde konkretne liczby, pewnie min 10-15k taki sprzecior

XD, chodzi o czas generacji. Mi na RTX 5060 Ti, ryzen 5700X3D, 32 RAM. Obraz generuje się w kilkadziesiąt sekund - kilka minut w zależności od jakości.

@Akinori456: Pewnie że tak, to nie jest trudne. Jak będziesz miał jakieś problemy to wrzucaj wszystko do GPT on jest dobry w takie klocki.

czyżby over dla

@Apu-Apustaja: Nop... nie mają gdzie to produkować, Taiwańczycy (TSMC) raczej nie będą chętni do współpracy.

Kompatybilność z CUDA nie oznacza jeszcze odpowiedniej wydajności... To że API będzie się zgadzać nie oznacza że będzie wydajne. No i ciekawe czy wykupili patenty od Nvidia na stosowanie technik/algorytmów w CUDA... Jak nie wykupili to nie sprzedadzą nigdzie poza Chinami. Nvidia im nie odpuści takich rzeczy.

Fajnie że próbują, że jestPokaż całość

@Apu-Apustaja: A jak jesteś zainteresowany "domowym" GPU do lokalnych AI to polecam zainteresować się AMD Ryzen AI Max+ 395. To jest dość wydajne APU z bardzo fajnym interfejsem do pamięci. Używa pamięci wspólnej LPDDR5X, jest rozsądnie szybkie i można mieć 128 GB VRAM za rozsądną cenę. Są produkowane laptopy (!) z takim APU, są też małe komputery z tym prockiem.

Można na tym całkiem swobodnie odpalić dużego LLMa (wielkościPokaż całość

@SzubiDubiDu: Rozpocząłeś proces ewolucji w starą babę, która się d--------a do byle czego, a już najchętniej do obcych ludzi, bo nie zna innych sposobów żeby poczuć się lepiej? ( ͡º ͜ʖ͡º)

@hrumque: do gołych bab czy czegoś więcej?

@Pshemeck: tak ostatnio Tencent wypuscił model specjalnie do tłumaczeń: https://huggingface.co/tencent/Hunyuan-MT-7B
chwalą sie benchmarkami, ale na ile to jest sprawne to niewiem szczerze mówiąc, LLMy to zawsze jest pewien poziom predykcji, nie ma co temu ufać na 100%

@piotrc90: https://dontasktoask.com/

@Waldemar-Szymanowski: M4 to nie popierdółka :) problemem tu raczej moze byc chlodzenie w air.

@Waldemar-Szymanowski: Z tych p---------k to ludzie klastry robią, bo jest taniej i szybciej niż na kartach od nvidii.

@Snowdr0p siatkę załóż na balkon

@essos na 8GB chcesz flux trenować? Zapomnij

@essos tak jak pisałem ci wcześniej. Z obu kart nie byłbym zadowolony. Jak już bym był zmuszony coś wziąć, to wziąłbym 5050 pomimo gorszych rezultatów dziś (bo 4060 raczej da rade sobie lepiej w dzisiejszych warunkach). Pamiętaj, że karty mają ograniczoną żywotność, a nowsze modele są już powoli optymalizowane z myślą o serii 50.

Co do FP, praktycznie większość domyslnie trenuje na FP16. Kwantyzujesz, gdy twoj sprzęt nie daje rady zPokaż całość

@Elberus: IMO:
To jest bardzo słaby model.
Spróbuj Comfy UI (https://www.comfy.org/) i na tym UI wczytać jakiś inny model, jak np. Flux 1.1 Pro, czy co tam zechcesz, np. z tej strony modeli: https://civitai.com/models

@essos za dużo ze Stable Diffusion nie zdziałasz z 8GB VRAMu.
Na pulpicie rozdzielczość nie jest wybitnie drenujące baterie. Można też włączyć skalowanie. Filmy FHD będą wyglądać raczej ok, one i tak nie są "pixel perfect" jak gry. Wyższa rozdzielczość to większą przestrzeń robocza, co jest na plus.

@essos: 1920x1200 jest na pewno wygodniejszą rozdzielczością, niż 1920x1080. Wymuś jeszcze mniejszy pasek Start dla Windowsa 11, np. programem Windhawk, i pisanie dokumentów, czy kodowanie w VS Code będzie bardziej przejrzyste.

@SzubiDubiDu: Jeszcze trochę i ludzie robiąc fotki będą trollować, że to AI.

@SzubiDubiDu: renderowałbym ją