[qwerty7]

Warto kupić Intel Arc Pro B50 16GB za 1600 zł, czy lepiej RTX 5050 8GB za 1000 zł? Tylko praca, ale chciałbym podpalać LLM, wiec mógłbym dorzucić do tych 16gb żeby zobaczyć jak to działa.
#pcmasterrace

[Beekeeper]

@qwerty7: vram to podstawa, jego nigdy za mało, a na 8GB to będą małe modele lub duża część na ram + cpu, co będzie wolne. Do tego zawsze najłatwiej jest z nvidią pod względem konfiguracji. Chociaż zastanawiam się, czy Ty nie na windowsie będziesz jechać. Dla przykładu u mnie na 2060 super 8GB mistral:7b + ollama + open-webui Response tokens/s: 69.94 Prompt tokens/s: 1191.94. Generalnie ciężko jest coś sensownego zmieścić

[Szala]

@qwerty7: jeśli llm to maksujesz vram, alternatywa jest jakiś RX9060XT bo z intelem różnie bywało. Możesz szukać z nami na #stealdeals

[qwerty7]

@Szala: fajne #stealdeals :) ale nie ma miast chyba czy się mylę?

[Szala]

@qwerty7: miast nie ma, jak pojawia się coś w fajnych cenach to wpada :-)

[qwerty7]

@Szala: super gadzet :) ale moment .. jak ja teraz kupie okazyjnie, skasujcie to :) arbitralnie uznaje to za nielegalny doping ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)

[Szala]

@qwerty7: byłby nielegalny jakby był niedostępny :-)

[qwerty7]

@Szala: Można by jeszcze porównywać z niemieckim OLX-em, to dobry barometr tego, co będzie u nas za 2–6 miesięcy: https://www.kleinanzeigen.de/s-rtx-4060-16gb/k0