[majsterV2]

https://www.techpowerup.com/gpu-specs/radeon-hd-5870.c253
vs
https://www.techpowerup.com/gpu-specs/radeon-hd-7950.c307
Jedna karta kosztuje 50-80zł a druga 150-300zł, lecz oba są tak samo efektowne w #machinelearning przy użyciu OpenCLa.
Tylko czy da się pamięć ram z płyty przydzielić do tych obliczeń na GPU w OpenCLu?
W końcu zawsze mam wolne 40gb ddr2 w zapasie ( ͡° ͜ʖ ͡°)

[majsterV2]

@Darkus777: Ogarniasz coś w kwestii przydzielenia pamięci z płyty głównej do obliczeń na GPU?

[Poziokat]

@majsterV2: Jaki jest sens zabawy w ML jak się google nie chce użyć?
https://timdettmers.com/2018/12/16/deep-learning-hardware-guide/

Jeśli chodzi o trening sieci neuronowych to musisz cały model zmieścić na pamięć karty, RAMu trzeba mieć tyle żeby swobodnie przetwarzać dane przy użyciu procesora, czyli niemniej niż masz pamięci na karcie + jakiś zapas.
Pamiętaj że na GPU nie musisz mieć całej bazy danych, tylko cały model + miejsce na przeprowadzenie propagacji dla rozsądnej wielkości mini

[skrzacik320]

miejsce na przeprowadzenie propagacji dla rozsądnej wielkości mini batcha.

@Poziokat: @majsterV2: Tego też w sumie nie trzeba, bo np. pytorch ma utils.checkpoint i wtedy backprop jest robiony jakby osobno. Wychodzi drożej obliczeniowo, ale wymaga trzymania gradientu tylko dla jednej warstwy na raz.

[majsterV2]

@skrzacik320: Czyli że jest do zoptymalizowania?

[skrzacik320]

@majsterV2: Pytorch chyba nie ma wersji dla GPU innej niż pod CUDA+CuDNN więc karta od Nvidia jest konieczna.

[skrzacik320]

@majsterV2: Na dobrą sprawę nie musisz w pamięci trzymać nawet całego modelu tylko podzielić go na segmenty i żonglować nimi między pamięcią grafiki i zwykłą.

[majsterV2]

@skrzacik320: Dzięki!