[botereq]

Ma ktoś może podrzucić jakieś linki do projektów gdzie były porównywane te 3 biblioteki z tagów? Chciałbym zacząć przygodę z ml i zastanawiam się którą z nich wybrać :) głównie w NLP chciałbym trochę wiedzy nowej

#machinelearning #keras #tensorflow #pytorch #nlp

[jeffery]

@botereq: Nie jest to może porównanie, ale tensorflow ma całkiem fajne tutoriale:

https://www.tensorflow.org/tutorials/text/word_embeddings

Link odnosi do pierwszego tutoriala sekcji "text" gdzie też jest o NLP, jeżeli nie używałeś wcześniej to oczywiście polecam przejrzeć całość tutoriali od początku beginnera :)

Keras jest teraz częścią tensorflow (paczka tf.keras)

[jeffery]

@botereq: Jeżeli zaczynasz przygodę z ML ze swojej strony polecam kurs na coursera: https://www.coursera.org/learn/machine-learning

Jest on prowadzony przez człowieka który doskonale tłumaczy podstawy ML, nie nauczy on Ciebie używania bibliotek ale teorii i praktyki działania ML "pod maską", czyli czym jest i jak działa np. gradient descent, learning rate, regularyzacja. Parę lat temu kurs ten był prowadzony w oparciu o Octave (otwarty odpowiednik matlab) ale teraz z tego co wiem

[botereq]

@jeffery dzięki czyli teraz tylko w grę wchodzi Tensorflow i PyTorch czy jeszcze znasz coś ciekawego?

[jeffery]

@botereq: PyTorch nie używałem to ciężko mi cokolwiek o nim powiedzieć, Tensorflow natomiast używa mi się całkiem przyjemnie.

[CukrowyWykop]

Tensorflow i PyTorch czy jeszcze znasz coś ciekawego?

@botereq: pytorch i tego typu rzeczy to nakłądki m.in na tensorflow. Jest jeszcze popularny keras, ale lepiej poczytaj o statystyce i matmie najpierw

[Poziokat]

@botereq: @CukrowyWykop: PyTorch nie jest żadną nakładką na tensorflow.
Używanie obu bibliotek nie jest żadnym rocket science, więc generalnie można skosztować i tej i tej, co polecam.
Największą różnicą jest/było to, że tensorflow tworzył grafy statyczne, które potem odpalał, a PyTorch działa dynamicznie.
W nowych wersjach TF wprowadzili eager execution, który również działa dynamicznie, niemniej to PyTorch wspiera dynamiczne grafy natywnie.

Na NLP nie znam się zbyt mocno, raczej

[CukrowyWykop]

PyTorch nie jest żadną nakładką na tensorflow.

@Poziokat: a faktycznie tam jest bezpośrednio cuda.

Największą różnicą jest/było to, że tensorflow tworzył grafy statyczne, które potem odpalał, a PyTorch działa

[Poziokat]

@CukrowyWykop: matmy nie neguję, sam od tego kiedyś zaczynałem.
Tylko odpisałem bo PyTorch i TF to zupełnie inne silniki :P.
cuda nie ma tam w sumie nic do gadania, na cpu przecież też odpalą się w inny sposób, to zupełnie rozłączne biblioteki ;)

[CukrowyWykop]

cuda nie ma tam w sumie nic do gadania, na cpu przecież też odpalą się w inny sposób, to zupełnie rozłączne biblioteki ;)

@Poziokat: oj przy konkretniejszych modelach i tak bez gpu się nie obejdziesz :P więc piszę w domyśle cuda bo na cpu to proste modele do nauki.

[Poziokat]

@CukrowyWykop: Z dozą cierpliwości na CPU można coś trochę większego też odpalić.
Niemniej chodziło o teoretyczne podescie, TF i PyTorch nie są osobne dlatego, że jest w nich bezpośrednio cuda ^^

[CukrowyWykop]

@Poziokat: oczywiście, przecież TF powstał później niż niektóre inne libki/frameworki. Z reszta oprócz cuda można by użyć opencl, z resztą intel pracuje nad tym całym oneApi.