@marcus777: nie interesuje się tym tematem jakos od 4 lat, ale juz wtedy vgg16 to był stary szajs, w 2019 powiedziałbym Ci, że jak chcesz mały, wydajny model to bierz mobilenet v1/v2 lub squeezenet albo shufflenet. Przez te lata pewnie powstały jeszcze jakies lepsze modele skoro aplikacja aparat w telefonie korzysta z segmentacji obrazu(rozmywnanie tla), GAN(super res zoom) czy masz też voice-to-text offline (live caption).
Całkowita zmiana modelu na VGG16 i znów cały dzień zostawić komputer i pozwolić mu się uczyć. Zostało ok 100 epok po 26 minut. Plateau i EarlyStopping pewnie zakończy wcześniej jeśli będzie zbieżność. Mam nadzieje, że teraz wypluje już sensowny model i prócz tego na urządzeniu docelowym będzie działać w przyzwoitym czasie.
#programowanie #ai #siecineuronowe #keras #tensorflow #macos #python
marcus777 - Całkowita zmiana modelu na VGG16 i znów cały dzień zostawić komputer i po...

źródło: Zrzut ekranu 2023-06-17 o 14.45.11

Pobierz
  • 1
@Patres: vgg16 to przetrenowany na imagenet model do klasyfikacji obrazów. W moim przypadku model będzie dostawał zdjęcia ludzi wypluwając na dwóch rozgałęzionych wyjściach dwa floaty z cechami
  • 2
@Patres: CNN to niesamowite narzędzie, dające wyniki do nierozwiązywalnych problemów.
Teoria stojąca za sieciami jest banalnie prosta. Od perceptronu rosenblatta i kernel trick naukowcy nic więcej nie wymyślili. To co robi moja sieć to wielokrotne rozmywanie obrazu i sumowanie. I tak 50 milionów razy dla każdego wyniku :)
#siecineuronowe
#machinelearning

Cześć Mirki, czy ktoś z Was miał taką sytuację, że wyjście modelu zawsze odwzorowuje ten sam kształt krzywej? W żadnym wypadku nie udało mi się odwzorować tych "oscylacji" rzeczywistej wartości.

Model regresji liniowej, na wejściu dwie funkcje sinus (jako predytkory w modelu). Niezależnie od liczby epok, optymalizatora i wartości learningrate, aktywacji warstwy, liczby neuronów i wielkości zbioru danych.

Macie jakieś pomysły?

Wołam jeszcze Mirków spod tagu #python, ponieważ
siewymyslipotem - #siecineuronowe 
#machinelearning 

Cześć Mirki, czy ktoś z Was ...

źródło: comment_1596815045UlO9agHkfVIXQDySsb5BNb.jpg

Pobierz
Historia sieci neuronowych sięga roku 1940, gdy Donald O. Hebb postawił hipotezę, że połączenia neuronów wzmacniają się, gdy przebiegają po nich impulsy. "Neurony, które razem świecą, łączą się". Była to przełomowa koncepcja, która zainspirowała kolejne generacje naukowców do odtworzenia mechanizmu za pomocą połączeń elektronicznych.

Jednak nie było to takie proste. Dopiero 5 lat później powstał superkomputer ENIAC. Wykonywał on zawrotne 100 000 cykli na sekundę. Paradoksalnie to nie jest duża ilość. Obecnie
tomaszs - Historia sieci neuronowych sięga roku 1940, gdy Donald O. Hebb postawił hip...

źródło: comment_1588862169TXGpmwC73DVLkPA1VzFwyK.jpg

Pobierz
Czy wiesz, że styl malarski jest ukryty w kilku warstwach sieci neuronowej? Poniżej przykład jak sieć neuronowa potrafi nauczyć sie stylu malarskiego i namalować nim dowolny obraz. Robi wrażenie prawda?

Rozdział 8 książki, którą czytam mówi nie tylko o neuronowym transferze stylu, generowaniu tekstu, ale też o DeepDream, sieciach GAN i koderach VAE. Czyli o tym jak powstają te wszystkie aplikacje do postarzania twarzy, generowania postaci anime itp. Czy też jak powstał
tomaszs - Czy wiesz, że styl malarski jest ukryty w kilku warstwach sieci neuronowej?...

źródło: comment_1588779048nuYyC3fctKC4E7kOBqZlAm.jpg

Pobierz
@AdireQ: Ale liczba pi to tylko związek wymyślony przez człowieka, nie tworzy ona nic nowego. To tylko suche cyfry. Pi nie stwierdzi nagle, że zamiast cyfr zaczną pojawiać się litery. Znów nie wychodzi poza schemat który został jej "zaprogramowany".

W tamtym przykładzie chodziło mi że akurat konkretnie ta funkcja srand tworzy złudzenie losowości. Nie wiem nic o tym co podałeś, ale kiedyś czytałem że każdy szum czy ziarno zwraca tylko pozornie
Rozdział siódmy traktuje o sieciach przetwarzających chronologicznie ułożone dane np. wykresy temperatur, czy też język naturalny. Poruszony jest temat sieci rekurencyjnych i użycia warstw konwolucyjnych (splecionych brzmiałoby lepiej btw.).

Jest LSTM i GRU i Conv1D.

Ale jestem zawiedziony tym rozdziałem. Mógłby być dłuższy bo ten temat mnie szczególnie interesuje.

Już nawet części wykresów nie ma.

Ale dowiedziałem się, że Google Translator ma 7 warstw i że spółek giełdowych nie da się przewidzieć.
Sieci neuronowe Deep learningu pozwalają odróżnić np. słonia od innych zwierząt. Co ciekawe można podejrzeć, co sieć neuronowa uznaje w zdjęciu za ważne, aby słonia rozpoznać. Poniższa mapa aktywacji sieci właśnie to pokazuje. Obszary czerwone sieć neuronowa uznaje za najważniejsze do rozpoznania słonia. A żółte - również istotne. Reszta nie jest dla sieci taka ważna. Jak widać słoń to tylko w 1/4 słoń :)

Za: https://medium.com/analytics-vidhya/visualizing-activation-heatmaps-using-tensorflow-5bdba018f759

#siecineuronowe #technologia #nauka #sztucznainteligencja #ciekawostki #
tomaszs - Sieci neuronowe Deep learningu pozwalają odróżnić np. słonia od innych zwie...

źródło: comment_1588512370yqPLMG1hjFpKELGw0NnEhL.jpg

Pobierz
@tomaszs: @Slamowir: To nie takie proste, jak to przedstawiasz. Żeby zrozumieć co jest ważne a co nie, trzeba spojrzeć jak ta sieć została stworzona. Sieć Inception V3 była trenowana na podstawie obrazów z Imagenet, gdzie występują dwie klasy dla słonia: afrykańskie i indyjskie. A słonie rozpoznajemy po uszach głównie.
Na razie przeczytalem 50 stron i jestem zadowolony. Autor ebooka omawia czym jest deep learning, jaka była historia. Szczególnie zaciekawiły mnie okresy popularności algorytmów sztucznej inteligencji, oraz jej spadków. Drugi rozdział to wprowadzenie w podstawy matematyczne. Zręcznie omijane są zawiłości matematyczne za macierzami itd. Czyta się bardzo przyjemnie. Jak widać można stworzyć #keras, współtworzyć #tensorflow i jednocześnie pisać ciekawie.

A no i jest już pierwszy kod do stworzenia sztucznej inteligencji w
@arysto2011: dzięki. Nie znam sie jeszcze na tym by ocenic. Dla porownania o Angularze tez ludzie mowia ze nie ma sie co uczyc wersji 5 bo jest wersja 9. A roznic prawie nie ma.

Zapytalem sie jeszcze Francois. Tez jestem ciekaw co on napisze

Czyli uwazasz ze Keras tak sie zmienil w dwa lata, ze ta ksiazka jest juz totalnie bezuzyteczna?
8 aktualnych promocji na ebooki, książki i kursy programistyczne i IT

Wysypało worek z promocjami:

1. Dzisiaj kończy się propozycja -30% na ebooka Domain-Driven Design. Zapanuj nad złożonym systemem informatycznym. Do końca dnia (28.03.2020) za 49,50 zł.

Więcej informacji: LINK DO AKCJI

2. Do 29.03.20 trwa propozycja -49.49% na kurs wideo Node.js. Do końca tygodnia (29.03.2020) za 39,90zł. Do części kursów dodawany jest darmowy ebook..

Więcej informacji: LINK DO AKCJI #nodejs

3.
tomaszs - 8 aktualnych promocji na ebooki, książki i kursy programistyczne i IT

Wy...

źródło: comment_1585415483sO2Ad2zNDh3Um3t3ru3FH5.jpg

Pobierz
@botereq: Jeżeli zaczynasz przygodę z ML ze swojej strony polecam kurs na coursera: https://www.coursera.org/learn/machine-learning

Jest on prowadzony przez człowieka który doskonale tłumaczy podstawy ML, nie nauczy on Ciebie używania bibliotek ale teorii i praktyki działania ML "pod maską", czyli czym jest i jak działa np. gradient descent, learning rate, regularyzacja. Parę lat temu kurs ten był prowadzony w oparciu o Octave (otwarty odpowiednik matlab) ale teraz z tego co wiem zaktualizowali
@botereq: @CukrowyWykop: PyTorch nie jest żadną nakładką na tensorflow.
Używanie obu bibliotek nie jest żadnym rocket science, więc generalnie można skosztować i tej i tej, co polecam.
Największą różnicą jest/było to, że tensorflow tworzył grafy statyczne, które potem odpalał, a PyTorch działa dynamicznie.
W nowych wersjach TF wprowadzili eager execution, który również działa dynamicznie, niemniej to PyTorch wspiera dynamiczne grafy natywnie.

Na NLP nie znam się zbyt mocno, raczej siedzę
#anonimowemirkowyznania
Od jakiegoś czasu pracuję jako data scientist #datascience. Przed świętami dostałem ofertę zostania szkoleniowcem w kilka sobót. Chodzi o bardzo podstawowe rzeczy: regresja liniowa, logistyczna, random forests, podstawy trenowania prostych głębokich sieci typu multilayer perceptron albo sieć konwolucyjna. Wszystko w #python #keras. Jakie #zarobki zawołać? Myślałem o 2x normalna dniówka w pracy. Dniówki wychodzi mi ~ 200 zł, więc myślałem o 400 zł/dzień. Za dużo? Za mało? #pracbaza #
Korepetytor: Zakładając że piszesz serio.
Weź pod uwagę że musisz też przygotować się na szkolenie - zależnie czy masz jechać z jakiegoś skryptu i z gotowych slajdów czy sam wszystko przygotować + koszt i czas dojazdu.
Przez pewien czas się bawiłem w szkolenia z Excela (!!!) i miałem 50pln/h jak było szkolenie dla studentów (szkolenie trwało 7h i było w zasadzie z gotowca) i 100/h jak dla jakiś "biznesowych" (tu trzeba