Mam pytanie do wykopowych ekspertów #machinelearning ( ͡º ͜ʖ͡º) #statystyka
Chodzi o normalizację danych wejściowych (feature normalization).

Pracuję nad algorytmem rozpoznawania pisma przy pomocy logistycznej regresji (logistic regression) - cel czysto naukowy - czyli Matlab bez żadnych wbudowanych funkcji.

Minimalizuję funkcję kosztu metodą gradientu prostego (gradient descent). Niestety dane wejściowe (macierz obrazka) są dosyć 'rozbieżne' i Matlab średnio
  • 9
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

W jaki sposób powinna wyglądać ewolucja sieci neuronowej? Powiedzmy, że pierwsze pokolenie dostaje jako dane treningowe losowy input i output (zarazem ma losowe wagi neuronów). Kolejne pokolenie to potomkowie dwóch jednostek (oczywiście wylosowanych zgodnie z zasadą większa sprawność = większa szansa). To pokolenie powinno otrzymać jako dane treningowe wszystkie pary input oraz output (obojga rodziców)? W jaki sposób dodawać mutacje - przekształcać nieco dane treningowe od rodziców czy dodawać nowe, losowe dane?
  • 6
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@roy_batty: ja podobnie, ale jedyna nowa rzecz (po liceum) to funkcja sumy, wzory na gradient wyznaczają za Ciebie więc do implementacji nie jest potrzebna wiedza z analizy. sugerowałbym wprowadzenie do matematyki przez etrapez (macierze, wektory, gradient, statystyka) + powtórka z liceum z pochodnych i jednak prostsze kursy - upraszczając nie zaczniesz deep learning bez machine learning.
  • Odpowiedz
Od kilku dni próbuję znaleźć prosty i praktyczny problem który mógłbym rozwiązać za pomocą logicznej regresji.

Jest kilka oklepanych przykładów jak OCR, SPAM, FRAUD, rozpoznawanie twarzy itd. ale jak wspomniałem, są mało oryginalne i dość czasochłonne w implementacji (od początku). A mi chodzi o mało złożony problem i łatwo dostępne dane treningowe.

Myślałem o wykrywaniu oszustw przy logowaniu na podstawie czasu wpisywania hasła, tylko nie mam danych treningowych - musiałbym stworzyć jakąś formatkę
  • 17
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

Panowie @dziobaki_sa_jadowite @Diego19 na wstępie dziękuję za rzeczową dyskusję.
Swoją drogą kolejny już raz przekonuję się, że na portalu ze śmiesznymi obrazkami dużo szybciej uzyskasz wartościowe odpowiedzi niż na niejednym branżowym forum.

Wracając do tematu @dziobaki_sa_jadowite to masz rację, chodzi oczywiście o zagadnienie regresji logistycznej.

Dziękuję
  • Odpowiedz
jedynym uproszczeniem względem C było to, że nie musiałem martwić się pamięcią


Prawdopodobnie nie zdajesz sobie sprawy z tego co do końca napisałeś. Pod względem programistycznym to jest prawdopodobnie największe wyzwanie reszta to tak na prawdę bardziej matematyka niż programowanie i inne umiejętności są potrzebne.
Moje zdanie jest takie że w dzisiejszych czasach pisać od podstaw te algorytmy po by lepiej je rozumieć to prawie jak samemu budować proste modele komputerów żeby
  • Odpowiedz
Używał ktoś synaptic.js do tworzenia sieci neuronowych w #javascript? Chciałbym zrobić sieć, która jako output daje liczbę nieograniczoną zakresem. Są tam 3 gotowe opcje: CROSS_ENTROPY, MSE oraz BINARY. Z tego co czytałem musiała by to być opcja LINEAR a takiej nie ma. Wie ktoś jak ją zrobić? #siecineuronowe #machinelearning #js #ai #programowanie
epic - Używał ktoś synaptic.js do tworzenia sieci neuronowych w #javascript? Chciałby...

źródło: comment_K90BIK67LrVXrvzWCCLbpVW04B2p163l.jpg

Pobierz
  • 2
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@epic: Tak jak napisał @FailedNormie .
Plus, to czego szukasz to funkcja aktywacji neuronu. W przypadku tego frameworka nazywają to "squashing function". zobacz rozdział squashing function and bias . Jeśli zaczynasz przygodę z machinelearningiem proponowałbym mimo wszystko zacząć od #python , głównie dlatego że w necie znajdziesz multum tutoriali, i opisów jak co zrobić.
Dodatkowo, zależnie od danych i architektury sieci, możesz mieć kłopoty jeśli ustawisz funkcję
  • Odpowiedz
@wytrzzeszcz: wiadomo polskich tablic tez wiele nie jest nauczonych i cośby to pomogło, ale wersja z repo nie radzi sobie w ogóle z wykrywaniem tablic pod kątem a ta komercyjna nawet kąt samochodu względem kamery podaje
  • Odpowiedz
@piotrb:
Na czacie obiecał że za tydzień-dwa zacznie wdrażać RL. ( ͡º ͜ʖ͡º)
Póki co "Charles" powtarza jedynie to, czego nauczył się obserwując twórcę.
  • Odpowiedz
Łoo, od ostatniego razu, gdy się promowałem na Wykopie minęło trochę czasu. A obiecałem sobie, że będę wrzucał regularnie posty :)

No nic, trochę tego napisałem w ramach udziału w konkursie "Daj Się Poznać 2017". Poniżej lista postów napisanych od ostatniego razu, gdy pisałem na Wykopie (w kolejności od najnowszych do najstarszych):

TorchCraft - podstawy Lua
Multi-armed bandit - prosta optymalizacja
  • 2
  • Odpowiedz
  • Otrzymuj powiadomienia
    o nowych komentarzach

@AwizisieAkat: w SSCAIT cały czas można. Znaczy, jak pierwszy raz próbowałem wrzucić, to wyskoczyło jakieś info, że nie mogę wrzucić, bo oni tam jakiś specjalny cotygodniowy (chyba) stream z komentarzem robią. Jakby mini turniej czy coś takiego co niedzielę. I musiałem odczekać dzień, by wrzucić bota. A tak to cały czas leci stream i ladder.

Ladder jest tutaj, jestem gdzieś w połowie: http://sscaitournament.com/index.php?action=scores
  • Odpowiedz