[ukruszony__kubek]

mam dataset w ktorym jest 6 kategorii - wszystkie to factor(3 levele: positive, negative i average). Probuje zbudowac model predykcyjny przy pomocy regresji logistycznej oraz drzewa decyzyjnego ale wychodzą błędy. Wie ktos czy mozna przy takich danych zbudowac takie modele i umialby dac jakis przyklad kodu?
#jezykr #machinelearning #analizadanych

[tr0llk0nt0]

Zgodnie z tym co na wiki:

Regresja logistyczna – jedna z metod regresji używanych w statystyce w przypadku, gdy zmienna zależna jest na skali dychotomicznej (przyjmuje tylko dwie wartości).

Może problemem jest to, że nie ustalasz zero-jedynkowego wektora zmiennej objaśnianej, tylko podstawiasz któryś z faktorów?

[heniek_8]

@ukruszony__kubek: jak chcesz użyć regresję logistyczną, to chyba kilka modeli one vs rest musisz przygotować

[ukruszony__kubek]

dzieki za odpowiedzi @tr0llk0nt0: zmienna celu jest binarna na pewno. Wyglada jakbym musial dodac jakies parametry funkcji lm() zeby potraktowal te dane jako factor. Poniżej błedy
@heniek_8: ale w ramach tej jednej funkcji? i brac poszczegolne levele kategorii jako parametry regresji?

[heniek_8]

@ukruszony__kubek: ja bym zrobił 3 modele : positive vs rest, negative vs rest i average vs rest
a potem bym wybrał wynik gdzie predict jest najwyższy

daj > class (bn)

[ukruszony__kubek]

@heniek_8: ok, to mam juz jakis kierunek. dzieki!

[Pyxelr]

@ukruszony__kubek: One-Hot Encoding również powinno załatwić sprawę wieloklasowej klasyfikacji. Tutaj w odpowiedziach masz przykład implementacji w R.

[heniek_8]

@Pyxelr: one hot to możesz przekodować zmienne tekstowe na zera i jedynki w zbiorach wejściowych, ale regresja logistyczna wyliczy ci wartość między dwoma poziomami a nie trzema czy więcej

można użyć sieci neuronowych i funkcji sofrmax na wyjściu , wtedy jednym modelem załatwiamy 3 prawdopodobieństwa

[ukruszony__kubek]

@Pyxelr: @heniek_8: ok zrobilem one hot ale nie idzie mi z one-vs-rest. czy bedzie lipa straszna jakbym zamienil te factory negative average positive na odpowiednio wartosci 0 - 0.5 - 1 i normalnie modelowal jako numeric. to projekt na uczelnie i nie ukrywam ze malo czasu :P jak myslicie?

[heniek_8]

@ukruszony__kubek:
jak to nie idzie? może zrób to w h2o?
tam z tego co pamiętam można dać zmienną celu multinominal czy jak to się nazywa :)

jak zrobisz zmienną ciągłą to jakieś tam przybliżenie jest
w sumie jeżeli założysz że 0 to jest skrajnie negatywne, 1 to skrajnie pozytywne, to będziesz miał nawet dokładniejsze wyniki modelu - niby wszystko blisko średniej, ale jeden 0.44 drugi 0.61 a jeszcze trzeci 0.7
tylko

[ukruszony__kubek]

@heniek_8: no nie idzie bo jestem poczatkujacy w tym :P i nie moge nigdzie w necie znalezc implementacji tego w R. A zmienna celu jest akurat binarna wiec nie ma potrzeby multinominal. OK, dzięki za odpowiedz!

[Pyxelr]

@ukruszony__kubek: Być może ten fragment o "Logistic Regression with many independent variables (multivariate)" Ci pomoże. Na początku filmiku autor także konwertuje różne typy danych jako factor.