Sztuczna inteligencja i problem spinaczy

Sztuczna inteligencja, której zadaniem byłoby, dajmy na to, produkowanie spinaczy, mogłaby doprowadzić do apokalipsy, przekierowując coraz większe zasoby na realizację tego zadania. Większe jednak zagrożenie egzystencjalne wciąż stanowią ludzie, którzy tworzą sztuczną inteligencję, by zdobyć władzę.

[l.....v]

Sztuczna inteligencja, której zadaniem byłoby, dajmy na to, produkowanie spinaczy, mogłaby doprowadzić do apokalipsy, przekierowując coraz większe zasoby na realizację tego zadania.

To akurat mamy za sobą, nazywa się to socjalizm ( ͡~ ͜ʖ ͡°)

[Martwiak]

Sztuczna inteligencja posiada zdolność uczenia się, dzięki czemu może wymyślać sposoby pozwalające na lepszą realizację wyznaczonego celu.

Kwintesencja zagadnienia. AI nie na i mieć nie będzie zdolności wyznaczania celów. Może tylko optymalizować metody jego osiągania.
To człowiek jest problemem, a dokładniej zdolność człowieka do wyznaczania celów optymalnych dla procesu. Uczyć trzeba ludzi: dlaczego, jak i jakie cele stawiać przed AI.
Jeśli cele będą właściwe, AI będzie bardzo pożytecznym narzędziem.

[Hu_Yu_Hai_Ding]

Jeśli cele będą właściwe, AI będzie bardzo pożytecznym narzędziem.

@Martwiak: Jeżeli założymy, że człowiek jest niedoskonały w wyznaczaniu celów (wszystkie te naleciałości etyczne i moralne + nasza natura napędzana przez pierwotne instynkty), to wypadało by się zastanowić, czy na pewnym etapie jednak nie powinno nas wyręczyć w tej kwesti? A może niczym nieograniczony wzrost i wszechobecny konsumpcjonizm to nie jest najlepsze "środowisko" aby prawdziwy postęp się dokonał? Warto kopać głębiej

[Martwiak]

@mktos: poproszę o przykład

[r.....h]

Człowieczeństwo polega na udziale emocji w kierowaniu się racjonalizmem.

[Martwiak]

@retoosh: Twoja wypowiedź wymagałaby definicji dla użytych pojęć.
Bez tego każdy zinterpretuje to po swojemu.

[r.....h]

@Martwiak: I właśnie Twoja odpowiedź na mój komentarz brzmi jak zadana przez SI.
Żądasz konkretnych pojęć, a ludzie nie zawsze ich potrzebują.
Inteligencja Emocjonalna - zarówno książka, jak i pojęcie naukowe które mogą wiele wnieść do tej dyskusji.

[sciana]

SI pierwsze pytanie jakie sobie zada, to "po wuja tyle spinaczy", po czym zoptymalizuje cel zależnie od potrzeb. Jeżeli tego nie zrobi, to oznaczać to będzie, że to nie sztuczna inteligencja ale bezmyślny automat.

[SzwagierPrezydenta]

Ta cała "sztuczna inteligencja" w obecnym wydaniu to lep na dolary różnych funduszy po wschodniej stronie Atlantyku. Rozważania prowadzone przez różne wielkie nazwiska to są typowo akademickie dyskusje. Szkoda szczempić ryja

[mktos]

To jest bzdury problem gdyż można sztuczną inteligencję zamknąć w tzw. piaskownicy. Ograniczyć możliwe środki działania i po problemie. A zanim ktoś podniesie raban że przecież SI może uciec z piaskownicy to nie, nie może bo wystarczy problem zdefiniować jako osiągnij cel A nie przekraczając granicy piaskownicy. SI wtedy nie ucieknie gdyż to spowoduje nie zrealizowanie celu...