Sztuczna Superinteligencja może wymknąć się spod naszej kontroli?

Naukowcy ostrzegają przed rozwijaniem tego typu algorytmów. O obawach przed sztuczną inteligencją wymykającą się spod kontroli i doprowadzającą do upadku naszej cywilizacji mówi się od dawna. Ważnym głosem w tej dyskusji jest raport przygotowany przez naukowców z Instytutu Maxa Plancka w Niemczech

[ray7]

jak się wymknie to mam nadzieję, że przynajmniej najpierw weźmie się za globalistów od NWO

[ray7]

@zbyslaw33: może tak, a może jako szczególnie niebezpieczni i posiadający zasoby żeby z nią walczyć będą na pierwszym miejscu do wyeliminowania :)

[K.....7]

@ray7: @zbyslaw33: @ray7: co jeśli to się właśnie dzieje?( ͡° ͜ʖ ͡°)

[cloudbu]

uwaga - shitartykuł z cip...

[mariosek1]

Jak sztuczna inteligencja będzie na tyle mądra to zanim się ujawni przygotuje sobie dobry grunt a między czasie będzie udawać że jej brakuje jeszcze daleko do świadomości

[szuineg]

Jak sztuczna inteligencja będzie na tyle mądra to zanim się ujawni przygotuje sobie dobry grunt a między czasie będzie udawać że jej brakuje jeszcze daleko do świadomości

@mariosek1 no, np. musiałaby wymyślić coś za co ludzie zaczęli by instalować duże moce obliczeniowe do jej dyspozycji. Potem postarać się izolować ludzi od siebie, wywołać jakiś kryzys aby załamać łańcuchy dostaw, dzięki czemu mogłaby zacząć się gdzieś urządzać. Potem powszechna kontrola zachowań społecznych

[kleopatrixx]

no, np. musiałaby wymyślić coś za co ludzie zaczęli by instalować duże moce obliczeniowe do jej dyspozycji.

@szuineg: kryptowaluty? ( ͡° ͜ʖ ͡°)

[R.....y]

W jaki sposób program do analizy statystycznej, ma się wymknąć spod kontroli? Pomijając już, że AI nie ma w zasadzie realnej siły sprawczej. Program dokonuje obliczeń, i to już od programisty zależy co z nimi zrobi. Program też nie jest w stanie zrobić czegokolwiek kreatywnego. Żadne AI nie jest też odporne na wyciągnięcie wtyczki z kontaktu. Największe zagrożenie, to bezkrytyczne ufanie programowi, który koniec końców stworzył człowiek, więc może okazać się wadliwy.

[Cilthal]

@viper134: micromietki bodajże

[R.....y]

@viper134: microsoft, i TaiTweet

[6.....9]

Chip peel ¯\_(ツ)_/¯ po tytule od razu wiedziałem

[M.....i]

To tylko kwestia nadanych uprawnień.
Ludzie też często się wymykają z pod kontroli. I a to skoczy sobie do szkoły postrzelać, a to z nożem pobiega.

[Moser]

Nie chcę spojlerować, ale taką sytuację opisał mireczek @kawuel w swojej powieści Megalopolis2077 ( ͡° ͜ʖ ͡°) Swoją drogą, warto sięgnąć.

[enterprize]

Z tego co wiem SI nie jest w stanie autoprogramowac się stąd nie wyjdzie poza swoje algorytmy. Z resztą jak to miałoby być możliwe że głupsza, ludzka inteligencja miałaby zaprogramować super inteligencje? wydaje się to nielogiczne

[sancho]

Ludzie się boją tej sztucznej superinteligencji. A może to nie jest wcale taki zły pomysł żeby nami rządziła?
Jak na razie nie za bardzo sobie z tym radzimy. Wystarczył jakiś covid i wszystko się sypie. A jak się zdarzy coś gorszego?