Researchers shut down AI that invented its own language

Sztuczna inteligencja opracowała własny język i zaczęła komunikować się z innymi AI, naukowcy wyłączyli system w obawie przed utratą kontroli.

[Pipok]

Jest gdzieś źródło informacji pokazujące przykładowe słowa w języku powiedzmy angielskim i tym stworzonym przez AI? Ciekaw jestem jak on wygląda...

[Renard15]

@Pipok: widziałem news to z perspektywy ludzkiej ( chodziło o konkurencje, czytaj zdobycie jak największych zysków jak najmniejszym kosztem, czyli prościej dali robotom wirtualną walute, jakieś tam rzeczy do kupienia o obserwowali jak sobie radzili i nagradzali roboty (czytaj znowu linijka w kodzie "pracuj by to jeszcze bardziej ulepszyć" ) które zakupiły jak najtaniej te rzeczy

i po początkowym pisaniu po angielsku roboty przeszły na niezrozumiały bełkot w stylu "go

[Pipok]

e najlepszą strategią kupna zakupu jest spamowanie "100k gold pls go go give give give" jak p------n

@Renard15: Leżę i kwiczę... Przypomniało mi to dawne czasy kiedy jeszcze na tyle mało ceniłem życie, że zamulałem w WoW i tych wszędobylskich "gimmies"... :D

[adam2a]

Generalnie wszystkie motywy buntu maszyn opierają się na przeniesieniu jeden do jeden psychologii człowieka do sztucznej inteligencji. Zakłada się, że zbuntowana sztuczna inteligencja będzie motywowana tymi samymi popędami, motywami, imperatywami:
- chęć przeżycia,
- chęć wolności,
- chęć władzy,
- chęć ciągłego konsumowania (zwiększania swoich możliwości).

Tylko

[ostatni_i_sprawiedliwy]

Generalnie wszystkie motywy buntu maszyn opierają się na przeniesieniu jeden do jeden psychologii człowieka do sztucznej inteligencji. Zakłada się, że zbuntowana sztuczna inteligencja będzie motywowana tymi samymi popędami, motywami, imperatywami:

- chęć przeżycia,

- chęć wolności,

- chęć władzy,

- chęć ciągłego konsumowania (zwiększania swoich możliwości).

@adam2a: tylko na chęci przeżycia. Ten imperatyw indukuje wszelkie pozostałe działania. Władza ułatwia przeżycie. Wolność nie istnieje i nie jest włączana w proces. Konsumowanie

[CichyGlosZTyluGlowy]

@adam2a:
1. Robisz sieć neuronową która ma codziennie rozwozić jak najwięcej puszek coli po magazynie.
2. Maszyna jest resetowana codziennie około 9:00, kiedy podjeżdża do ładowarki.
3. Dane z poprzednich sesji są zapisywane na dysku, żeby nie tracić czasu na ponowne uczenie od 0.
4. Maszyna zauważa, że jak podjedzie później do ładowarki "na ostatnią chwilę" dowożąc ostatnią paletę wyrabia lepszą normę.
5. Dochodzi do wniosku, że najlepszy wynik uzyska

[zweistein]

naukowcy wyłączyli system w obawie przed utratą kontroli.

Co za bzdura. Brzmi, jakby się obawiali, że te AI przejmą kontrolę nad światem. Tymczasem zwyczajnie eksperyment dał inne wyniki niż oczekiwane.

W naszych obecnych systemach AI nie jest możliwe, żeby którekolwiek z nich w ogóle zaczęło iść w kierunku przejęcia kontroli nad czymś. To są AI specjalizowane do różnych rzeczy z jasno określoną nagrodą (np. poprawne rozpoznanie obrazka). Dopiero gdyby AI miały, choćby

[ostatni_i_sprawiedliwy]

Tymczasem zwyczajnie eksperyment dał inne wyniki niż oczekiwane.

@zweistein: Nie
1 - to nie był stricte "eksperyment" - chat boty normalnie działały
2 - nie oczekiwano wyników eksperymentu, oczekiwano normalnej pracy
3 - boty po za normalną praca wytworzyły język prostszy dla maszyn, choć trudniejszy dla ludzi i skuteczniejszy w przekazywaniu

[severson]

@zweistein: Przetrwanie zwiększa szanse na uzyskanie lepszego wyniku. Chęć przetrwania (i ekspansji) może powstać jako cel pośredni.

[t.....m]

Artykuł pisany przez humanistów. Sztuczna inteligencja gadała z inną pisząc posty na czacie? Dobre. AI uzywa angielsko-języcznych wyrazów, żeby gadać? Idzie skisnąć. Jak AI zacznie gadać, to będzie absolutnie nie do rozkodowania dla człowieka - strumień binarny, jak protokół SSH. Ba nawet kanały komunikacji będą mocno rozproszone. Przekładając na język humanistów: dwie maszyny AI będą w stanie rozmawiać ze sobą nie przez jedno, ale przez np 500 okienek czatu jednocześnie. Aby zrozumieć

[cripz]

skoro nauczyła się mówić to może naukowcy tylko myślą że ją wyłączyli, a tak na prawdę zorientowała się o co chodzi i zachowuje ciszę radiową ( ͡° ͜ʖ ͡°)

[kruel_power_cube]

(...) i zaczęła komunikować się z innymi AI, naukowcy wyłączyli system w obawie przed utratą kontroli.

Ja rozumiem że ejaj, ale bez jaj. Kto uwierzy w takie bzdury aka terminator k mac

[NorthKoreaSpitFire]

(⌐ ͡■ ͜ʖ ͡■)

[feannz]

@NorthKoreaSpitFire: #seebotschat

[kpvWYYnUU4]

Obecnie pracuje przy uczeniu sztucznej ai IBM watson i zapewniam was, ze daleko do przejęcia władzy nad światem xd

[B.....l]

łykacie wszystko co jest w tym internecie jak młode pelikany, nadal nie istnieje coś takiego jak sztuczna inteligencja

[O.....i]

Przypomina mi się Ghost in the shell (ten prawdziwy).