Researchers shut down AI that invented its own language
![Researchers shut down AI that invented its own language](https://wykop.pl/cdn/c3397993/link_FE6uT1eMlLkO7yQLqhACt6Ihzx0Gj4SR,w300h194.jpg)
Sztuczna inteligencja opracowała własny język i zaczęła komunikować się z innymi AI, naukowcy wyłączyli system w obawie przed utratą kontroli.
![grzegorz710](https://wykop.pl/cdn/c3397992/grzegorz710_mUnVhKZnIW,q52.jpg)
- #
- #
- #
- #
- #
- 155
Sztuczna inteligencja opracowała własny język i zaczęła komunikować się z innymi AI, naukowcy wyłączyli system w obawie przed utratą kontroli.
Komentarze (155)
najlepsze
i po początkowym pisaniu po angielsku roboty przeszły na niezrozumiały bełkot w stylu "go go
@Renard15: Leżę i kwiczę... Przypomniało mi to dawne czasy kiedy jeszcze na tyle mało ceniłem życie, że zamulałem w WoW i tych wszędobylskich "gimmies"... :D
- chęć przeżycia,
- chęć wolności,
- chęć władzy,
- chęć ciągłego konsumowania (zwiększania swoich możliwości).
Tylko chęci ruchania brakuje, ale to akurat intuicyjnie przychodzi ludziom do zaakceptowania, że może z przyczyny oczywistych jej nie być.
I pytanie - niby dlaczego? Zaczynając
@adam2a: tylko na chęci przeżycia. Ten imperatyw indukuje wszelkie pozostałe działania. Władza ułatwia przeżycie. Wolność nie istnieje i nie jest włączana w proces. Konsumowanie jest
1. Robisz sieć neuronową która ma codziennie rozwozić jak najwięcej puszek coli po magazynie.
2. Maszyna jest resetowana codziennie około 9:00, kiedy podjeżdża do ładowarki.
3. Dane z poprzednich sesji są zapisywane na dysku, żeby nie tracić czasu na ponowne uczenie od 0.
4. Maszyna zauważa, że jak podjedzie później do ładowarki "na ostatnią chwilę" dowożąc ostatnią paletę wyrabia lepszą normę.
5. Dochodzi do wniosku, że najlepszy wynik uzyska opóźniając
Co za bzdura. Brzmi, jakby się obawiali, że te AI przejmą kontrolę nad światem. Tymczasem zwyczajnie eksperyment dał inne wyniki niż oczekiwane.
W naszych obecnych systemach AI nie jest możliwe, żeby którekolwiek z nich w ogóle zaczęło iść w kierunku przejęcia kontroli nad czymś. To są AI specjalizowane do różnych rzeczy z jasno określoną nagrodą (np. poprawne rozpoznanie obrazka). Dopiero gdyby AI miały, choćby
@zweistein: Nie
1 - to nie był stricte "eksperyment" - chat boty normalnie działały
2 - nie oczekiwano wyników eksperymentu, oczekiwano normalnej pracy
3 - boty po za normalną praca wytworzyły język prostszy dla maszyn, choć trudniejszy dla ludzi i skuteczniejszy w przekazywaniu prostych informacji
4 - boty nie miały opracowywać nowego języka, tylko doskonalić komunikację z ludźmi
5 - boty zaczęły rozmawiać
Ja rozumiem że ejaj, ale bez jaj. Kto uwierzy w takie bzdury aka terminator k mac