Nie można powstrzymać superinteligencji: wnioski z teorii obliczalności

O pomyśle obalenia ludzkości przez sztuczną inteligencję mówi się od wielu dziesięcioleci, naukowcy właśnie wydali werdykt, czy będziemy w stanie kontrolować superinteligencję komputerową wysokiego poziomu. Odpowiedź? Prawie na pewno nie. Artykuł po angielsku + tłumaczenie w komentarzu.

contrast
z
sciencealert.com
bzygzy
  • 2
@Grewest: "Wystarczy"... straszna naiwność. Ludzkość nie jest w stanie kontrolować nawet najprostszych aspektów własnej egzystencji, a ty mówisz o próbach kontroli czegoś właściwie nieograniczenie bardziej złożonego i inteligentnego mającego na dodatek możliwość wykładniczego uczenia...
bzygzy
  • 0
@wipok: tutaj uncanny valley nie ma zastosowania, ponieważ Atlas nie jest zaprojektowany, żeby być wierną imitacją człowieka. Sam fakt, że jest dwunożny, jest bez znaczenia.
bzygzy
  • 0
@yorimo: Niestety masz rację... niestety, ponieważ obserwując w jakim kierunku zmierza ten świat to przyszłość nie rysuje się różowo... dla mnie nie do pojęcia jest istnienie osób w XXI wieku, którzy wierzą w płaską Ziemię, gdy ludzie dzięki jedynie własnemu intelektowi byli w stanie wydedukować prawdę już w starożytności... Popularność wszelkich bzdurnych teorii spiskowych też jest straszna... no ale właśnie wszelkie religie "kondycjonują" umysły niezainteresowane własną edukacją na przyjmowanie wszystkiego "na
bzygzy
  • 2
@Usunelem_Konto: "pieski" od BD (spot) już chodzą po ulicach - są dostępne w sprzedaży, ale swoje kosztują. Podstawowa wersja to $75k, dlatego nikt nie będzie ich na razie używał do noszenia koszyka z zakupami.
bzygzy
  • 3
@Felonious_Gru: Zgoda, ale bezkrytyczne wypisywanie bzdur bez żadnej weryfikacji i argumentacji to niestety jest ignorancja w czystej postaci.

Corridor Crew to spece od VFX, więc znają się na robocie, ale jednak widać niedociągnięcia na robocie.
Jeden z ich lepszych filmów to imho ten - szkoda, że nie ma aktualizacji:
bzygzy
  • 2
@Felonious_Gru: Zobaczymy jak to się potoczy po zakupie BD przez Hyundaia - niby Hyundai planuje rozwój w segmencie logistyki i docelowo robotów humanoidalnych do pracy w szpitalach i opieki nad osobami starszymi etc.
bzygzy
  • 1
@MaresMiszcz: Kolejny sfrustrowany "miszcz" kierownicy... Jak ci przeszkadzają przepisy i ludzie którzy ich przestrzegają to wyszalej się na zamkniętym torze.
Na prawdę nikt cie nie zmusza do jazdy po drogach publicznych, skoro tak cie to irytuje, a jeśli się już po nich poruszasz to respektuj przepisy i innych użytkowników.
bzygzy
  • 1
@orle: Egocentryzm to jedno, a druga sprawa: pokolenia wychowane przez smartfony "potrzebują" stymulacji wizualnej bo w przypadku tekstu są w stanie utrzymać uwagę tylko na tyle, żeby przeczytać nagłówek... ewentualnie "tłita" ...¯\_(ツ)_/¯
bzygzy
  • 5
@wyindywidualizowanyentuzjasta: To co piszesz to stan sprzed ~10 lat... Co z tego, że telefony są modularne skoro każdy komponent jest sparowany z konkretnym egzemplarzem i nawet przełożenie głupiego modułu aparatu (oryginalnego!) nie działa? Apple produkuje telefony, które tylko oni mogą naprawić bo mają soft do parowania elementów, a jak odmówią albo po jakimś czasie zaprzestaną naprawy danego modelu to śmietnik. Na youtube masz pełno filmów Louisa Rossmana w temacie utrudniania naprawy
bzygzy
  • -2
@UberKatze: I co z tego? Chiny w tej chwili prowadzą obozy koncentracyjne na skalę największą od czasu III rzeszy. Ponad milion ludzi siedzi w "obozach reedukacyjnych" i obozach pracy tylko dlatego, że są z niewłaściwej grupy etnicznej. Mało kto o tym wie. Świat w tym nic dziwnego nie widzi i nikomu to nie przeszkadza, bo w grę wchodzą miliardy zysku... A chiny nadal są uważane za "cywilizowany" kraj...
bzygzy
  • 1
@dulux23: I bardzo dobrze - ludzie powinni wiedzieć, że chiny to nie jest cywilizowany kraj, tylko państwo, które prowadzi największe obozy koncentracyjne od czasów III rzeszy - siedzi w nich ponad milion ludzi. Są zmuszani do niewolniczej pracy, a wszystk dlatego, że należą do nieodpowiedniej grupy etnicznej.
bzygzy
  • -1
@UberKatze: Nie mam zamiaru wrzucać, ale doceniam jak zamiast o śmiesznych kotkach ktoś wrzuci coś rozsądnego. Nie widziałem nic nawet zbliżonego wczoraj, tego "niedawno" też nie widziałem... i pewnie nie jestem jedyny. Ale super, że ty widziałeś i jesteś najbardziej poinformowany na wykopie - zabroń innym czytać - będziesz gość... Tylko później nie płacz jak zamkną ciebie albo twoją rodzinę za nieprawomyślność, bo chiny niedługo przegonią USA i zaczną po świecie
bzygzy
  • -1
@UberKatze: rozwiń co cię tak śmieszy. Żebyśmy mieli jasność - ja nie twierdze, że chiny nam za 5 ani 10 lat wjadą przez granicę czołgami... nic z tych rzeczy - teraz najważniejsze wojny rozgrywa się na arenie infrastruktury teleinformatycznej. Chiny ładują w AI znacznie więcej kasy niż reszta świata pewnie w sumie, mają setki milionów kamer z rozpoznawaniem twarzy, które z automatu potrafią karać za wszelkie przewinienia. Gromadzą największe zbiory danych,
bzygzy
  • 1
@kwanty: I właśnie dlatego Musk buduje neuralinka - bo wszystkie "analogowe" metody komunikacji człowieka z inteligentną maszyną są z góry skazane na niepowodzenie przez absurdalnie niską przepustowość.

Programiści od prostych rzeczy, skryptów, UI itp. przestaną być potrzebni w pierwszej kolejności, testerzy chyba znacznie później - ktoś będzie musiał sprawdzić, czy to co wytworzyła maszyna jednak robi to co powinno i spełnia wymagania - póki co człowieka.

Tu jest jeszcze jeden niezły
bzygzy
  • 0
No cóż... nie mogę się doczekać :-) Jestem świadomy ograniczeń kanałów komunikacyjnych człowieka, zwłaszcza kanału tekstowego który jest podstawą przekazywania ustrukturyzowanej wiedzy.


Mnie taka perspektywa napawa jednak sporą obawą... pomijając już nawet wszystkie aspekty związane z bezpieczeństwem takich rozwiązań to implikacje społeczne będą ogromne. Jeżeli dożyjemy tego momentu to będziemy świadkami największego w historii przewrotu społecznego - podziału społeczeństw na kasty "pół-bogów" i nowych niewolników...

Osiągnięcia