Nie można powstrzymać superinteligencji: wnioski z teorii obliczalności
O pomyśle obalenia ludzkości przez sztuczną inteligencję mówi się od wielu dziesięcioleci, naukowcy właśnie wydali werdykt, czy będziemy w stanie kontrolować superinteligencję komputerową wysokiego poziomu. Odpowiedź? Prawie na pewno nie. Artykuł po angielsku + tłumaczenie w komentarzu.
contrast z- #
- #
- #
- #
- #
- #
- 177
Komentarze (177)
najlepsze
Zasady takie jak „nie szkodzić ludziom” nie mogą zostać ustalone, jeśli nie rozumiemy, jakiego rodzaju scenariusze wymyśli sztuczna inteligencja - sugerują autorzy nowej pracy. Gdy system komputerowy działa na poziomie przekraczającym możliwości naszych programistów, nie możemy już ustalać limitów.
co jest kuriozum. Bo pamięć dowolnego systemu jest ograniczona, więc ilość możliwych konfiguracji w jakiej się znajdzie też, co przeciwstawia się tezie o możliwości symulacji dowolnej inteligentnej maszyny i czyni wątpliwym użycie dowodu o niedecydowalności Turinga (maszyna ze skończoną pamięcią musi się zatrzymać, bądź powtórzyć swój stan), to
To, że Ty dostrzeżesz zagrożenie na czas nie znaczy, że wszyscy ludzie rzucą całe swoje życie i dorobek zawodowy w otchłań bo jakiemuś typowi wydaje się, że system którego wszyscy używają jest niebezpieczny dla ludzkości.
Aby zrozumieć z czym tu mamy do czynienia trzeba zastanowić się w
Tymczasem ludzie skacza sobie do gardel lub probuja ogarnac co sie odwala i kto jest za to odpowiedzialny.
Milony mrowek bez krolowej w terrarium kontra ich hodowca.
@Lord_Stannis: dlaczego zakładasz, że SI odczuwa strach?
Z drugiej strony ksztaltujac SI, izynierowie chca nadac lub zaprogramowac jej cos ala osobowosc.
Oczywiscie nie mam pojecia jak wyglada superinteligencja, jednak skoro jest wieloplaszcyznowa to zakladam ze nie bedzie to twor tylko na modle supekomputera. Gdzies czytalem ze obecne SI potrafia symulowac sobie osobowosc, charakter.
Co to w ogóle za życie, w którym może być "za dobrze"? j#%&ny absurd.