Nie można powstrzymać superinteligencji: wnioski z teorii obliczalności
O pomyśle obalenia ludzkości przez sztuczną inteligencję mówi się od wielu dziesięcioleci, naukowcy właśnie wydali werdykt, czy będziemy w stanie kontrolować superinteligencję komputerową wysokiego poziomu. Odpowiedź? Prawie na pewno nie. Artykuł po angielsku + tłumaczenie w komentarzu.
contrast z- #
- #
- #
- #
- #
- #
- 177
Komentarze (177)
najlepsze
Zasady takie jak „nie szkodzić ludziom” nie mogą zostać ustalone, jeśli nie rozumiemy, jakiego rodzaju scenariusze wymyśli sztuczna inteligencja - sugerują autorzy nowej pracy. Gdy system komputerowy działa na poziomie przekraczającym możliwości naszych programistów, nie możemy już ustalać limitów.
co jest kuriozum. Bo pamięć dowolnego systemu jest ograniczona, więc ilość możliwych konfiguracji w jakiej się znajdzie też, co przeciwstawia się tezie o możliwości symulacji dowolnej inteligentnej maszyny i czyni wątpliwym użycie dowodu o niedecydowalności Turinga (maszyna ze skończoną pamięcią musi się zatrzymać, bądź powtórzyć swój stan), to
To, że Ty dostrzeżesz zagrożenie na czas nie znaczy, że wszyscy ludzie rzucą całe swoje życie i dorobek zawodowy w otchłań bo jakiemuś typowi wydaje się, że system którego wszyscy używają jest niebezpieczny dla ludzkości.
Aby zrozumieć z czym tu mamy do czynienia trzeba zastanowić się w
Tymczasem ludzie skacza sobie do gardel lub probuja ogarnac co sie odwala i kto jest za to odpowiedzialny.
Milony mrowek bez krolowej w terrarium kontra ich hodowca.
@Lord_Stannis: dlaczego zakładasz, że SI odczuwa strach?
Z drugiej strony ksztaltujac SI, izynierowie chca nadac lub zaprogramowac jej cos ala osobowosc.
Oczywiscie nie mam pojecia jak wyglada superinteligencja, jednak skoro jest wieloplaszcyznowa to zakladam ze nie bedzie to twor tylko na modle supekomputera. Gdzies czytalem ze obecne SI potrafia symulowac sobie osobowosc, charakter.
Co to w ogóle za życie, w którym może być "za dobrze"? j#%&ny absurd.
Jest cała książka o takich rozważaniach "Superinteligencja"
Swego czasu Elon ją cytował.
Tak jak u mężczyzn. Co z tego, że są inteligentniejsi od kobiet, skoro wystarczy, że lekko jaja spuchną i przestają myśleć.
może matrix
terminator raczej nie
o ile już nie jesteśmy symulacją :D
Co prawda Elon ma swoje obawy co do tego, ale warto się zastanowić.
Powinien być o tym film. Już widzę te latające w przestrzeni kosmicznej drukarki 3D z Marsa.
1. Sektor militarny. SI daje przewagę bojową, od sterowania pojazdami (tu wystarczy umiarkowana inteligencją SI), poprzez dowodzenie oddziałami, do tworzenia taktyki i strategii - do tych dwóch ostatnich pewnie już dziś są tworzone Super SI. USA i Chiny mogą już wkrótce posiadać taka technologię, tajnie opracowywaną.
2. Sektor państwowy. Super SI to krok w Osobliwość Technologiczną, czyli w moment kiedy technologia i nauka
w mojej opinii jesteś analfabetą matematycznym oraz w kwestiach związanych z AI
@thexDguy: Przynajmniej nie jestem bucem... ( ͡° ͜ʖ ͡°)
Superinteligencja to będzie zupełnie inny poziom abstrakcji. Wyobraź sobie, że chcesz nauczyć mrówkę fizyki kwantowej - jakie jest prawdopodobieństwo, że
mrówka zrozumie o co Ci chodzi? Prawdopodobieństwo zrozumienia przez nas superinteligencji i jej zachowań będzie mniej więcej takie samo.
@revinPL: Ten etap mamy za sobą. "Golem IV" i opowiadania w Apokryfach i Próżni doskonałej.