Naukowcy o AI: Nie będziemy w stanie kontrolować super inteligentnych maszyn.
Korzystając z teoretycznych obliczeń, międzynarodowy zespół naukowców z Center for Humans and Machines at the Max Planck Institute pokazuje, że prawdopodobnie nie byłoby możliwe kontrolowanie superinteligentnej SI. Publikacja na łamach czasopisma Journal of Artificial Intelligence Research. ENG+TLDR
RFpNeFeFiFcL z- #
- #
- #
- #
- #
- #
- 308
- Odpowiedz
Komentarze (308)
najlepsze
***********************************************
Załóżmy, że ktoś miałby zaprogramować system SI o inteligencji przewyższającej inteligencję człowieka, tak aby mógł się on uczyć samodzielnie. Podłączona do Internetu, SI może mieć dostęp do wszystkich danych ludzkości. Mogłaby zastąpić wszystkie istniejące programy i przejąć kontrolę nad wszystkimi maszynami online na całym świecie. Czy spowodowałoby to utopię lub dystopię? Czy SI wyleczy raka, doprowadzi do pokoju na świecie i zapobiegnie katastrofie klimatycznej? Czy też zniszczyłaby ludzkość i przejęła kontrolę nad Ziemią?
Informatycy i filozofowie zadali sobie pytanie, czy w ogóle bylibyśmy w stanie kontrolować superinteligentną SI, aby zapewnić, że nie będzie ona stanowić zagrożenia dla ludzkości. Międzynarodowy zespół informatyków użył teoretycznych obliczeń aby wykazać, że byłoby fundamentalnie niemożliwe kontrolowanie super-inteligentnej SI.
Zacytuję swój stary wpis jeszcze raz tu:
Otóż SI nie będzie celowo chciała nas zabić,bo nas nie lubi czy obawia się dominacji człowieka (chociaż ostatniego nie
#gimbynieznajo
Cele SI nie muszą być zbieżne z naszymi. Jej potęga będzie polegała na tym, że będzie potrafiła zrobić rzeczy, o których nam się nie śniło, żeby
@mathmed: kiedys tworzyl dobra muzyke, ale wydawalo mi sie ze nie zyje.
@mathmed: nie sądzę żeby takie myślenie w ogóle miało tutaj zastosowanie. To co ludzie są w stanie zdefiniować i zweryfikować jako "wyłączenie" takiego systemu będzie dla superinteligencji tak proste do sfabrykowania jak oszukanie pięciolatka, że zabierasz go
Wyprostował się i skinął głową Dwarowi Reynowi, po czym przeniósł się na pozycję obok przełącznika, który miał załączyć kontakt, gdy go naciśnie. Przełącznik, który połączyłby jednocześnie wszystkie potworne maszyny obliczeniowe wszystkich zaludnionych planet we wszechświecie - dziewięćdziesiąt sześć miliardów planet - w superobwód, który połączyłby je wszystkie w jeden superkalkulator, jedną maszynę cybernetyczną, która połączy całą wiedzę o wszystkich galaktykach.
Dwar Reyn przemówił krótko do oglądających i słuchających bilionów. Następnie po chwili ciszy powiedział: „Teraz, Dwar Ev”.
Dwar Ev wcisnął przełącznik. Rozległ się potężny szum, przypływ mocy z dziewięćdziesięciu sześciu miliardów planet. Światła migotały i cichły wzdłuż długiego na mile panelu.
Dwar Ev cofnął się i wziął głęboki oddech. - Zaszczyt zadania pierwszego pytania należy do ciebie, Dwar Reyn.
- Dziękuję - powiedział Dwar Reyn. „To będzie pytanie, na które żadna maszyna cybernetyczna nie była w stanie odpowiedzieć”.
@secret_passenger: dopiero teraz znalazłem. strona 9 w pdf, 7 faktycznie (w rogu strony), nie 10. Swoją drogą jak to było, że nie podawali tam autorów? Trochę dziwne..
ano prawda ;)
Tego właśnie wielu nie jest w stanie zrozumieć.