Amerykański sygnalista Jacob Coxon:
Dzisiaj zrezygnowałem z pracy w Anthropic. Przez ostatnie trzy lata zajmowałem się badaniami nad pretrainingiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto w kierunku samodoskonalącej się superinteligencji i ryzykują naszym życiem. Poniżej kilka moich dalszych przemyśleń.
Nie lekceważcie potęgi tej technologii. Wkrótce będą to systemy przewyższające człowieka, które będą potrafiły włamywać się do wszystkiego, w ciągu jednej nocy zrewolucjonizować dowolną dziedzinę
Dzisiaj zrezygnowałem z pracy w Anthropic. Przez ostatnie trzy lata zajmowałem się badaniami nad pretrainingiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto w kierunku samodoskonalącej się superinteligencji i ryzykują naszym życiem. Poniżej kilka moich dalszych przemyśleń.
Nie lekceważcie potęgi tej technologii. Wkrótce będą to systemy przewyższające człowieka, które będą potrafiły włamywać się do wszystkiego, w ciągu jednej nocy zrewolucjonizować dowolną dziedzinę
Więc scenariusz że AI przejmie świat jest prawdopodobny, a nikt tego nie zatrzyma, żaden kraj, bo teoria gry na to
źródło: image
PobierzEtap, gdzie AI się uczy na naszym dorobku już mamy za soboą.
Wchodzimy w etap, gdzie AI będzie wymyślało
gdzie jest błędne. Skąd samoudoskonalająca się inteligencja ma brać wiedzę jak się ulepszyć, jak ma weryfikować, że do ulepszenia doszło, moim zdaniem taki proces będzie wielokrotnie wolniejszy niż absorbcja kilku tysięcy lat zakumulowanej ludzkiej wiedzy.
dlaczego jest błędne?