[vytah]

Eliezer Yudkowsky napisał felieton dla Time o tym, że należy natychmiast zaprzestać rozwoju AI zanim pozabija nas wszystkich oraz powstrzymywać wszelkie próby budowania dużych AI nawet z użyciem broni jądrowej:
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
https://www.lesswrong.com/posts/Aq5X9tapacnk2QGY4/pausing-ai-developments-isn-t-enough-we-need-to-shut-it-all

Shut down all the large GPU clusters (the large computer farms where the most powerful AIs are refined). Shut down all the large training runs. Put a ceiling on how much computing power anyone is allowed to use in training an AI system, and move it downward over the coming years to compensate for more efficient training algorithms. No exceptions for governments and militaries. Make immediate multinational agreements to prevent the prohibited activities from moving elsewhere. Track all GPUs sold. If intelligence says that a country outside the agreement is building a GPU cluster, be less scared of a shooting conflict between nations than of the moratorium being violated; be willing to destroy a rogue datacenter by airstrike.

Frame nothing as a conflict between national interests, have it clear that anyone talking of arms races is a fool. That we all live or die as one, in this, is not a policy but a fact of nature. Make it explicit in international diplomacy that preventing AI extinction scenarios is considered a priority above preventing a full nuclear exchange, and that allied nuclear countries are willing to run some risk of nuclear exchange if that’s what it takes to reduce the risk of large AI training runs.

Jakby ktoś nie wiedział kim jest Yudkowsky: https://pl.wikipedia.org/wiki/Eliezer_Yudkowsky
W zeszłym roku napisał też listę przyczyn, dlaczego AI miałaby nas pozabijać: https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities
#chatgpt #ai #machinelearning #futurologia #sztucznainteligencja

[heniek_8]

Shut down all the large GPU clusters

@vytah: czyli amerykanie powinni zamknąć temat, a chińczyki mogą robić co chcą w tym czasie?

[H.....8]

be willing to destroy a rogue datacenter by airstrike

@vytah: aj waj ( ͡° ͜ʖ ͡°)

[pa6lo]

czyli amerykanie powinni zamknąć temat, a chińczyki mogą robić co chcą w tym czasie?

@heniek_8: Przecież napisał, że "There can be no exceptions, including for governments or militaries."

[vytah]

@heniek_8: Nie, napisał, że jeśli Chińczycy będą coś robić, to trzeba ich bum

[heniek_8]

napisał, że jeśli Chińczycy będą coś robić, to trzeba ich bum

@vytah: spoko pomysł jak na jakiegos Eliezer Yudkowsky :) gdybym był POTUS to pewnie bym się zastosował