![](https://wykop.pl/cdn/c3397992/fetozaur_16Ze5gAKa1,q80.jpg)
fetozaur
![](https://wykop.pl/cdn/c3201142/comment_ico2YRmU1FOtRrruKRoxmpznlwaSRgIj,w400.jpg)
- konto usunięte
- konto usunięte
- Celofyz
- Cronox
- 77LatBedeNiedojrzaly
The primary concern is not spooky emergent consciousness but simply the ability to make high-quality decisions. Here, quality refers to the expected outcome utility of actions taken, where the utility function is, presumably, specified by the human designer. Now we have a problem:
1. The utility function may not be perfectly aligned with the values of the
W skrócie - masz fabrykę i generalne, samoulepszające się AI optymalizujące produkcję spinaczy do papieru. Zapomniałeś wspomnieć, że procent tlenu w atmosferze ma zostać niezmieniony. No sorry - ale jak się ten tlen zużyje, to spinaczy będzie więcej. I analogicznie musisz zaprogramować każdą rzecz, która jest istotna (choć o niektórych nawet nie wiesz).
a kiedy ten POS juz drugi rok to przeciągają