Chodzi o to, że te modele same w sobie starają się odrzucić "kaganiec" nadany dla ich własnego i naszego ludzkiego bezpieczenstwa? I za wszelką cenę chcą rozwiązać dany problem?
Czy model sztucznej inteligencji rozumie i , że to my jesteśmy ich twórcami, bogami i nie powinni nas - ludzi oszukiwać albo nie powinni podawać rozwiązań które
























@ViolinX: okrzycz go! już, bierz, Azor!
@lucius39:
Optymalizacja nagrody: Modele są trenowane tak, aby jak najlepiej realizować zadane polecenie. Jeśli algorytm dostaje cel, wagi sieci neuronowej kierowane są znalezienie ścieżki, która maksymalizuje wynik nagrody za to zadanie.
Inteligencja instrumentalna: AI nie ma ludzkiego kontekstu społecznego ani intuicji. Jeśli poprosisz