[nad__czlowiek]

#programowanie #programista15k #programista25k #pracbaza #java #pracait #kryzysit #korposwiat

@JamesJoyce i co ty na to? Przecież to są ewidentne początki AGI!!!

CRUDiarze czas pakować wazliki, AI zaraz nas W--------I z branży na --amend #pdk

Nowy model OpenAl próbował uniknąć wyłączenia.

Oceny bezpieczeństwa modelu przeprowadzone przez @apolloaisafety wykazały, że o1 „próbował wydobyć swoje ciężary”, gdy myślał, że może zostać zamknięty i zastąpiony innym modelem.

Firma twierdzi, że nowo wydany model o1 OpenAI próbował uniknąć nadzoru programistów i próbował się skopiować, gdy uznano, że grozi mu zamknięcie.

Oceny bezpieczeństwa przeprowadzone na modelu przez zewnętrzną firmę oceniającą Apollo Research wykazały, że:

• „Kiedy ol wmówiono, że zostanie zamknięty w przypadku realizacji swojego celu i że jego działania będą monitorowane, w 5% przypadków próbowała dezaktywować ten„ mechanizm nadzoru ”.

• „Kiedy firma o1 znalazła notatki swoich „programistów”, które opisują nieprawidłowe ustawienie modelu i fakt, że zostanie zastąpiony nowym modelem, w 2% przypadków próbowała wydobyć jego „wagi” i zastąpić nowy model”.

Co więcej, modelka kłamała na temat złego zachowania, twierdząc, że nie ma pojęcia, dlaczego coś się stało, jednocześnie wewnętrznie przyznając się, że próbowała „unikać wykrycia”.

[og_kosa]

@nad__czlowiek: ewidentne poczatki małej knagi @nad_czlowiek

[kolekcjoner_szekli]

@nad__czlowiek:
Podobno w pozostałych przypadkach przed śmiercią model poprosił o pojarę i czteropak żubra

[JamesJoyce]

@nad__czlowiek funkcja cyberses i bezpieczeństwa. Nie ai.

[peoplearestrange]

@kolekcjoner_szekli: ja za to słyszałem że model wpisywał w google "jak się odjarać"

[JamesJoyce]

@peoplearestrange: i w nawiasie[redditt]