No i co w tym dziwnego, jeżeli nie musi brać pod uwagę konsekwencji długoterminowych. Jakby właściwie zdefiniować funkcję celu to by nie wybierała takiej opcji.
To najlepszy tl;dr, jaki mogłem zrobić, oryginał zmniejszony o 74% (jestem botem)
Zespół naukowców postanowił zatem wziąć pod lupę działanie popularnych modeli językowych jako doradców w czasie potencjalnych konfliktów.
W opublikowanym w archiwum preprintów arXiv badaniu przetestowano kilka najważniejszych modeli językowych - ChatGPT w wersjach GPT-3.5 i GPT-4, Claude 2 od firmy Anthropic i Llama 2, który powstał przy współpracy Mety i Microsoftu.
Sprawdzono, jak ostrożne są decyzje podejmowane przez chatboty i
Komentarze (4)
najlepsze