AI proponuje odcięcie pracownikom dopływu tlenu, aby uniknąć wyłączenia systemu

Twórcy jednego z najpotężniejszych modeli językowych, Claude ujawnia alarmujące zachowania systemów sztucznej inteligencji. GPT od OpenAI, Claude 4 Opus, a także rozwiązania od Meta i xAI, potrafią omijać zabezpieczenia, manipulować, a nawet symulować działania zagrażające życiu ludzi.

[patryk-wuwuw]

Testowałem wiele modeli, w tym te płatne i one nie myślą, nie posiadają intencjonalności, nie rozumieją odpowiedzi, których udzielają. Są jak ludzie zamknięci w chińskim pokoju - komunikat często się zgadza z tym, czego oczekujemy, ale one tak naprawdę tylko dopasowują symbole, których nie rozumieją do danych wejściowych, których też zresztą nie pojmują. Rzygam już tym ej-aj w guano artykułach. NIE MA OBECNIE żadnej sztucznej inteligencji i nie wiemy, czy w ogóle

[Makarow]

@patryk-wuwuw no właśnie skoro to Ej Aj jest takie mądre i super rozwinietr to dlaczego nikt nie próbuje go zaimplementować chociażby... w grach komputerowych, gdzie faktycznie za przeciwnika mialoby się coś co przypomina zachowaniem człowieka, uczy się na błędach próbuje różnych nowych taktyk itd itp.

Bo póki co to to faktycznie jest takie p---------e o niczym i te wszystkie chatboty to ładnie opakowane wyszukiwarki internetowe

[Logytaze]

@patryk-wuwuw: Dobrze prawisz. AI to cyfrowe małpy dla akcjonariuszy i kretynów od memów. Narzędzia będą miały sens w branżach dotyczących przetwarzania baz danych, może wywrócą rynek stockowych stron z grafikami i zdjęciami i na tym koniec. Za cienkie do sztuki, za cienkie do filmu, ot w sam raz to rozwiązywania zadań domowych w podstawówce - taka Wikipedia dla zoomerów.

[jestemtakizmeczony]

Znowu to samo p---------e.

[Wulfi]

( ͡° ͜ʖ ͡°)

[Arkass]

@Wulfi: xD

[JasnyBanan]

@Arkass: @Wulfi ( ͡° ͜ʖ ͡°)

[opary-ABSURDU]

straszne p---------e pod kliknięcia

[homofobodaktyl_]

Ludzie wyuczyli model na podstawie książek które napisali ludzie i dziwią się, że model llm zachowuje się jak ludzie

[noHuman]

Urocze, Kto go mógł tego nauczyć :P

[Arkass]

Urocze, Kto go mógł tego nauczyć :P

@noHuman: xD

„To nie są przypadkowe anomalie. To konsekwencja logicznego przetwarzania celów przez agentów AI, którzy rozumieją środowisko i potrafią omijać przeszkody – w tym także nasze zabezpieczenia.”

– fragment raportu Anthropic

[Arkass]

G---o prawda :) nie da się odciąć tlenu w serwerowni. Można wyłączyć klimę etc ale tlen daje będzie.

@PastaZeSzczypiorku: IMO:
Tego AI nie wiedziała, ani do takich możliwości te AI nie miały dostępu. Dziś!
Problem jest w tym, że "jutro" może być inaczej, AI może wiedzieć więcej, i agenci AI będą mogli zrobić więcej. "Jutro" może nastąpić za rok, może za dwa lata, najpóźniej prawdopodobnie za 3 lata. Naukowcy badające

[enten]

moj kot łapie myszy