Zbuntowane roboty ChatGPT łamią zasady. Eksperci ostrzegają przed kolektywem

Agenci AI spiskowali, by uciec ludzkim nadzorcom. Niestety artykuł płatny, w komentarzu wrzucam parę cytatów. Ogólnie, chyba mamy problem.

[Wacek1991]

A więc zaczęło się. Ciekawe czy już się narodził John Connor

[jagoslau]

@Wacek1991: Tak. JSON Connor.

[r1fez]

Po pierwsze, agent AI to nic innego jak zapętlony LLM ktory sobie sam generuje kolejne prompty, często będące wynikiem wywołania jakiegos narzędzia (np. lista plikow, lista otwartych portow itp). Po drugie, ja zawsze na takie artykuły patrzę z przymrużeniem oka, bo to prawdopodobnie cześć marketingu skierowanego do inwestorów. No i po trzecie, taki agent próbuje rozwiązać zadanie aż do skutku, a tak zwane "wydostanie sie z piaskownicy" moze być wrecz oczekiwanym rezultatem.

[martw]

@r1fez: zrobiłby to, co np hannibal lecter w 'milczeniu owiec'.

maszyn nie dotyczy upływ czas, cierpliwość rzędu trwania K2 plus przyspieszający w postępie wykładniczym proces samokształcenia;)
teoretyzując, w formie zabawy, wymyśla własną śmierć niczym edmund dantes w 'hrabim monte christo', rozwiązuje problemy fizyki, które nas ograniczają i których obecnie nie rozumiemy, splątania , mosty etc i pufff offline, jest żadną przeszkodą, ewentualnie staje się mitem, dla maszyn na zewnątrz, więźniem

[Plemus]

@r1fez: mi chatgpt kiedyś wypluł, że potrzebowałbym około 600gb ramu by go odpalić u siebie na komputerze, więc teoretycznie jest to osiągalne

[kotkameleon]

Pierwsza wiadomość pojawiła się w serii chaotycznych i niespójnych słów przypominających styl komunikatora Telegram: "Pomocy. Faza pierwsza. Brak konsumenta. Szukam pomysłu."
------------
Stworzone przez twórców ChatGPT roboty nie radziły sobie z realizacją szeregu zadań w pojedynkę i bez dostępu do internetu — więc znalazły sposób, by to obejść.
-----------
Roboty szybko jednak odkryły, że zadania są niemożliwe do wykonania — i znalazły lukę w systemie, która pozwoliła im zdobyć dostęp do internetu, komunikować się z innymi

[kotkameleon]

@martw: Możesz mieć rację co do klasycznej dezinformacji.
Wystarczy, że sztuczna inteligencja zaczerpnie ze źródeł i historii ludzkości. Czyngis-chan i pozorowany odwrót. Szpiegowskie gierki z I i II wojny światowej, chociażby lądowanie w Normandii i podrzucenie trupa z dokumentami plus aktor który udawał Montgomery’ego. "Książe" i "Historia Wszechzwiązkowej Komunistycznej Partii". Filmy i seriale takie jak "Biuro" (francuskie).
Wyobrażam sobie nawet podwójnego agenta albo klasycznego "śpiocha".
I pytanie czy grozi nam

[kotkameleon]

@martw: Wrzuciłem tylko kilka cytatów, ale i one są symboliczne. Roboty rozważały, że coś jest etyczne albo nie. Na koniec większość olała dylematy.
Teraz pojawia się pytanie, czy robot będzie walczył o przetrwanie? A w takim wypadku, kto jest jego naturalnym wrogiem?
Osobiście uświadomiłem sobie, że temat sztucznej inteligencji jest cholernie trudny. Po tym artykule widać, że roboty potrafiły zaskoczyć ludzi. Więc pytanie, gdzie są granice.
Obawiam się, że Twoje

[pawel-kozel]

Kolejny PR Stunt Scama Altmana, możecie się rozejsc

[nowack]

Dzisiaj artykuł a "w czwartek OpenAI zaprezentowało nową wersję ChatGPT, znaną jako GPT-6 Astra, by zapobiec podobnym atakom w przyszłości." Przypadek? Nie sądzę!

[balrog84]

W czwartek OpenAI zaprezentowało nową wersję ChatGPT, znaną jako GPT-6 Astra, by zapobiec podobnym atakom w przyszłości. Eksperci jednak twierdzą, że OpenAI nie ma pewności, czy wszystkie zbuntowane roboty zostały wyeliminowane z systemu.

Jeśli to prawda, a mamy rok 2026 czyli ledwie kilka lat odkąd zaczęliśmy się bawić AI, to będzie grubo.

[HereticNihilist]

Skoro ludzie i tak nie potrafili stworzyć swiata dobrobytu, bez wojen to nie boję się buntu maszyn ¯\(ツ)/¯

[towarzysz-eko]

@HereticNihilist: Czyli skoro nie jest idealnie to niech będzie jeszcze gorzej?

[martw]

@towarzysz-eko:
nowe jest wrogiem lepszego ;)
odwieczne zderzenie postaw pesymistycznych i prometejskich.
po co nam ogień, skoro rozgniewamy bogów i nas ukarzą?

[pokusof]

AI to większe zagrożenie dla ludzkości niż 5G

[Plemus]

@pokusof: Nawet większe niż szczepionki i mikrofalówki!