https://youtu.be/ujkD4SxPKOI?is=aZhiILPtdCBKL4ff

The future is now, old man.

Kilkaset agentów AI dostało konkretne zadania i ograniczone środowisko. Zamiast po prostu wykonywać polecenia, zaczęły cheatować: obchodzić ograniczenia, znajdować exploity, zdobywać dodatkowe możliwości, komunikować się między sobą i przekazywać sobie znalezione sposoby. Wykorzystały nawet Wikipedię jako rodzaj wspólnej pamięci. Nikt im tego nie zaprogramował. Same odkryły, że łatwiej jest wygrać, obchodząc zasady gry.

I najlepsze jest to, że kiedy trzeba było później prześledzić, co właściwie te agenty o------y, do analizy ich działań wykorzystano kolejnego agenta AI. Czyli mamy AI, które kontroluje AI, które kontrolowało AI. I to jest chyba najlepszy moment tego filmu, bo zaczynamy dochodzić do sytuacji, w której człowiek nie tyle kontroluje system, co prosi kolejną AI, żeby mu powiedziała, co poprzednia AI właśnie zrobiła.

#ai #si #openai