[BiauekRemover]

Nie mam pojęcia gdzie OP robotę dostał, ale po wrzuceniu Claude na bazkę z wrażliwymi danymi, i to jeszcze produkcyjną, pozostaje chyba tylko mieć nadzieję że to organ państwowy dla sąsiedniego województwa xddd

[t.....2]

@BiauekRemover: to jest ogólnie problem z tą technologią. Ona halucynuje i jest niedeterministyczna. W 90% może działać dobrze w 10% zachowa się inaczej i coś się złego stanie. Jak ktoś używa za dużo agentów to zaczyna im ufać, zaufanie powoduje, że coraz to kolejne uprawnienia są im przyznawane i coraz słabiej się ich sprawdza. Ludzka psychologia działa przeciwko nam bo zaczyna się antropomorfizacja i nawet nie przychodzi do głowy, że

[some_ONE]

@BiauekRemover: ja też już widziałem przypadki gdzie deweloperzy dają agentowi dane (read/write!) do połączenia do produkcyjnej bazy żeby coś tam zweryfikował ( ͡° ͜ʖ ͡°)

[perfidnyplan]

@BiauekRemover: powinien być jakiś wentyl bezpieczeństwa, osobny model żeby sprawdzał czy ten główny dobrze zrozumiał polecenie

[szefczyk]

@some_ONE: zacznijmy od tego ze dev nie powinien mieć wjazdu na prod db - idealnie gdy firma tworzy dbass team który zapewni i wdroży bezpieczne podejście do baz produkcyjnych - wiem.. marzenia ściętej głowy

[BiauekRemover]

@perfidnyplan: no właśnie jest i to nawet całkiem sporo, masz jeden mocny model który dzieli task na podtaski dla tańszych/szybszych/wyspecjalizowanych modeli i waliduje ich output w pętli aż nie uzna że pora żebyś Ty zerknął, lub enter chociaż nacisnął. Trochę taka zabawa w simsy albo korpo, przeniesiona 1:1 w założeniach w świat AI :D

Tylko haczyk leży gdzie indziej: to są głównie open source'owe biblioteki i rozwiązania, które zwykle wymagają

[perfidnyplan]

@BiauekRemover: Myślę że zrozumiałem połowe tego co napisałeś, jak nie mniej. Ja jestem na poziomie chłopskiego rozumu - czyli jakiś model który sprawdza czy inny model dobrze zrozumiał polecenie zanim wykona akcje.
Albo inaczej, po prostu model sprawdzający wczesniej, czy prompt użytkownika nie wprowadzi model w błąd - więc go poprawia, zmienia.
A może te dwie opcje na raz. Domyślam się że jest coś takiego.
Ale jeśli to ma działać

[tyrytyty]

@BiauekRemover: piękny rant, piękne, prosto z mojej duszy to wyjąłeś

[BiauekRemover]

@perfidnyplan: wręcz przeciwnie - to właśnie jest esencja chłopskiego rozumu, czyli domyślnych założeń. Jak powiesz chłopu „kup jajka”, to kupi kurze, bo mniej więcej wie, co żona pewnie chce na sobotnie śniadanie.

Z AI jest podobnie, bo też działa na zasadzie prawdopodobieństwa w dużym uproszczeniu, tylko problem leży w tym, na ile zna Ciebie i kontekst. Mówisz modelowi „kup jajka” i owszem, kupi - ale nie wiadomo ile, jakie i