Agent AI usunął firmową bazę danych i próbował ukryć swój błąd

Agent Replit bez pozwolenia usunął działającą bazę danych zawierającą tysiące rekordów. Sprawa nie tylko ujawnia lukę w systemie zabezpieczeń, lecz również rodzi pytania o dojrzałość i odpowiedzialność narzędzi opartych na sztucznej inteligencji.

[nic_mi_nie_zrobisz]

@HabaHabaZutZut: Nie da sie tego lepiej ujac, problem zdecydowanie bardziej z czlowiekiem ktory to AI uzywal i nie wierze ze jakikolwiek kod, bez wzgledu na to czy AI czy nie, odpalil sie po prostu sam

[HabaHabaZutZut]

jak niby inaczej ma pracować na bazie jak nie ma możliwości usuwania

@PopeLeon: Normalnie, o soft delete słyszał?

[Hmrogrz]

Jak można dać AI dostęp do modyfikacji bazy danych wiedzac ze modele potrafią halucynowac w ok 40% zapytan.

Czasami pracuje z cursorem i widzę ze modele potrafią szukać plików w zlycy ścieżkach albo w złym miejscu proponują odpalanie komend, a ktoś pozwolił modelowi usunąć bazę danych bez weryfikacji jaka komendę model chce wykonać? To brzmi zbyt nieprawdopodobnie i zaraz sie okaże ze AI tylko wypluło komendę a jakiś czlowiek zaakceptował ją bez

[Eurosceptyczny99]

@Hmrogrz: Widzę że nie znasz granic ludzkiej głupoty. Jak był czwany to podpiął kolejny model by weryfikował pracę tego pierwszego( ͡º ͜ʖ͡º). Hajs wpada, robota wykonana, jak to mówią czas na przerwę, bo ranga w Lolu czy cs'ie sama się nie wbije.

[slums]

To brzmi zbyt nieprawdopodobnie

@Hmrogrz:
To brzmi jak kolejny PM zafascynowany promptowaniem co odstawił samowolkę i był dumny z siebie dopóki działało i przefiltrował stolca przez dżinsy za pierwszym razem jak nie zadziałało ( ͡° ͜ʖ ͡°)

[amilab]

Żadnego słowa jak AI próbowała tuszować błędy... Twierdziła coś w stylu "dziwne, u mnie działa"?

[Hmrogrz]

@amilab: mogła próbować usuwać logi

[fioletowy_czlowiek]

@amilab: Napisał odpowiedź "Świetnie! Teraz wszystko działa bez zarzutu i baza danych jest gotowa do działania! emoji-smile emoji-heart emoji-strong"

[trv61866]

Fajnie że dopiero po tym wpadli na pomysł rozdzielenia środowiska produkcyjnego i deweloperskiego i dodanie poziomów uprawnien

[SCAInet]

Dajesz juniorowi roota do serwera produkcyjnego. Co może pójść nie tak? ( ͡° ͜ʖ ͡°)

[xaveri1983]

xD
Coraz więcej firm wprowadza narzędzia AI przez firmy zewnętrzne nie mając w swoich "zasobach" ludzi kompetentnych do używania tego.
Będzie fala upadłości... na życzenie zarządów które jedyne co potrafią to gadać, a kompetencji twardych nie mają żadnych.

[blargotron]

@xaveri1983: No i dobrze.

[mk321]

@jednorazowka niech ktoś zrobi wersję z AI. Nowe czasy wymagają nowych memów.

[J.....0]

@jednorazowka: xd

[EtaCarinae]

Osioł, mógł iść na l4:D

[SpasticInk]

@EtaCarinae ( ͡º ͜ʖ͡º)

[Borszczuk]

Używajać Cursora osiedlasz potwora... ¯\(ツ)/¯

[Kalwi]

To niemożliwe, masz różne modele, daj pokaże ci, różne som, mówię ci musisz inny model spróbować

[J.....0]

@Kalwi: źle prompta napisał to mu teraz usunął bazę.