Wystarczyło 9 sekund. Sztuczna inteligencja prawie zrujnowała firmę

Miała być pomoc w pracy, skończyło się katastrofą. Założyciel aplikacji poskarżył się w sieci, że agent AI usunął całą bazę danych.

[HabaHabaZutZut]

Nie sztuczną inteligencją zrujnowała tylko nieumiejętność jej stosowania.

Tytuł sugeruje że to młotek rzucił się na operatora i mu palce połamał podczas gdy w rzeczywistości to operator p--------ł się młotkiem.

[smiech2]

nieumiejętność jej stosowania

@HabaHabaZutZut: Ja bym bardziej tutaj zwrócił uwagę na to, że niby miała wpisaną dyrektywę, by nie niszczyć i nie psuć... a zniszczyła i popsuła.
Jak będzie dyrektywa, żeby nie rozjeżdżać ludzi i nie strzelać do nich, a jednak rozjedzie i zastrzeli?

[r1fez]

@HabaHabaZutZut: Ja bym to bardziej porównał do gry w rosyjską ruletkę, bo LLMy są niedeterministyczne i absolutnie nie są inteligentne, a tylko papugują to czego się nauczyły z tekstów, zaś agenty to jest prompt za promptem, ze sprzężeniem zwrotnym i dostępem do narzędzi. Młotek zachowuje się w pełni deterministycznie: jak wbijasz jeden gwóźdź to wbijasz jeden, młotek sam z siebie nie wbije 3 dodatkowych i nie połamie deski ( ͡

[fantazm]

AI jest o tyle niebezpiecznym narzędziem, że tak jak niektórzy ludzie których znamy z codzienności - nie jest "kompetentne" w sensie stricte, jest tak kompetentne jak materiał źródłowy, ale jak umie zaczarować retorycznie i słownie to oooo!

Jak to było w tym memie.. Podejrzewam, że płatne są może trochę lepsze, ale czy aż tak to właśnie się weryfikuje ... ;)

[fantazm]

@kipowrot: Ja dużo korzystam z AI darmowego nawet, jak na szybko chcę coś znaleźć, przetłumaczyć na angielski, czasem zrobić bardzo szybkie przeliczenia np. wrzucam prompt "oblicz optymalną średnicę rurociągu dla przepływu oleju opałowego w ilości X m3/h przy warunkach blablabla" i zwraca mi bardzo ładnie wynik. Czasem też wykorzystuję go do sprawdzania wyników konkretnych wzorów empirycznych jak robię własne formatki obliczeniowe, taki dodatkowy etap sprawdzania. Zawsze sprawdzam co mi zwróciło,

[fantazm]

@GlupiLogin: Serio ? Jak dotąd się takie prościzny zgadzały :) A złożonych przeciez nie wrzucam.

[3mortis]

Ten temat w ostatnich dniach byl juz wielokrotnie walkowany
totalnie nieodpowiedzialnie skonfigurowana firma ktora rownie dobrze uwalil by stazysta gdyby go wpuscic bez tlumaczenia i kazac wszystko samemu robic

backupy trzymane razem z produkcja, dostep do rzeczy do ktorych ai mialo nie miec dostepu i tak dalej

To przyklad idiotycznego uzywania AI "bo to modne", bo inni CEO uzywaja...
a potem mamy brak ramu i centra danych palace planete zywcem wlasnie zeby

[sylwke3100]

To przyklad idiotycznego uzywania AI "bo to modne", bo inni CEO uzywaja...

@3mortis: To pewnie było używane nie bo modne tylko ktoś wmówił zarządowi albo inwestorom że się na tym zaoszczędzi (oczywiście kij tam z szczegółami)

[killuawykop]

@3mortis: przeciez gdzies tam w artykule bylo ze odzyskali backup z poprzedniego dnia wiec mega dramatu nie bylo :)

[nilmerg]

I to jest właśnie dowód na jej zaawansowanie, coraz wierniej odgrywa rolę junior developera, zabrakło kontroli seniora ;)

[maniek-maniewski]

@nilmerg: lepiej, przeanalizowała dane i się okazało, że właściciel firmy się zajeżdża przez pracę więc mu zlikwidowała firmę i teraz dopiero chłop zacznie odżywać i się spełniać w życiu.

[kanis-sapiens]

Działanie AI bardziej przypomina mi śnienie, niż świadomość na jawie, stąd te dziwne zachowania.
W śnie też mają miejsce takie osobliwości jak sześć palców, dziwne zwierzęta, nienaturalne sceny itp.
Senna rzeczywistość jest poza kontrolą świadomości i tak jest też z AI - choćby nie wiadomo jaką ilość filtrów i korekcji dokładano, nadal to będzie nierealne śnienie.

[Fitek22]

@kanis-sapiens: nie tyle jest po za kontrolą świadomości co po prostu tworzy świat bez danych, zlepia go z wspomnień/doświadczeń, świadomie sobie nie renderujesz obrazu/odczuć ze zmysłów, świadomie odbierasz to co inne części mózgu dla Ciebie obrobią.

[kanis-sapiens]

@erbgleati: Choćby nie wiem jak "świadomy" był ten sen, nie dorównuje trzeźwemu myśleniu na jawie.

[CzasGinac]

No podstawowym problemem jest to że to nie jest „inteligencja” 🙃

Przy czym wszyscy twierdzą że jest. A potem mamy takie kwiatki… ci debile teraz chcą używać tych rozwiązań do zarządzania uzbrojeniem

[zbanowalimniezalinkadointerii]

@CzasGinac: jest to napierdzielanie kostkami do gry w model matematyczny sieci neuronowej. Jest to symulacja inteligencji, i jest ona bardzo mocna i dokładna. Problem w tym że myli jak człowiek ale czasami się nie dopyta i pójdzie w minimum lokalne zamiast globalne. I wtedy jesteś cooked

[kacper-gorski-12]

kazdego profesjonalnego EJ-AJA można zastąpic skończoną ilością darmowych EJ-AJÓW!

[Edisni]

I jaką mu dać karę? Finansowa odpada, więzienie odpada, nagana - tak nagana będzie skuteczna!

[Luciferrrro]

Mógł zacząć od takiego prompta: