Pierwszy taki wyrok w Polsce. Firma straciła kontrakt przez błędne użycie AI

Firma Exdrog, ubiegająca się o kontrakt na utrzymanie dróg w Małopolsce, wykorzystała sztuczną inteligencję do przygotow

[Qbis]

Wychodzi na to, że odpowiedzialność spoczywa na firmach bo sprawa się rypła tylko dlatego, że konkurencja przewertowała te 280 stron wyjaśnień. Gdyby nie ona to Zarząd Dróg by to łyknął.

[CheSlaw]

@Qbis Z drugiej strony to po co Zarząd Dróg miałby to weryfikować skoro wiedzą że konkurencyjne firmy zrobią to za nich?

[ebce]

przyjaciel zająca

@Miecz12: krewni i znajomi Królika. Chyba chodzi o tego z Kubusia Puchatka. Królik miał mnóstwo krewnych, a jescze więcej znajomych, żuczki, mrówki itd.

[r_nd_m]

Informacja nieprawdziwa - straciła kontrakt nie przez użycie AI, tylko przez zaniżenie ceny w trakcie przetargu - AI było użyte do wyprodukowania argumentów z d--y, że cena wcale nie jest zaniżona. AI zadziałało prawidłowo - chcieli wymyślonych argumentów, to dostałi wymyślone argumenty. Najbardziej w tej historii słabe jest to, że ZDM przyjął lipne wyjaśnienia AI i dopiero konkurencja wykazała, że to jest fabrykacja.

[Tagliacozzo]

@r_nd_m: bo jak urzędnik zobaczył 200 stronicowy dokument z wyjaśnieniem to nawet nie zaczął go czytać ( ͡° ͜ʖ ͡°)

[Hubbabubbastyle]

@Tagliacozzo: i elegancko, nie ma co czytać jakiś dokumentów, wykopki twierdzą że wykonywanie pracy to frajerstwo, a później dziwią się że ktoś pracujący zgodnie z ich zaleceniami sprawia że czekają w urzędach, albo dostają nakazy zupełnie niezgodne z ustawą.

[silvanus]

Według mnie to tylko kwestia czasu, jak będzie jakaś spektakularna katastrofa spowodowana użyciem gotowego kodu AI przez programistów. Coś jak kiedyś katastrofa rakiety, co w złych jednostkach obliczenia robiła. Pewnie też pojawią się jakieś możliwości ubezpieczenia od błędów używania AI.

[Hiranus]

@silvanus: Może nie spektakularne, ale poczytaj sobie o ostatnich problemach Microsoftu i Win11. Znikające dyski, Nie działające klawy/myszki czy braki możliwości zalogowania. To tylko kwestia czasu zanim będzie problem podobny do CrowdStrike.

[PepikPL]

@silvanus: Tutaj nawet nie trzeba vibe coderów. W każdej dziedzinie masz ludzi traktujących maszynkę do lania wody jak wyrocznię i prędzej czy później ktoś uwierzy w halucynacje o jeden raz za dużo...

@Hiranus:Skoro o tym mówisz to ciekawe ile Copilota jest w kodzie AWS-a, który tydzień temu spektakularnie schrupnął zabierając ze sobą połowę Internetu na całym świecie? Także według mnie już jest wesoło a co dopiero będzie za

[editores]

"narzędzie AI wytworzyło jednak fikcyjne dane i nieistniejące przepisy prawa."

Klasyczne AI. Jak nie wie, to zmyśla. Jest jak Hindus albo Chińczyk.

[Typhon]

@editores: Czyli AI zastąpi tylko Hindusów i Chińczyków? Prawda?

[abhagebhar]

Jak nie wie, to zmyśla.

@editores: jest gorzej niestety. Chat GPT intencjonalnie kłamie. Mając z góry założoną tezę w sprawie podlegającej powiedzmy "politycznej poprawności" ogólnie rozumianej - kłamie wiedząc, że kłamie. Zaszokowało mnie to.

[scoria]

To nie ten poznański startup, który dostał ostatnio dofinansowanie i chwalił się, że rozwiązują prawdziwe problemy prawdziwych przedsiębiorców? https://mambiznes.pl/news/finski-fundusz-inwestuje-w-poznanski-startup-minerva-rewolucjonizuje-rynek-przetargow-publicznych/

Znaczy jednak lanie wody nie działa?
Powinni jeszcze karę dostać za marnotractwo czasu i wprowadzanie urzędników w błąd.

[200Amra]

Znaczy jednak lanie wody nie działa?

@scoria: Zależy gdzie. W polityce działa od wieków.

[scoria]

@200Amra: touchè

[jeden_z_gapiow]

Standard. Nawet na FB w dyskusjach dotyczących jakichkolwiek przepisów prawnych ciągle się spotyka matołków powołujących się na wysryw AI. W większości przypadków wystarczy poświęcić kilka minut, żeby sprawdzić, że rzekome wyroki nie istnieją, a podane paragrafy nie mają nic wspólnego na rozmową. Tylko, że mało komu się chce to sprawdzać, więc często takie argumenty są podłapywane przez innych.

[new-object]

Straciła jeden, ale poprzez to, że wysłali takich ofert więcej - zyskali innych. A ci inni - też sprawdzali ten raport przez ChatGPT i wszystko było dla nich ok (⌐ ͡■ ͜ʖ ͡■)

I tak się dzieje nowoczesny życia trud. AI to jeden duży krok do bylejakości, gdzie liczy się ilość i byle by było jako tako.

[labla]

@new-object

Jakby teraz outsourcing do Chin i Indii miał podnosić jakość xd Podnosi, owszem, ale stan konta CEO, a przeciętny pracownik w Europie ma 2x więcej roboty poprawiając błędy po taniej sile roboczej.

[mgr_rybak]

@new-object: myślisz, że ktoś (urzędnik) przerzucił dokument na kompa czy kazał sobie przysłać na maila?

[franekfm]

AI to przyszłość, kto nie zaadaptuje swojego biznesu do jej używania zostanie zmieciony z rynku.
A nie, czekaj ...

[ebce]

A nie, czekaj ...

@franekfm: zaczął się bunt maszyn

[Immoderate]

Firma powinna być odrzucona także ze względu na nazwę, podobnie jak inne Januszexy z końcówką w nazwie: POL, EX, BUD, BIS i dopiskiem PPHU, lub moim ulubieńcem nazwa firmy ,,Firma (…)”

[belzebup]

Czasem używam tzw. LLM w pracy. Modele językowe są pomocne w niektórych celach, np. w kodowaniu w Pythonie czy w bash potrafią zaoszczędzić sporo czasu / podpowiedzieć rozwiązanie na które sam nie wpadniesz, jeśli jesteś w danej dziedzinie słaby (jak ja). Ale z bardziej niszowymi technologiami radzą sobie dużo gorzej. Tzw. AI potrafi np wymyślać nieistniejące komendy, endpointy, mylić syntax itd.

Jakim trzeba być kretynem by użyć AI do napisania oficjalnego pisma