Rasistowski algorytm

To nie jest żart. Miasto Nowy Jork zajmuje się sprawą rasistowskich algorytmów komputerowych

[KolejnyWykopowyJanusz]

TLDR: policja ma sztuczną inteligencję, która ocenia "ryzyko zachowań kryminalnych" na podstawie twarzy. Niestety przypisuje ona o wiele wyższe ryzyko czarnym niż białym

Tyle że sztuczne inteligencje tworzone są na podstawie danych statystycznych, i są w pewnym stopniu ich odbiciem. A statystyki są takie jak na obrazku.

Wiadomo - statystyki nie są rasistowskie, ale porządny człowiek może być pokrzywdzony tym że algorytm uznał go za kryminogennego za sam ciemniejszy odcień

[wolodia]

@KolejnyWykopowyJanusz: Najgorsze w tym wszystkim jest to, że wynik takiej analizy ma wpływ na proces karny, a skuteczność jest gorsza aniżeli rzut monetą.

We obtained the risk scores assigned to more than 7,000 people arrested in Broward County, Florida, in 2013 and 2014 and checked to see how many were charged with new crimes over the next two years, the same benchmark used by the creators of the algorithm.

The

[kaganiec_oswiaty]

Tyle że sztuczne inteligencje tworzone są na podstawie danych statystycznych, i są w pewnym stopniu ich odbiciem. A statystyki są takie jak na obrazku

@KolejnyWykopowyJanusz: no niestety- jeśli poprawności politycznej nie pasują rasistowskie statystyki, to tym gorzej dla statystyk ( ͡° ͜ʖ ͡°) A tak serio- statystyki statystykami ale zawierzenie ślepo w takich sprawach AI to mocno średni pomysł.

[Jossarian]

Artykuł w tej sprawie.
I uchwała rady miasta Nowy Jork.