Modele językowe AI generują decyzje nacechowane ukrytym rasizmem. "Często wykazu

Modele językowe AI generują decyzje nacechowane ukrytym rasizmem. Naukowcy ze Stanforda odkryli że jeśli coś chodzi jak kaczka, wygląda jak kaczka i kwacze jak kaczka to jest kaczką.

[jednorazowka]

Pytanie, co to jest rasizm? Czy stwierdzenie faktu, że czarni są mniej inteligentni albo że popełniają większość przestępstw jest rasizmem?

[IvanBarazniew]

@jednorazowka: Tak szowinistyczna rasistowska świnio! #pdk

[sigismund]

Pytanie, co to jest rasizm?

@jednorazowka: Przestan uzywac slowa rasizm, a zacznij pattern recognition (dosłownie rozpoznawanie wzorcow - nie wiem czy juz jest na to jakies bardziej spolszczony zwrot).

[pwone]

@IvanBarazniew: jeśli chodzi o np. pracę to tak, ale za morderstwo wyroki powinny być mniej więcej takie same bez względu czy czarny czy nie.

[not-sweet]

Przytoczę historię o której mówiłem kilka razy. Ktoś robił AI do wykrywania wilków. Później się okazało że skuteczność tego AI była pozorna. Otóż decydującym parametrem była ilość koloru białego na zdjęciu bo wszystkie zdjęcia wilków miały śnieg w tle.
Amazon próbował rekrutować i ich AI nie rekrutowało mężczyzn bo wg danych 80% zatrudnionych to byli mężczyźni więc automat widział płeć jako ważny parametr.

AI nie jest inteligentne. Tzn to dzisiejsze "AI". Używa

[wokeulski]

Pewnie jakiś startup co zatrudnił sobie jakiegoś taniego programistę

@not-sweet: to nawet nie musi być tani programista ani starup, jest taki hype teraz na AI że firmy łykają wszystko

[not-sweet]

@wokeulski: ale akurat hype to ja rozumiem. Jak był hype na blockchain to co chwila jakiś dureń się mnie pytał jak np. użyć blockchain np. w portalu z ogłoszeniami o prace.

Najlepsze jest to że on już miał inwestora i inwestor kupił pomysł na portal z ofertami pracy ale z blockchain. I ani jeden ani drugi nie wiedzieli jakie by było zastosowanie blockchaina w tym wypadku.

Czego nie rozumiem to

[JamesJoyce]

Bias jest tak stary, jak pierwsze modele ai.

[MiedzygalaktycznyMors]

To nie jest rasizm, tylko "slangizm"

[Jan998]

Ale rozumiem, że tym, że zautomatyzowane algorytmy posługujące się nieznanymi kryteriami opartymi na analizach zbiorów statystycznych selekcjonują kandydatów do pracy - tym nikt się nie przejmuje?
Tym, że człowiek jest w ten sposób traktowany jak przedmiot, albo jak bydło w oborze.

[j.....s]

Człowiek z natury jest rasistą, gdyż zależy mu na dobru swojej grupy z którą się utożsamia. Więc nie wiem z czego to zdziwienie. Jak ktoś miał do czynienia z ludźmi z krajów "wspierających" diversity i inne nowoczesne bzdety to wie jacy ci ludzie są zakłamani i fałszywi. Na zewnątrz tolerancyjni, ale w swoim gronie i tak dbają o dobro tylko swojej grupy społecznej.

[moribunda]

Nature już nagrało wstrząśnięty podcast w temacie, tymczasem rzeczywistość: https://www.youtube.com/watch?v=A7yEVfJraXU

[Klapeck]

Widzę tu błędną interpretację wytworów ai przez omylny czynnik ludzki