[Atreyu]

Jak myślicie - może istnieje przyczyna dlaczego niepilnowane i nieograniczane blokadami AI stają się rasistowskie?

#programowanie #ciekawostki #chatgpt #przemyslenia

[K.....o]

@Atreyu bo ich głównym źródłem danych jest internet.
A w internecie znajdują się także treści rasistowskie.
AI na obecnym poziomie to nadal tylko zestaw algorytmów i instrukcji napisanych przez człowieka.

[Asgraf]

@Kamokamo: @Atreyu: Bo po prostu ludzie w internecie są bardziej chamscy i dyskryminujący niż byli by w realu (a to internetem się karmi AI). Człowiek gdy nie widzi rozmówcy to traktuje go jak jakiegoś nicka w internecie a nie żywego człowieka. Co niestety często wyłącza ludziom hamulce i samokontrolę. Wynika to z tego że dla naszych mózgów pisanie agresywnych tekstów z zacisza domowego komputera wydaje się bezpieczne. W trakcie gdy

[Asgraf]

@Atreyu:
Co do trwałego rozwiązania problemu moralności AI (zamiast nakładania filtrów i blokad) to warto zapoznać się z projektem Raven:
https://www.youtube.com/watch?v=EwJ1534Gy6g

[eloar]

@Atreyu: bo AI "podejmuje decyzje" na podstawie rozwiązania problemu kategoryzacji.

[hellfirehe]

dlaczego niepilnowane i nieograniczane blokadami AI stają się rasistowskie

@Atreyu:
Kiedyś do prasy trafił przekaz, że Amazon próbował zaprząc AI do procesu rekrutacji kandydatów, ale się nie udało bo "zła AI" stała się seksistowska, dyskryminując kobiety. Co ciekawe była seksistowska nadal gdy usunięto jej informację o płci kandydata.

Przekaz był taki że to "złe AI", a prawda jest taka że zbiorem uczącym dla algorytmu były wyniki wcześniej prowadzonych procesów rekrutacyjnych w

[baidu]

@Atreyu: