[mk321]

#sztucznainteligencja #ai #dragan

Prof. Andrzej Dragan: Po raz pierwszy w historii nauczyliśmy się robić rzeczy, których nie rozumiemy

Dragan, który jest uważany za autorytet w AI, a okazuje się zwykłym doomerem. Stracił wiarygodność.

Ale pierodolenie. Doskonale rozumiemy jak działa obecne AI. Doskonale wiemy jak działają sieci neuronowe. Może on nie rozumie, bo sam nie napisał kawałka kodu. Pod spodem to zwykła statystyka.

Jeśli by jednak przyjąć, że to że nie rozumiemy dlaczego jakieś działania wywołują jakieś efekty, to nie rozumiemy wielu rzeczy. Przykładowo reakcje jądrowe. Dlaczego przy rozpadzie wydziela się energia? Jest wzór o tak to działa. Ale dlaczego? W ogóle wszystkie reakcje chemiczne i fizyczne. Możemy zaobserwować ich działanie, ale najczęściej nie wiemy dlaczego to tak działa (jedynie wiemy, że jedna reakcja zachodzi, bo zaszła jakaś inna - ale ta pierwsza nie wiadomo).

Nawet zwykły ogień. Ludzie prehistoryczni rozpalali ogień i nie mieli pojęcia czemu się pali. Z AI nie jest nic "pierwszy raz". Zwykle pierdlolenie doomera AI.

(Co nie znaczy, że AI nas nie pochłonie itd. Ale ten argument jest beznadziejny.)

https://wyborcza.pl/7,75400,30547020,prof-andrzej-dragan-ai-jest-teraz-na-poziomie-osmiolatka.html

[Pan_Slon]

@mk321: rozumiesz jak działa sieć neuronowa, w taki sposób że możesz zobaczyc dlaczego podejmuje taką a nie inną decyzję ? Nie więc o to chodzi Draganowi, sieci neuronowe są na tyle złożone że nie idzie ich debugować, coś tam wrzucasz i coś wychodzi ale dlaczego to nie do końca wiadomo

[mk321]

@Pan_Slon: z reakcjami chemicznymi jest inaczej? Wrzucasz jakieś substancje i wychodzi co innego, nie wiadomo dlaczego.

Jak możesz debugować reakcje chemiczne lub fizyczne?

Dużo bardziej możesz debugować sieci neuronowe. To że duże firmy, mają to w dupie, bo liczy się dla nich tylko szybki efekt i kasa (póki da się zarobić), to nie znaczy, że się nie

[mk321]

@Pan_Slon: wygooglaj: Explainable AI.

Nie ma czegoś takiego jak: Explainable Chemistry.

[gysnde]

@mk321: czy on jeszcze wczoraj nie był fizykiem kwantowym? Gość nie jest żadnym autorytetem - ma za to spore parcie na szkło.

[mk321]

@gysnde: dokładnie tak. Fizyk mówiący o IT.

Mówi, że specjaliści od AI nie rozumieją AI, gdy sam jej nie rozumie. Gdy w tym samym czasie fizycy nie wiedzą czemu coś działa tylko po prostu obserwują i zapisują zależności.

Parcie na szkło ma duże. Od kilku miesięcy zaczął się pojawiać i ludzie zaczęli o nim mówić. Teraz jest już wszędzie. Pewnie chce zrobić jakiś kanał na YT lub mieć program w

[sa7o]

@mk321: nie zapominaj, że on jest fotografem też. wydaje mi się, że GenAI w dziedzinie obrazów zrobiło mu taki mindblow, że robi teraz projekcję na inne obszary (AI nas zdominuje - czyt. AI zdominuje digital artystów)

[Major_Gross]

@mk321: ale przecież była jakaś debata gdzie było jeszcze chyba 2 innych typów i jakiś też Fizyk specjalista od uczenia maszynowego i tam mu kilka razy delikatnie sugerował, że to nie tak działa jak to on mówi ;)

[mk321]

@Major_Gross dasz jakiegoś linka do tego?

[Major_Gross]

@mk321: https://youtu.be/AwcAOHJpW-E?si=EZsJdX15aqfALHuZ chyba to ale nie jestem pewien bo dawno to widziałem.