NVIDIA: koszt tokenów może przewyższać koszt zwykłej ludzkiej pracy

Zwłaszcza polaka zostającego za darmo po godzinach bez proszenia. Możemy spać spokojnie.

[Jovano]

Zaraz zaraz. Czy to nie Filipiak stwierdził, że każdą sztuczną inteligencję można zastąpić skończoną liczbą studentów? (⌐ ͡■ ͜ʖ ͡■)

[Chris_Karczynski]

@Jovano: prorok jakiś

[BorsuczaJama]

@Jovano: twierdził że kazdego swojego specjalistę może zastąpić studentami dla tego nie widzi mu się podnoszenie płac.

[jagoslau]

Czyli prawdziwe AI (Another Indian) nadal jest tańsze.

[DrDevil]

@Plemus: CTRL+F. No i wow, komputer jest szybszy od człowieka w powtarzalnych czynnościach, niebywałe xD.

[antykwa]

To ci wyślę ebooka i przeszukaj mi go w mniej niż sekundę i policz wszystkie wyrazy np "tu" występujące w tej książce xd

@Plemus: Do tego nie potrzeba AI, zwykła wyszukiwarka robi to natychmiastowo i bez błędów.

[kubako]

koszt tokenów może przewyższać koszt zwykłej ludzkiej pracy

może przewyższać, może nie przewyższać - takie tam p--------o
wszystko zależy od tego na ile się te tokeny wyceni. zawsze można wycenić tak drogo, żeby przewyższało :P

[chillybilly]

raczej, że da się kupić kilka kompów i postawić własny open-sourcowy model

@kwanty: No da się, tylko "kilka kompów" razy 8 razy H100 za 30000USD żeby zmieścić sensowny model, z każdego "kompa" w miarę sprawnie może korzystać jedna maks dwie osoby i może się okazać, że w perspektywie roku taniej zapłacić za te tokeny, a po roku hardware może być już mocno nieaktualny - zabawa dla największych, jak zwykle. I

[Pawel993]

@kwanty: kilka kompow czy caly wielki klaster kart graficznych?

[snorli12]

Dopóki w polskim kodzie kulturowym wpisane jest „jakoś to będzie” i zostawanie w biurze do oporu, dopóty nasze PKB jest bezpieczne przed inwazją robotów. Po prostu nie opłaca się nas zastępować czymś tak drogim w utrzymaniu jak zaawansowana inteligencja.
To smutny paradoks: naszą największą tarczą przed automatyzacją okazuje się być niska wycena własnego czasu i brak asertywności wobec pracodawcy.

[oOobywatel]

@snorli12: zapomniałeś o imigrantach z ukraincami jako nową elitą tego kraju

[PermBan]

@snorli12: Pięknie skrojony komentarz.
Znam przypadki, że 'biuro' zabiera się do domciu. Na wieczory, popołudnia, no i weekendy.
Śpi się po kilka godzin, bo doba ma tylko 24.
Lepszego sposobu chyba nie ma, żeby sobie rozcieńczyć (i tak g*** wartą) wypłatę...

[nieparzystokopytny]

( ͡° ͜ʖ ͡°)

[Quassar]

To nie kwestia produktywności i kosztów utrzymania ai/serverów tylko zachłanność korpo które coraz bardzie się rozzuchwala z cennikami..

Klasyka.

[eden1337]

@Quassar: Ja w ogóle nie rozumiem tego świata. Choćby takie korpo robiło naprawdę niewyobrażalnie kosmiczne hajsy to i tak menedżerowie muszą stale wykazywać odpowiedni trend rosnący choćby mieli się zesrać. No i niemal zawsze sprowadza się to do znacznego pogorszenia jakości produktu - gdy już nie da się wyżej windować cen. Długoterminowo i tak klienci przechodzą wtedy do konkurencji, która to nie jest jeszcze na tym samym etapie korpo-speirdolenia (oczywiście

[Alinous]

@Plemus: Na razie to jest odwrotnie, tokeny są poniżej kosztów, stąd powoli idą ceny do góry

[hellfirehe]

Tu chodzi o to, że to co z ludzkiego punktu widzenia będzie jakimś tam liniowym wzrostem stopnia skomplikowania zadania, w przeliczeniu na tokeny koszt rośnie wykładniczo.

W efekcie programując kosztem dziesiątek tysięcy tokenów można robić pewne zadania, a rzeczy które wydają się tylko trochę bardziej skomplikowane nagle wymagają spalenia setek tysięcy albo milionów i zazwyczaj jeszcze wcale nie przyniesie to spektakularnych rezultatów.

Więc jak dla mnie to potężne (i tanie) narzędzie do

[KochanekAdmina]

@hellfirehe: Tylko że większość projektów to nie są projekty, które wymagają miliardów tokenów. Może jakieś giga-korpo mają jakieś wielkie systemy, ale te same korpo też będą miały budzety na wlasne serwerownie do odpalania lokalnych LLMów jeśli będzie trzeba. Za to 99% projektów to jakieś strony internetowe czy g---o apki na iOS czy innego Androida to sobie świetnie poradzą w obecnych kosztach produkcji.

[StarszyPanPoTrzydzistce]

@hellfirehe: Ale ilość tokenów jest mniej zależna od złożoności zadania, bardziej od historii zapytań w jednym wątku, sposobu organizacji i dostępu do istotnych informacji projektu, żeby nie pakować wszystkiego do kontekstu.

[D4Ru73K]

Pierwsze słyszę o darmowych nadgodzinach. Tak żyjecie?

[D4Ru73K]

@DziendobryMireczku: nie trafiłeś. Nadgodziny owszem robiło się, ale zawsze wszystko płatne. Za darmo nie zostałbym minuty dużej.

[D4Ru73K]

@JakinNN: 45h siedzisz za darmo? Postaw se namiot na parkingu przed firmą, na c--j wracasz do koja. Nigdy nie zostałem minuty dłużej za frajer, ale fakt w fabryce nie pracuję.

[HammerWZZN]

Do czasu

[MilionoweMultikonto]

@HammerWZZN: ale z drugiej strony, rozwój technologii obniży też koszty hodowli Polaków i Hindusów, dzięki czemu wyścig konkurencji cenowej nigdy się nie zatrzyma, aż przelicznik osiągnie poziomy typu jeden polak = jeden token.

[fiaslnfilrangve]

@HammerWZZN: dokładnie. Już niektóre lokalne modele radzą sobie z prostymi zadaniami. A za kilka miesięcy będize jeszcze lepiej

[EtaCarinae]

Akurat temat nadgodzin mamy raczej dopracowany, to nie Azja, gdzie najpierw wychodzi szef.