Wpis z mikrobloga

@interpenetrate: spokojnie kolego - w nagraniu crudziarz opowiada o jego perypetiach z firmą która wybrała vibecodera bo są ai-driven - nie muszą mówić co się zaczęło odpie*dalac od zeszłego tygodnia ( ͡° ͜ʖ ͡°)
  • Odpowiedz
@szefczyk: aha no tak, prawda. testują ile ludzie są skłonni zapłacić. Ale era darmowego ai przecież nie dobiegła końca, bo można sobie sciągnąć chyba przecież llm na kompa i używać do tego prywatnie?
  • Odpowiedz
@interpenetrate: oczywiście że możesz ściągnąć model i używać ale tylko 2% Claude code to AI, Cala reszta to tooling. Cały biznes opiera się na toolingu. Biorę udział w projekcie który ma wdrożyć AI w produkt i skala szamba które wynika z używania modeli bezpośrednio bez odpowiednich narzędzi jest nie do opisania. Moim zdaniem tylko Ci duzi gracze potrafią to aktualnie robić dobrze więc era darmowego AI się kończy i najprawdopodobniej
  • Odpowiedz
@szefczyk: ale w sensie o czym Ty w ogóle mówisz. Bo słyszę że argumentuje są hindus-driven economy, ale hindusi grinduja w hui

@fiolkins ale tooling w sensie co to konkretnie jest? Samo "ai" czyli ten algorytm dobierania wektorów tak? A reszta to jakieś dodatkowe moduły?
Drugie pytanie, w sensie jak wdrazacie samo ai, to ono wtedy właśnie dziala "na ślepo" czyli tak jak algorytm każe czyli dobiera jakieś tam
  • Odpowiedz
Ale era darmowego ai przecież nie dobiegła końca, bo można sobie sciągnąć chyba przecież llm na kompa i używać do tego prywatnie?


@interpenetrate: Skoro tego nie robią, to znaczy, że się nie opłaca i nie jest tego warte. Myślisz, że żaden programista nie testował jakiegoś modelu offline jako alternatywy? Choćby na potrzeby jakiegoś wideobloga? Jak kolega wyżej napisał. Do programowania model offline to jest kilka procent tego co daje ci
  • Odpowiedz
@interpenetrate: tutaj więcej o Claude Code https://arxiv.org/pdf/2604.14228 a jeżeli chodzi o drugie pytanie to architektura opiera się na guardrails nałożone na to co zwraca LLM na podstawie promptow które są połączone z plikami użytkownika: działa do d--y, ale za to jest potwornie wolne. Ale patrząc na ten projekt to wydaje mi się że większość firm błądzi i nie wie co robi
  • Odpowiedz
@Pharos: a co dodatkowego robi model online, w porównaniu do tego offline że różnica jest tak duża?
@fiolkins w sensie jedyna relatywnie efektywna opcja do zwracania jakościowego outputu to modele online?
to to samo pytanie co wyżej, co to powoduje?
  • Odpowiedz
@interpenetrate: infrastruktura i skalowalność. Mimo że modele lokalnie mają duże możliwości to tylko najwięksi gracze mają moc obliczeniową. Szczególnie w sytuacji kiedy ludzie używają LLM na pałę i palą miliony tokenów w pojedynczych przebiegach. Kiedy skończy sie model w którym Anthropic i OpenAI dosypują do pieca wszystko stanie. Tutaj ciekawa dyskusja w tym temacie https://youtu.be/fmK40iq-U6Y?is=_2IhpBxn-i1Euvtn oczywiście to wszystko dywagacje i opinie bo nigdy wcześniej nie byliśmy w takiej sytuacji i
fiolkins - @interpenetrate: infrastruktura i skalowalność. Mimo że modele lokalnie ma...
  • Odpowiedz