Wpis z mikrobloga

@ApuApustaja: Bukowski ma ten problem, że swoje clickbaitowe opowiastki przedstawia jako fakty. Plus jest pazerny na atencję. W pewnym obszarze ma rację, tzn. to nie trzeba mieć doktoratu, żeby rozumieć, że llmy zmiotą z planszy crudowców w ciągu 5-10 lat (10 to optymistyczna wizja).
@AntyKuc: Nie, korpo zrobi swoj wewnetrzny sandbox azurowy z llmami. Wlasnie pracuej nad czyms takim dla jednego z klientow. Na ten moment wszystko jest na poziomie legal/dostepow itd. Nie będzie to w tym roku/za 2 lata. Ale będzie.
@JamesJoyce:

Nie, korpo zrobi swoj wewnetrzny sandbox azurowy z llmami. Wlasnie pracuej nad czyms takim dla jednego z klientow. Na ten moment wszystko jest na poziomie legal/dostepow itd. Nie będzie to w tym roku/za 2 lata. Ale będzie.


Sanbbox będzie pisał aplikacje na podstawie promptów? Możesz coś więcej opisać?
@AntyKuc: Sandbox nie pełni funkcji narzędzia. Wykorzystywany jest w celu bezpieczeństwa/ochrony danych wewnętrznych firmy. Przy czym sandobox dla korpo jest nieco inny, niż sandbox dla przeciętnego klienta. Detale dotyczące tego co tam będzie i jak będzie chronione dyskutowane są na rozmowach korpo-MS.

I teraz ten sandbox pozwoli korpo na używanie modeli i narzędzi np. z OpenAI Service. W teorii (bo to wszystko się dopiero rozwija) bierzesz sobie z OpenAI Service GPT-4
@JamesJoyce:

llmy zmiotą z planszy crudowców w ciągu 5-10 lat (10 to optymistyczna wizja


wydajesz się jedną z nielicznych osób wypowiadających się rozsądnie nt. AI na tagu, dlatego zapytam dlaczego myślisz że wywali CRUDowców? Jako osoba z pewnym backgroundem ilościowym to ja jestem w stanie się założyć, że korpo przewalą potężne pieniądze na AI, ale margines błędu jakim się będą cechować zniweczą marzenia frustratów o wyplenieniu programistów. A to co piszesz
@JamesJoyce: Rozumiem, my też teraz w korpo integrujemy open ai api z jedną apką, ale właśnie pojawił się problem privacy danych, więc pozwalany użytkownikom podać swój własny api key do open ai - tak wiem, debilne rozwiązanie, ale kilka innych firm też tak robi np. Figma.

Dalej natomiast nie rozumiem jak rozwiązania typu LLM mogą wykosić "CRUDY". Może jakieś proste, które nic poza integracją z bazą nie robią, ale są CRUDY
Dalej natomiast nie rozumiem jak rozwiązania typu LLM mogą wykosić "CRUDY".


@AntyKuc: bo nie wykurza. Pan Leszek Bukowski jest data scientist, a nie projektantem oprogramowania. Nie wyobrazam sobie jak LLM ma dzialac w systemach wrazliwych.

Prawda jest ze zmiany dotkna programistow i zdecydowanie wiekszy nacisk bedzie sie kladlo na QA, a nie samo pisanie oprogramowania. To bedzie generowane przez oprogramowanie no-code lub mozliwe ze LLM. Ale nie bedzie samo w sobie
@ElMatadore: ależ oczywiście, że przewalą. Już przewalają. Co więcej, bez wchodzenia w szczegóły, to aktualnie jednym z większych problemów we wdrażaniu llmów na poziomie managerskim jest realny use-case. Tzn. do czego użyć llmy za które zapłacą mln dolarów w taki sposób, żeby panowie na górze się zgodzili, że to rozwiązanie jest warte $$. Bo jeśli się jednak okaże, że powiedzą "no dobra, ale przecież to samo zrobimy za pomocą 2 fte
@AntyKuc: i tak będzie przez następny rok, dwa, trzy, etc. aż do momentu aż przestanie.

dziesiątki, jak nie setki tysięcy linii kodu i integracje z zewnętrznymi serwisami


Ależ to nic innego, jak context window w llmach. Co więcej, nikt nie twierdzi, że llmy za 2-3 lata będą wciąż opierać się na tej samej architekturze. Obecnie gorący temat to tzw. slmy, czyli małe llmy, które są uczone wnioskować. Takie modele są uczone
@JamesJoyce: z tym że takie CRUDy o jakich piszesz to nawet jak na standardy polskiej branżuni syfiasta robota i raczej nienajlepiej płatna, co innego klepać CRUDa w oparciu o clouda, systemy rozproszone i mikroserwisy a co innego takie dość proste, schematyczne rzeczy na jedno kopyto

O ile dobrze Cię rozumiem