
#sztucznainteligencja #programowanie #it #programista15k
Hej, dla zainteresowanych: zarządzam teraz projektem z 15 programistami. Projekt jest ambitny. Próbujemy zrobić małą wersję tego, o czym mówił na jednym z filmów Karpaty. System operacyjny, w którym mózgiem jest llm. Czyli mamy jakieś zadania, które robią małe modele i agenci a llm to orkiestruje i daje nam feedback.
Hej, dla zainteresowanych: zarządzam teraz projektem z 15 programistami. Projekt jest ambitny. Próbujemy zrobić małą wersję tego, o czym mówił na jednym z filmów Karpaty. System operacyjny, w którym mózgiem jest llm. Czyli mamy jakieś zadania, które robią małe modele i agenci a llm to orkiestruje i daje nam feedback.
- Najlepsze
- Wszystkie komentarze







@JamesJoyce: Gdyby tylko słowa miały jakieś przypisane znaczenia.
Moje zrozumienie:
W tej analogii sam model pełni funkcję procesora. Wykonuje instrukcje, tyle że wyrażone w języku naturalnym zamiast w kodzie maszynowym. Okno kontekstowe odpowiada pamięci RAM — określa ilość informacji, którą system może aktywnie przetwarzać w danym momencie. Systemy retrieval (RAG, bazy wektorowe) działają jako pamięć trwała, z której model pobiera dane wykraczające poza jego bezpośredni
Jakiej klasy macie wielki model? Taki jak Claude Sonnet czy Opus?
Macie jakieś wymagania co do interakcji w czasie rzeczywistym?
Czy system ma przetwarzać jako wejście lub wyjście dane dźwiękowe, obrazy, wideo lub inne?
https://huggingface.co/blog/shivance/illustrated-llm-os
https://huggingface.co/blog/shivance/illustrated-llm-os