Jak mówił, tak zrobił. Musk udostępnia AI Grok dla wszystkich.
Model ten, wyróżniający się ogromną strukturą składającą się z 314 miliardów parametrów Mixture-of-Experts. (GriHub w powiązanych)
POPCORN-KERNAL z- #
- #
- #
- #
- #
- 140
- Odpowiedz
Model ten, wyróżniający się ogromną strukturą składającą się z 314 miliardów parametrów Mixture-of-Experts. (GriHub w powiązanych)
POPCORN-KERNAL z
Komentarze (140)
najlepsze
To jest raczej wczesna wersja, z tego co widzę nie ma optymalizacji CPU+GPU, nie ma
@m_77: i to w dwóch kopiach. jedna dla nas, druga dla niego ;-)
@ZapachWanilii: Jakby nie mówić, jest to tzw. model fundacyjny. Na jego bazie będą robić fine-tuning do konkretnych zadań. Czekamy na benchmarki typu: https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard i gdzie się plasuje w porównaniu do konkurencji, czy jest o wiele lepszy od dostępnych 70B czy na ich poziomie.
Zrobili pierwszy model, zrobią i kolejne :-)
Dalej nie wiem co robić, Python to nie moja bajka, w czym to odpalić i... co konkretnie? :D
@Cedrik:
To trochę tak jak byś przywiózł silnik od Ferrari na przyczepce i pytał się jak zacząć nim jeździć. Wystarczy tylko sprzęt, np. z chmury z przynajmniej 320 GB ramu w GPU, odpowiednie środowisko, choć pewnie w requirements jest wszystko co trzeba i jakiś kod do inferencji. Najlepiej poczekać kilka dni a ktoś udostępni