[PeterWeiss]

#codzienneainews
• [1] LLM Compressor optymalizuje open-source'owe modele językowe
LLM Compressor optymalizuje open-source'owe modele językowe, zwiększając ich szybkość i redukując koszty sprzętowe. Narzędzie to łączy m.in. activation quantization z weight quantization i sparse pruningiem, customowymi kernelami (CUTLASS) zbierając różne techniki kompresji zusammen do kupy w jednym frameworku. Do tego łatwo integruje się z HF i vLLMami.

• [2] MIMO: System do tworzenia realistycznych animacji postaci z kontrolą nad ruchami i sceną
Alibaba zaprezentowała narzędzie MIMO, które umożliwia tworzenie realistycznych animacji postaci w różnych scenach, gdzie użytkownik może kontrolować takie elementy jak postać, ruchy i otoczenie. MIMO działa poprzez rozdzielenie obrazu na trzy warstwy: postać, tło i obiekty na pierwszym planie, co ułatwia dokładne odwzorowanie ruchów w trójwymiarowej przestrzeni. Dzięki temu system może tworzyć animacje postaci, które poruszają się w bardziej naturalny sposób i wchodzą w interakcje z otoczeniem.
Widzieliśmy już podobne rozwiązania - bo jes to podobne do image2video z maskowaniem, wykonalne teraz i wydaje mi się, że Runway niedawno wprowadził nowy model. Tutaj spójność szczegółów jest imponująca i wygląda na duży krok naprzód. Wideo w komentarzu.

• [3] Multimodalne LLMy od Allen Institute
Allen Institute for AI wypuścił w Internet "Molmo" - rodzinę open-source'owych LLMów, które mogą przetwarzać tekst i obrazy. W pierwszych benchmarkach wypada bardzo dobrze!
Allen Institute for AI (AI2) to instytut badawczy non-profit założony w 2014 roku przez nieżyjącego już współzałożyciela Microsoftu i filantropa Paula Allena.

• [4] Odpal sobie Llamę 3.2 na telefonie
Llama 3.2 3B (Q4KM GGUF) została dodana do listy domyślnych modeli PocketPal. Ta appka korzysta
Play Store apk

#ainews #sztucznainteligencja #gruparatowaniapoziomu

[PeterWeiss]

Odnośniki:
[1]
https://neuralmagic.com/blog/llm-compressor-is-here-faster-inference-with-vllm/
https://github.com/vllm-project/llm-compressor?tab=readme-ov-file

[2]

[CynicznyDlugouch]

@PeterWeiss plusuje, bo zajebiście podoba mi się ta grafika (｡◕‿‿◕｡)

[vanitydomain]

@PeterWeiss: thxx

[PeterWeiss]

@CynicznyDlugouch: Co nie? W sam raz na tapetę na desktop, albo lepiej - na ścianę w gabinecie!