[PeterWeiss]

#codzienneainews przegląd prac naukowych #cainarxiv

[1] Inferencja na CPU i GPU z mniejszymi opóźnieniami i większą przepustowością
Naukowcy z UC Berkeley właśnie opublikowali artykuł na temat przyspieszenia LLM. Ich metoda o nazwie "Pie" wykorzystująca performance-transparent swapping i adaptive expansion polega na sprytnej wymianie danych pomiędzy CPU i GPU bez spowalniania pracy . W przeciwieństwie do metod profilowania offline, dynamicznie dostosowuje ono alokację pamięci CPU w oparciu o warunki w czasie rzeczywistym. Skutkuje to nawet 1,9-krotnym wzrost przepustowości i dwukrotną redukcją opóźnień w porównaniu do VLLM.

https://arxiv.org/abs/2411.09317

[2] Tomografia komputerowa "wehikułem czasu"
Naukowcy z Uniwersytetu Stanford oraz Stanford Healthcare zaprezentowali interesujące badanie. Wykorzystali oni dane pacjentów do nauczenia SI przewidywania przyszłych problemów zdrowotnych na podstawie tomografii komputerowej.
Efekt: AUROC lepszy o 23.7%. Co ważne, wzrost ten osiągnięto bez uszczerbku dla wydajności klasyfikacji diagnostycznej. Badanie to kładzie podwaliny pod integrację danych EHR i obrazowania 3D w celu lepszego przewidywania ryzyka medycznego.

https://arxiv.org/abs/2411.09361

[3] Multimodalne zwiększanie dokładności wykrywania kłamstw
Naukowcy z Berkley opracowali nową metodę wykrywania kłamstw. Wykorzystuje ona multimodalne podejście łączące audio, wizualne (nawet najmniejsze zmiany w mimice twarzy) i ręcznie transkrybowane adnotacje gestów (w przeciwieństwie do poprzednich badań, które często koncentrowały się na jednej modalności). Ich model zwany CNN Conv1D osiągnął trafność na poziomie 95,4%.

https://arxiv.org/abs/2411.08885

[4] Tutor CoPilot pomaga w nauczaniu
Naukowcy z Uniwersytetu Stanford opracowali platformę Tutor CoPilot pomagające nauczycielom. Wyniki badania przeprowadzonego z udziałem 900 tutorów oraz 1 800 uczniów wykazało, że narzędzie zwiększa efektywność nauczania matematyki, szczególnie wśród mniej doświadczonych edukatorów. Uczniowie, których tutorzy korzystali z w/w narzędzia mieli o 4 punkty procentowe większe szanse na opanowanie materiału, a najsłabsi odnotowali wzrost efektywności aż o 9 p.p. Tutor CoPilot częściej stosowali strategie pedagogiczne, takie jak zadawanie pytań wspomagających myślenie, zamiast dostarczania gotowych odpowiedzi.
W porównaniu z tradycyjnymi metodami, takimi jak warsztaty dla nauczycieli, system ten oferuje bardziej bezpośrednie i zindywidualizowane wsparcie w czasie rzeczywistym.

https://arxiv.org/abs/2410.03017

#sztucznainteligencja #gruparatowaniapoziomu

======================

Zawołać cię do kolejnego wpisu? Zaplusuj CENTRALNĄ LISTĘ DO WOŁANIA dostępną pod tym linkiem:

https://wykop.pl/wpis/78971397/centralna-lista-do-wolania-zaplusuj-ten-wpis-aby-b

[PeterWeiss]

Wołam plusujących CENTRALNĄ LISTĘ DO WOŁANIA:
https://wykop.pl/wpis/78971397/centralna-lista-do-wolania-zaplusuj-ten-wpis-aby-b

[PeterWeiss]

Moonshine - modele speech-to-text zoptymalizowane pod kątem szybkiego i dokładnego rozpoznawania mowy na urządzeniach z biednymi zasobami. Wg autora są idealne do transkrypcji na żywo i rozpoznawania komend głosowych.

Blog: [ https://petewarden.com/2024/10/21/introducing-moonshine-the-new-state-of-the-art-for-speech-to-text/ ]
GitHUB: [ https://github.com/usefulsensors/moonshine ]
Praca badawcza: [ https://arxiv.org/abs/2410.15608 ]
Przykładowe zastosowanie: [ https://youtu.be/nM9DQKVzPHc ]