Udało im się wytrenować ogromny model językowy wyłącznie na typach danych liczb całkowitych. Surowa, podstawowa matematyka niskiego poziomu. Jeśli można trenować modele bezpośrednio na tanich i szybkich typach danych liczb całkowitych, których używają do wnioskowania, wymagania sprzętowe ulegają załamaniu. Wg ich paperu 100 razy szybciej.
We introduce Evolution Guided GeneRal Optimisation via Low-rank
@JamesJoyce: a powiedz czy wierzysz w to, że niedługo np. na jednym rtx 3090 + np.128gb ram z przyzwoitym prockiem będzie można odpalać znacznie lepsze i szybsze modele językowe dzięki innowacyjnym posępom w sztucznej inteligencji, których dokonują zaangażowane w ten temat nerdy?
Najpopularniejsza według mojej ankiety na mirko dystrybucja Ubuntu 26.04 LTS 'Resolute Raccoon' jest dostępna do pobrania. Kernel 7.0, GNOME 50, Wayland, nowy monitor zasobów i inne.
Dobra teraz tak serio - wywalone mam że powinienem trzymać gębę na kłódkę jak lekarze i rozwalę branże IT ale w zasadzie co mam rozwalić skoro pasjonaci rozwalili i ta branża to trup?
Ile godzin czasu serio poświęcacie na prace? Ja inwestując 100$ miesięcznie w Claude Max pracuje może 1h dziennie. 7 godzin zostaje mi na gierki, seriale, filmy. Nawet ostatnio zacząłem sobie konfigurować agentów AI by mi porobili hobbystyczne projekty. Znając tylko
@a5f5c1: jest 17 godzina teraz w Kaliforni, więc pewnie na jakimś spotkaniu z Key Stakeholderami prezentuje dla nich demo produktu ( ͡°͜ʖ͡°), potem darmowe nadgodziny całą noc
Cześć! Zrobiłem portal, gdzie każdy może dodawać kanały YT, a one automatycznie są przypisywane (po auto analizie) do kategorii i subkategorii tworząc klastry i połączenia, dzięki którym można wyszukiwać nowe kanały w tematyce, która nas interesuje oraz dodawać własne! Zapraszam!
Patrzę sobie na oferty pracy b2b i widzę kwoty rzędu 130-150 netto za godzinę dla seniorów full stacków xD Wy serio pracujecie za takie psie pieniądze na złość innym czy z głupoty xD?
@Gleacher: no wolałbym skończyć jako lekarz, ale źle wybrałem za młodu i teraz tak jak mówisz - pewnie spotkamy się w jakiejś ekipie budowlanej z pacą w łapie ( ͡°͜ʖ͡°)
@Gleacher: w sumie racja, nie trzeba być chyba omnibusem, żeby kłaść płytki lepiej niż typowy Kamilek glazurnik i brać za to kilka razy więcej ( ͡°͜ʖ͡°)
Ciekawa historia. Śledze tego kolesia od dawna więc wiem że legit. Chłop świeżo po studiach, cisnął LeetCode i javę, dostał się do amazona jako software engineer. Posiedział tam kilka miesięcy i się zwolnił, bo startup mu wypalił i nieźle się dorobił.
Dla ludzi którzy potrafią korzystać z AI to są teraz bardzo ciekawe czasy, ale to miecz obosieczny. Ci którzy umieją kombinować i się
Ponad 25 lat w branży IT i to co przez cały ten czas udało mi się uzyskać to ochłapy od różnych kontrahentów nie mając przy tym czasu wolnego, mocarny kredyt na głowie, garb i zepsuty wzrok. U Was to samo?
Ależ ten paper pozamiata, jeślli to prawda.
Udało im się wytrenować ogromny model językowy wyłącznie na typach danych liczb całkowitych. Surowa, podstawowa matematyka niskiego poziomu. Jeśli można trenować modele bezpośrednio na tanich i szybkich typach danych liczb całkowitych, których używają do wnioskowania, wymagania sprzętowe ulegają załamaniu. Wg ich paperu 100 razy szybciej.
We introduce Evolution Guided GeneRal Optimisation via Low-rank
źródło: image
Pobierz