Inżynier Netflixa otworzył za darmo narzędzie do cięcia kosztów AI o 90%

Project Headroom kompresuje tokeny przed wysłaniem do modelu językowego, eliminując powtarzające się dane. Logi serwera odchudza o 90%, JSON o 70%. Łącznie zaoszczędzono grupie użytkowników ponad 700 tys. dol. przy 200 mld tokenów. Kod dostępny na GitHubie.
z- 58
- #
- #
- #
- #
- #


















Czy ktoś z Was zna tego mężczyznę? Dzisiaj we Wrocławiu \(Różanka\) oszukał moją mamę metodą „na policjanta”\.
Najbardziej wku\*\*\*\*jące jest to, że mama pojechała do banku wypłacić swoje oszczędności.
Nikt nie zapytał, dlaczego chce wypłacić wszystko co ma na koncie. Jedyne, co usłyszała, to że obowiązuje limit 20 tys. zł na jednorazową wypłatę.
źródło: image0000011
Pobierz