Podczas gdy wszyscy pisza o AI, wiadomosci o SubQ przeszly w totalnej ciszy. Wiec sprawdzilem co oni wlasciwie oferuja.
🔹 52x szybsze wnioskowanie 🔹 63% mniej obciazenia GPU 🔹 Okno kontekstu 12M tokenow 🔹 Przejscie z O(n²) do O(n)
To nie jest przyrostowe ulepszenie. To zmiana paradygmatu.
Jesli rzadka uwaga na skale dziala jak reklamuja, zmienia to calkowicie ekonomie AI. Modele ktore teraz kosztuja dolary za zapytanie moga kosztowac grosze.
@tomaszs: newsy są wszędzie za darmo. Co najwyżej rozbudowane artykuły. Te portale maja renomę. Ty nie jesteś głównym serwisem na świecie, nie jesteś w sumie nawet średnim lokalnym, bo masz żadną renomę. Proszę nie traktuj tego jako przytyk - tak to wygląda z punktu widzenia osoby trzeciej która widzi innego randoma z internetu.
Podczas gdy wszyscy pisza o AI, wiadomosci o SubQ przeszly w totalnej ciszy. Wiec sprawdzilem co oni wlasciwie oferuja.
🔹 52x szybsze wnioskowanie
🔹 63% mniej obciazenia GPU
🔹 Okno kontekstu 12M tokenow
🔹 Przejscie z O(n²) do O(n)
To nie jest przyrostowe ulepszenie. To zmiana paradygmatu.
Jesli rzadka uwaga na skale dziala jak reklamuja, zmienia to calkowicie ekonomie AI. Modele ktore teraz kosztuja dolary za zapytanie moga kosztowac grosze.
https://tomasz-smykowski.com/blog/why-everyone-is-afraid-of-subq
#programowanie #ai #technologia #machinelearning
Na razie szerzej niedostępny. Trzeba poprosić o wczesny dostęp.
@tomaszs: newsy są wszędzie za darmo. Co najwyżej rozbudowane artykuły. Te portale maja renomę. Ty nie jesteś głównym serwisem na świecie, nie jesteś w sumie nawet średnim lokalnym, bo masz żadną renomę. Proszę nie traktuj tego jako przytyk - tak to wygląda z punktu widzenia osoby trzeciej która widzi innego randoma z internetu.