#sztucznainteligencja #selfhosted #pytaniedoeksperta Mam taką rozkminę - model AI odpalony lokalnie - do czego? Sprzęt w kosmos drogi, chcę to sobie postawić dla zabawy na czymś wygrzebanym z szafy, szybkie testy pokazały, że modele mniej więcej do 11B działają z sensowną szybkością. Ale nie potrafię wymyślić żadnego zastosowania dla takiego modelu :) Mądrość zbiorowa internetu podpowie?
@wykopek_n: dlatego ja piszę po angielsku głównie. Ale też zależy od modelu, bo qwen nie napisze każdej erotycznej historii.
Nie wiem czy kojarzysz była taka pasta o iphone vs android i tam że na androida pobierasz nowy custom room o nazwie L0nginus[XXXL]-MOD-xtreme-kernelrev82v.0032.156
No to z AI pobierasz sobie taki custom model Llama-EveningMirai-Moonwalker-v2-MS-3.3-70B i odpowiada na wszystko (przykład z d--y, ale dobre są modele serii Forgotten Safeword - jak sama nazwa
Mam taką rozkminę - model AI odpalony lokalnie - do czego?
Sprzęt w kosmos drogi, chcę to sobie postawić dla zabawy na czymś wygrzebanym z szafy, szybkie testy pokazały, że modele mniej więcej do 11B działają z sensowną szybkością.
Ale nie potrafię wymyślić żadnego zastosowania dla takiego modelu :)
Mądrość zbiorowa internetu podpowie?
Nie wiem czy kojarzysz była taka pasta o iphone vs android i tam że na androida pobierasz nowy custom room o nazwie L0nginus[XXXL]-MOD-xtreme-kernelrev82v.0032.156
No to z AI pobierasz sobie taki custom model Llama-EveningMirai-Moonwalker-v2-MS-3.3-70B i odpowiada na wszystko (przykład z d--y, ale dobre są modele serii Forgotten Safeword - jak sama nazwa