Pacjent Intel Arc Pro B70 32GB VRAM vs lokalne LLM

Jakiś czas temu wpadłem na pomysł dodania dedykowanej karty do mojego domowego serwera na Proxmoxie - cel: lokalne llm/comfyui/whisper mam kilka zastosowań, których nie chcę wypychać na zewnętrzne API - nadal to najlepsza/najtańsza opcja

Już miałem kupionego RTX5060Ti 16GB ale jednak końcowo zamiast kolejnej Nvidii wziąłem Intel Arc Pro B70 (wersja od Asrocka) - głównie z jednego powodu: 32GB VRAM w cenie, za którąPokaż całość

kurde pośpieszyłem się ze składaniem serwera domowego na ryzenie... właśnie staram się zutylizować w robocie 2x hp ml10 gen9 ( ͡º ͜ʖ͡º)
że utylizujemy stare delle z 64-128gb ddr4 to wystarczy dokupić 2x 1240l v5. plan jest prosty, płyyty mają złącza pcie 1x x1, 1x x4 i 2x x8:
dokupić karty 10gbe + kontroler sas na 16hdd + kontroler nvme x2 dane + kontroler x1 na cachePokaż całość

w co lepiej iść, biorąc pod uwagę pobór prądu w homelabie?
od razu w 2x 2630l v4 na HUANANZHI X99-F8D PLUS
czy 1240l v5 i z czasem dokładać jak mocy braknie
co będzie mniej prądożerne 2x 2630l v4 czy 4-5x 1240l v5 na hp z240sff
#linux #selfhosted #homelab #komputery #servermasterrace

Kocham pracę w it, wyłączam serwery na ddr4 ecc idą na utylkę ( ͡° ͜ʖ ͡°) w sumie 256gb ramu. Moja serwerownia sie cieszy bo widziałem do nich po taniości xeony 1240l v5 na ali #homelab #selfhosted #servermasterrace

j---ć alfabeciorza. Ostatnia apka zaraz będzie w pełni zmigrowana na #selfhosted i jestem całkowicie #degoogle

#gielda

Z technicznego punktu widzenia co stoi na przeszkodzie chińczykom na stworzenie przełączników z portami 20gbe? Na aliexpress latają już kable usb c-ethernet 5gbe to czemu od razu nie zrobili kabli i przełączników obsługujące pełne usb3 2gen2 #siecikomputerowe #technologia #selfhosted

Linux.pl się skończył. Czy gdzieś znajdę podobną ofertę za normalne pieniądze? Mała prosta storna statyczna w Astro, a co większy dostawca chcę 500-700 złotych za przedłużenie po roku.

#www #webmastering #linux #domeny #selfhosted #programowanie

gdzie kupujecie dyski, szukam czegoś po taniości odnowione, poleasingowe używane ? #selfhosted #komputery #homelab

#sztucznainteligencja #selfhosted #llamacpp #ai #llm

Jeśli nie wiedzieliście, to trwają zaawansowane prace nad (w końcu) dodaniem MTP do llama.cpp https://github.com/ggml-org/llama.cpp/pull/22673

Powinno to w modelach z MTP zwiększyć generowanie od ~30% do nawet dwukrotnego przyspieszenia.

co właśnie upolowałem na vinted za za 50zeta z przesyłką ( ͡º ͜ʖ͡º)
17W + 20 linii pcie 3gen z podziałem do 1x8 +3x4 oraz obsługa 32gb ram + ipmi...
na samej płycie 3x pcie x4, serio kto coś takiego sprzedaje i za tyle?
cel?
duży nas na 10gbe, leżą mi od dłuższego czasu 10gbe + kontroler sas x8 hdd.
#selfhosted #homelab

te qnapy ts-459 pro mają pamięć ecc? bo czym się różni raid na nim niż np tej płycie + omv https://pl.msi.com/Motherboard/E350DME33/Specification
#homelab #selfhosted #komputery #linux

poddaje się xD
macie jakiś dobry i sprawdzony tutorial postawienia nextcloud na debianie? ogólnie to ma być lxc/wm na proxmoxa
próbowałem:
https://docs.nextcloud.com/server/31/admin_manual/installation/source_installation.html - po postawieniu nie wchodziła strona logowania
https://www.rosehosting.com/blog/how-to-install-nextcloud-on-debian-13/ - nie dało się zalogować po finalizacji instalacji na gui, za każdym razem błędne hasło
https://community-scripts.org/scripts/nextcloud-vm - stawia NC 18, podnosi się do 34 bez problemu ale pokonało mnie doinstalowanie modułu php smb clientPokaż całość

#sztucznainteligencja #selfhosted #pytaniedoeksperta
Mam taką rozkminę - model AI odpalony lokalnie - do czego?
Sprzęt w kosmos drogi, chcę to sobie postawić dla zabawy na czymś wygrzebanym z szafy, szybkie testy pokazały, że modele mniej więcej do 11B działają z sensowną szybkością.
Ale nie potrafię wymyślić żadnego zastosowania dla takiego modelu :)
Mądrość zbiorowa internetu podpowie?

ciekawe co się stanie z proxmoxem po sklonowaniu systemowego dysku
trochę dysków z danymi mam podpięte do wirtualek i kombinuję jak mogę się ochronić przed ich utratą jak padnie dysk systemowy albo główny dysk zplikami wirtualek.
i tak robię to przez lte + wireguard i pikvm -clonezilla bootowana z pikvm ( ͡º ͜ʖ͡º)
jestem jakieś 30km od serwera
#homelab #selfhosted #linux

instalacja zdalna proxmoxa przez wireguarda ( ͡º ͜ʖ͡º)
#selfhosted #homelab

Zaktualizujcie jellyfin do 10.11.7
https://www.reddit.com/r/selfhosted/comments/1s94a18/psa_update_to_jellyfin_10117_immediately_critical/
#selfhosted #jellyfin