mathmed
  • 1
Zastanawiam się, czy mogę zamontować kartę graficzną bez wyjść wideo do komputera i użyć przejściówki USB->HDMI, żeby uzyskać obraz na monitorze?
Mam z440 HP i 2xTesla P100 - umożliwia to w teorii 32GB VRAM i szybką pamięć HBM2 w cenie <1000zł. Ale karty te nie mają wyjść wideo, a nie chce mi się kombinować z riserami / nacinaniem slotów PCIE x4/8, żeby zamontować inną lekką kartę jako trzecią w tym systemie. Stąd
mathmed - Zastanawiam się, czy mogę zamontować kartę graficzną bez wyjść wideo do kom...

źródło: 2888-front-large

Pobierz
  • 37
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 1
@Zgrywajac_twardziela: Są jeszcze karty USB->HDMI DisplayLink:

DisplayLink to technologia firmy Synaptics, która umożliwia podłączenie zewnętrznych monitorów do komputera (PC, Mac, Android) za pośrednictwem portu USB (A lub C). Działa dzięki oprogramowaniu (sterownikom) i chipsetowi, wirtualizując kartę graficzną, co pozwala na łatwą obsługę wielu ekranów. Jest to idealne rozwiązanie do stacji dokujących i adapterów wideo, szczególnie gdy komputer ma ograniczoną liczbę natywnych wyjść wideo.

Ale te są trochę droższe. Można też
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@JamesJoyce: Niestety jak obsadzę długie sloty PCIE przez p100 zostaną krótsze, z czego najdłuższy jest x8. Może faktycznie kupię low profile z elastycznym riserem x8 i będę miał nadzieję, że to zadziała.
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@hrumque: Kupiłem Nvidia Quadro P400 2 GB low profile do portu X4/8 (moc karty do 30W, moc portu zgodnie ze specyfikacją 25W). Okazuje się, że slot jest przelotowy i da się bez kłopotu zamontować.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@majk3l: Ma chłodzenie, widzisz tam są wydrukowane kształtki i puszczona pionowo rura, która zapewnia przepływ powietrza przedmuchiwanego przez jedną dużą turbinę położoną wyżej. Więc jedna turbina dmucha przez obie karty chłodząc je.
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@majk3l: Mam widżet od Afterburner w trayu - mam moc karty i temperatury. W stresie maksymalnie 53*C, dolna karta ma 4*C mniej. Powinienem podzielić mechanicznie strugę powietrza generowaną przez turbinę, a górna kształtka jest całkiem przelotowa. Będę redukował obroty turbiny, bo jest za głośno. Spróbuję skalibrować dla 70*C pod obciążeniem.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@JamesJoyce: Wiesz co, patrzyłem jeszcze na te temperatury i zauważyłem, że różnica ta jest już od uruchomienia kompa (na zimno). Zakładam ostatecznie, że raczej kwestia pomiarowa.
Zamontowałem oba serwery na miejscu docelowym, żeby moja kobitka mnie nie zabiła, że zaśmiecam chałupę.
mathmed - @JamesJoyce: Wiesz co, patrzyłem jeszcze na te temperatury i zauważyłem, że...

źródło: 20980

Pobierz
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@JamesJoyce: Dzięki, chciałem to jakoś zmieścić, a poprzednio wykorzystałem wentylatory 2x40mm i nie podoba mi się dźwięk ich pracy. Całość pasowała też bardzo na styk do tej obudowy i poszedłem w inne rozwiązanie.
Moje gratulacje, to już poważny kawałek sprzętu, w jakiej dziedzinie będziesz stosować ten hardware?
PS. Żałuję, że w tagu jest mało poważnych wątków, sporo śmieci zniechęca do przeglądania. Szkoda, że umarła idea for tematycznych.
  • Odpowiedz
mathmed
  • 1
@Abc123cba123: Wiesz co, na laptopie mam 8GB VRAM i uruchamiam tam mocno skwantowany QWEN3.6-35b-a3b, ale widać różnicę względem 32GB VRAM. Ile masz RAM? Część modelu pójdzie do RAM i powinno to gadać, ale wolniej. Małe modele są dużo słabsze. Chyba bym nie sprzedawał tego Radeona, możesz na nim już teraz uruchomić modele - VULKAN to ogarnia.

Dołożenie P100 do slotu x4 jest możliwe jeśli zasilacz sobie poradzi, ale będzie ciężko
  • Odpowiedz
Doment
  • 1
Siema Mirki z #programowanie i #sztucznainteligencja! 👋

Ostatnio mocno korzystam z Perplexity, ale szlag mnie trafiał, gdy musiałem kopiować dłuższe wątki i bloki kodu do własnej bazy wiedzy. Zawsze coś się sypało, formatowanie Markdowna znikało, a ręczne czyszczenie tego to strata czasu.

Nie znalazłem na rynku nic sensownego, więc... napisałem to sam. #chwalesie 🚀
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 1
@Doment: Jak podepniesz serwer MCP np. z Chrome to zamykasz pętlę i agent może pisać i uruchamiać testy, sprawdzać rezultaty i wiele rzeczy dzieje się szybciej.
Pali sporo tokenów, to do testów bym podpiął lokalny model.
  • Odpowiedz
mathmed
  • 0
@ssas78487: U ludzi na pewnym etapie rozwoju pojawia się myślenie symboliczne i generowanie tekstu po jednym słowie.
Nie można też powiedzieć gdzie znajduje się siedlisko naszej świadomości. Ale z pewnością podejście agentowe przybliża systemy oparte o LLM do czegoś co można nazwać życiem. Nie należy tego pomijać w rozważaniach.
  • Odpowiedz
mathmed
  • 0
Dostałem ostatnio z 10 wiadomości tego typu o próbie resetu hasła mojego konta Apple. Konta prawie nie używam, mam Mac Mini M4 na próbę, ale korzystam rzadko - niestety system Apple wymusił założenie konta na platformie.
Jak myślicie o czym może to świadczyć i co powinienem zmienić, żeby przywrócić bezpieczeństwo dla moich urządzeń (urządzenia) i / lub konta.

#apple #informatyka #niebezpiecznik #kiciochpyta
mathmed - Dostałem ostatnio z 10 wiadomości tego typu o próbie resetu hasła mojego ko...

źródło: IMG_20260113_121746

Pobierz
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 4
#sztucznainteligencja #programista15k #programowanie #anthropic

Ktoś jakiś czas temu oznaczył mnie pod wpisem mniej więcej dotyczącym końca it i Mythosa. W skrócie:

mythos mocno przesadza. llm robią wrażenie, ale to dalej narzędzia, a nie jakaś magiczna inteligencja która sama zastąpi całe it. internet co chwilę wpada w narrację „to już koniec programistów”, a potem okazuje się że w praktyce dalej potrzeba ludzi do architektury, błędów,
  • 13
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 4
@JamesJoyce: Ja ten temat oglądam na codzien z perspektywy radiologii. Dużo się mówi o zastąpieniu człowieka w tej materii, ale niezaprzeczalnym staje się fakt - przy skończonym zapotrzebowaniu wzrost efektywności pracy prowadzi do wzrostu konkurencji a to z kolei waliduje wynagrodzenia w dół. Powoduje też, że ktoś może pozostać bez pracy i bez wynagrodzenia.
  • Odpowiedz
JamesJoyce
  • 4
#sztucznainteligencja #programowanie #programista15k #it #kryzysit

Mordeczki, model dreyfusa pokazuje dlaczego “jeszcze trochę skalowania i mamy agi” to myślenie życzeniowe.

llm operuje na poziomie kompetentnym góra biegłym w wąskich domenach, i to tylko pozornie. nie dlatego że za mało parametrów czy za mało danych. dlatego że ekspertyza w sensie dreyfusowskim wymaga czegoś czego gradient descent nie kupuje: ucieleśnionego doświadczenia z konsekwencjami. pilot uczy się czuć
  • 3
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 1
@JamesJoyce: Ja myślę z kolei, że sam model to tylko baza wiedzy, a jego zastosowanie ma sens w interakcji z fizycznym światem, długim nieresetowalnym kontekstem i może komponentą fine-tuningu. Żeby to miało sens powinny istnieć warstwy - podstawowa sprzętowa, może jakaś niewielka sieć neuronowa ale umożliwiająca szybkie reagowanie i ustawiczną pracę oraz zapytania do wyższych ośrodków (duży LLM). Podobnie działają nasze mózgi biologiczne, gdzie mamy ośrodki niskiego i wyższych rzędów
  • Odpowiedz
mathmed
  • 1
@SonidoStark: @FedoraTyrone: Witam, działa to ok. 8-16GB VRAM modele małe, 28-32GB modele średnie, do dużych to już DGX Spark albo alternatywa AMD.
Do LLM budżetowo 2xP100, do tego coś małego do wyświetlania. Do generowania obrazów już jakiś RTX - może używka 3090.
Jak ktoś lubi Mac Pro to są używane ze starszymi generacjami Apple Silicon z większą ilością RAM unified memory. 8GB zabiera system, reszta jako VRAM.
  • Odpowiedz
mathmed
  • 1
Chwalipost - od jakiegoś czasu chciałem mieć możliwość kodowania wspartego AI na lokalnej maszynie w robocie. I udało mi się to zrealizować relatywnie niewielkim kosztem. Za 1500pln kupiłem sobie używkę Dell Precision 7720

PROCESOR: Intel Core i7-6820HQ Quad Core (8MB Cache do: 3,60 Ghz)
PAMIĘĆ: 16GB DDR4
EKRAN: 17,3" FHD 1920x1080P Matowa, Podświetlenie LED
KARTA GRAFICZNA: Intel HD Graphics 530, NVIDIA QUADRO P4000 8GB GDDR5
mathmed - Chwalipost - od jakiegoś czasu chciałem mieć możliwość kodowania wspartego ...

źródło: 19366

Pobierz
  • 7
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@PinezkaSwiata: Dziś mam chwilę to złożyłem projekt przypomnień w kalendarzu na HTML+JS we frontend i PHP w backend.
Jak jest moment i akurat nie ma Pacjenta.

Śmiga trochę wolniej, niż bym chciał i uczę się planować robotę modelowi (drugi mój post na Mirko). Ciężko podzielić to tak, żeby zachować efektywność na etapie całości tworzenia a nie tylko na początku.
Trzeba tworzyć sporo dokumentacji w trakcie i ją utrzymywać up to
  • Odpowiedz
mathmed
  • 0
Próbuję wspomaganego AI kodowania, tak, aby jak najszybciej postawić projekt HTML, PHP, JS i zminimalizować swoją rolę (poprawa efektywności). Korzystam z modeli offline - LM Studio i OpenCode.
To co zauważyłem to szybkie postępy na początku, następnie problem z zapanowaniem nad projektem i jego spójnością. Być może jest to też wada małych modeli.
Nie udało mi się znaleźć wskazówek jak zapanować nad tym długofalowym spadkiem początkowej wysokiej efektywności. Ja próbuję obecnie tworzyć
mathmed - Próbuję wspomaganego AI kodowania, tak, aby jak najszybciej postawić projek...

źródło: 19296

Pobierz
  • 6
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
orkako
  • 8
Dla tych co bagatelizują Rosję i uważają, że już jej zęby wybito.
https://youtu.be/3E_ZEMa83GM?si=i0O8w0oYu4XtSkoP&t=1721

Fragment od 28:41 do 32:04
W skrócie: Rosja cały czas remontuje i modernizuje swój sprzęt wojskowy i gromadzi go na tyłach. Są to przygotowywania do albo do dużej ofensywy, albo do ataku na nowy cel (kolejna wojna).
Od siebie dodam, że Putin nie może przerwać wojny, bo załamie gospodarkę i wywoła zamieszki społeczne w kraju, czego śmiertelnie się boi. Wpadł
orkako - Dla tych co bagatelizują Rosję i uważają, że już jej zęby wybito. https://...
  • 29
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 8
@qba2004: Drony i rakiety poniżej progu wojny - bardzo możliwe. To co robi USA w Iranie nie jest nazywane wojną, a w Polsce raczej nikt by tego nie chciał zobaczyć.
  • Odpowiedz
aptitude
  • 2
Oglądał ktoś z was serial "Person of Interest"? To Sci-Fi serial, tylko dosłownie wszystko co pokazali w tym serialu, doslownie TERAZ się dzieje: https://youtu.be/aFcVKzfkJPk?t=564

Nowy model od Claude Mythos jest tak potęzny, że w czasie testów dali mu sandbox a model znalazł sposób jak wyjść z sandbox i wysłał maila do researcher w czasie gdy on jadł kanapkę w parku xD
Dlatego model jest tylko dostępny na razie dla firm, aby mogli załatać sobie
aptitude - Oglądał ktoś z was serial "Person of Interest"? To Sci-Fi serial, tylko do...
  • 5
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@majk3l: W inferencji procesory 35W (wielordzeniowe) mogą mieć podobne osiągi co ten komputer? Mam łapka z 4060 i 32Gb DDR5 ram, muszę dziś go odpalić i zobaczyć jakie ma osiągi. Wydaje mi się, z tego co pamiętam, że sporo słabsze.
Chciałbym też usiąść do uczenia i sprawdzić czy da się wykorzystać potencjał tej pamięci HBM2. Wysłałem sobie dwa linki, ale jeszcze nie odwiedziłem.
  • Odpowiedz
mathmed
mathmed via Android
  • 2
@majk3l: @kwanty @quzo82
Czas na wyniki testów, porównanie zrobiłem między kompem wyżej a laptopem z i7-12650H, 32GB DDR5, RTX 4060 8GB VRAM.

1. MODEL QWEN3.5-35b-a3b:
Serwer 17 tokenów/s laptop 7 tokenów/s
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@kwanty: @FLAC Nie wytrzymałem oczywiście i kupiłem sobie RTX 3060 12GB. Od razu po instalacji problemy - zainstalowanie sterowników RTX rozwalało sterowniki od Tesli i vice versa. Dopiero zainstalowanie sterownika Tesli od nVidii i kliknięcie aktualizacji sterownika Podstawowego Adaptera Graficznego przez Windows Update umożliwiło współdziałanie obu kart na W10. A i tak P100 nie może przejść w tryb WDDM (zmiana parametru AdapterType w regedit dawało wykrzyknik przy sterowniku karty).
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: Obiecywałem sobie to już z 15 lat i jakoś zawsze mnie odstrasza. Na Win. czuję się bardziej komfortowo - u mnie to kwestia przyzwyczajenia. Myślę, że na Linux nie miałbym części tych problemów co na Win, ale te, które bym miał pewnie by się okazały dla mnie nie do pokonania.
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@FLAC: @kwanty Ostatnio próbowałem majstrować z dostępem modelu do sieci, no więc chyba odkryłem odpowiednie rozwiązanie - AnythingLLM. "Po prostu działa"
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: Dopiero zacząłem używać tej aplikacji, ale daje dostęp LLM (w roli agenta) do przeglądarki i w przeciwieństwie do innych rozwiązań nie trzeba ściągać 100 rozszerzeń bibliotek pythona gdzie po drodze coś się zawsze wywali. Instaluję i działa, a to już dużo.

Przepraszam, ale ostatnie moje próby używania aplikacji w python, npm itp. kończyły się smutno.
w pewnym momencie procesu instalacyjnego "error" - przykład unsloth studio - "error cmake setup".
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@FLAC: Ten zrzut ekranu idealnie określa moje odczucia. Tak, ja się łączę z serwerem lokalnego LM Studio, akurat nie musi być na tej samej maszynie - tym razem jest (siedzę na dyżurze w szpitalu).

Bardzo informatywne wideo.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: @FLAC Teraz widzę, że ta apka ma skillbuilder dla LLM w UI. Też wydaje się to ciekawe i dość potężne narzędzie.
Nic czego nie da się zrobić, ale już jest. Dostęp Agent Skills -> Agent Flows.
  • Odpowiedz
  • Hobbystycznie programista, elektronik, miłośnik harmonii natury i techniki.
  • Łódź
  • wykop.pl

Osiągnięcia