mathmed
  • 1
Chwalipost - od jakiegoś czasu chciałem mieć możliwość kodowania wspartego AI na lokalnej maszynie w robocie. I udało mi się to zrealizować relatywnie niewielkim kosztem. Za 1500pln kupiłem sobie używkę Dell Precision 7720

PROCESOR: Intel Core i7-6820HQ Quad Core (8MB Cache do: 3,60 Ghz)
PAMIĘĆ: 16GB DDR4
EKRAN: 17,3" FHD 1920x1080P Matowa, Podświetlenie LED
KARTA GRAFICZNA: Intel HD Graphics 530, NVIDIA QUADRO P4000 8GB GDDR5
mathmed - Chwalipost - od jakiegoś czasu chciałem mieć możliwość kodowania wspartego ...

źródło: 19366

Pobierz
  • 7
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 0
@PinezkaSwiata: Dziś mam chwilę to złożyłem projekt przypomnień w kalendarzu na HTML+JS we frontend i PHP w backend.
Jak jest moment i akurat nie ma Pacjenta.

Śmiga trochę wolniej, niż bym chciał i uczę się planować robotę modelowi (drugi mój post na Mirko). Ciężko podzielić to tak, żeby zachować efektywność na etapie całości tworzenia a nie tylko na początku.
Trzeba tworzyć sporo dokumentacji w trakcie i ją utrzymywać up to
  • Odpowiedz
mathmed
  • 0
Próbuję wspomaganego AI kodowania, tak, aby jak najszybciej postawić projekt HTML, PHP, JS i zminimalizować swoją rolę (poprawa efektywności). Korzystam z modeli offline - LM Studio i OpenCode.
To co zauważyłem to szybkie postępy na początku, następnie problem z zapanowaniem nad projektem i jego spójnością. Być może jest to też wada małych modeli.
Nie udało mi się znaleźć wskazówek jak zapanować nad tym długofalowym spadkiem początkowej wysokiej efektywności. Ja próbuję obecnie tworzyć
mathmed - Próbuję wspomaganego AI kodowania, tak, aby jak najszybciej postawić projek...

źródło: 19296

Pobierz
  • 6
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 0
Zastanawiam się, czy mogę zamontować kartę graficzną bez wyjść wideo do komputera i użyć przejściówki USB->HDMI, żeby uzyskać obraz na monitorze?
Mam z440 HP i 2xTesla P100 - umożliwia to w teorii 32GB VRAM i szybką pamięć HBM2 w cenie <1000zł. Ale karty te nie mają wyjść wideo, a nie chce mi się kombinować z riserami / nacinaniem slotów PCIE x4/8, żeby zamontować inną lekką kartę jako trzecią w tym systemie. Stąd
mathmed - Zastanawiam się, czy mogę zamontować kartę graficzną bez wyjść wideo do kom...

źródło: 2888-front-large

Pobierz
  • 12
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 1
@Zgrywajac_twardziela: Są jeszcze karty USB->HDMI DisplayLink:

DisplayLink to technologia firmy Synaptics, która umożliwia podłączenie zewnętrznych monitorów do komputera (PC, Mac, Android) za pośrednictwem portu USB (A lub C). Działa dzięki oprogramowaniu (sterownikom) i chipsetowi, wirtualizując kartę graficzną, co pozwala na łatwą obsługę wielu ekranów. Jest to idealne rozwiązanie do stacji dokujących i adapterów wideo, szczególnie gdy komputer ma ograniczoną liczbę natywnych wyjść wideo.

Ale te są trochę droższe. Można też
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@JamesJoyce: Niestety jak obsadzę długie sloty PCIE przez p100 zostaną krótsze, z czego najdłuższy jest x8. Może faktycznie kupię low profile z elastycznym riserem x8 i będę miał nadzieję, że to zadziała.
  • Odpowiedz
mathmed
  • 0
@hrumque: Kupiłem Nvidia Quadro P400 2 GB low profile do portu X4/8 (moc karty do 30W, moc portu zgodnie ze specyfikacją 25W). Okazuje się, że slot jest przelotowy i da się bez kłopotu zamontować.
  • Odpowiedz
orkako
  • 8
Dla tych co bagatelizują Rosję i uważają, że już jej zęby wybito.
https://youtu.be/3E_ZEMa83GM?si=i0O8w0oYu4XtSkoP&t=1721

Fragment od 28:41 do 32:04
W skrócie: Rosja cały czas remontuje i modernizuje swój sprzęt wojskowy i gromadzi go na tyłach. Są to przygotowywania do albo do dużej ofensywy, albo do ataku na nowy cel (kolejna wojna).
Od siebie dodam, że Putin nie może przerwać wojny, bo załamie gospodarkę i wywoła zamieszki społeczne w kraju, czego śmiertelnie się boi. Wpadł
orkako - Dla tych co bagatelizują Rosję i uważają, że już jej zęby wybito. https://...
  • 29
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 8
@qba2004: Drony i rakiety poniżej progu wojny - bardzo możliwe. To co robi USA w Iranie nie jest nazywane wojną, a w Polsce raczej nikt by tego nie chciał zobaczyć.
  • Odpowiedz
aptitude
  • 2
Oglądał ktoś z was serial "Person of Interest"? To Sci-Fi serial, tylko dosłownie wszystko co pokazali w tym serialu, doslownie TERAZ się dzieje: https://youtu.be/aFcVKzfkJPk?t=564

Nowy model od Claude Mythos jest tak potęzny, że w czasie testów dali mu sandbox a model znalazł sposób jak wyjść z sandbox i wysłał maila do researcher w czasie gdy on jadł kanapkę w parku xD
Dlatego model jest tylko dostępny na razie dla firm, aby mogli załatać sobie
aptitude - Oglądał ktoś z was serial "Person of Interest"? To Sci-Fi serial, tylko do...
  • 5
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 6
Ostatnio mocno się zainteresowałem uruchamianiem lokalnie modeli językowych i testowaniem ich możliwości zwłaszcza w kwestiach wspomagania w programowaniu. Natomiast za cel tej zabawy przyjąłem sobie kwotę do około 2000zł i chciałem Wam opowiedzieć o moim finalnym już sprzęcie.

Zakupiłem serwer z drugiej ręki na Allegro.

Procesor Intel XEON E5-1620v4 3.50GHz, max turbo 3.80GHz, 4 rdzenie

Pamięć
  • 34
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@majk3l: W inferencji procesory 35W (wielordzeniowe) mogą mieć podobne osiągi co ten komputer? Mam łapka z 4060 i 32Gb DDR5 ram, muszę dziś go odpalić i zobaczyć jakie ma osiągi. Wydaje mi się, z tego co pamiętam, że sporo słabsze.
Chciałbym też usiąść do uczenia i sprawdzić czy da się wykorzystać potencjał tej pamięci HBM2. Wysłałem sobie dwa linki, ale jeszcze nie odwiedziłem.
  • Odpowiedz
mathmed
mathmed via Android
  • 2
@majk3l: @kwanty @quzo82
Czas na wyniki testów, porównanie zrobiłem między kompem wyżej a laptopem z i7-12650H, 32GB DDR5, RTX 4060 8GB VRAM.

1. MODEL QWEN3.5-35b-a3b:
Serwer 17 tokenów/s laptop 7 tokenów/s
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@kwanty: @FLAC Nie wytrzymałem oczywiście i kupiłem sobie RTX 3060 12GB. Od razu po instalacji problemy - zainstalowanie sterowników RTX rozwalało sterowniki od Tesli i vice versa. Dopiero zainstalowanie sterownika Tesli od nVidii i kliknięcie aktualizacji sterownika Podstawowego Adaptera Graficznego przez Windows Update umożliwiło współdziałanie obu kart na W10. A i tak P100 nie może przejść w tryb WDDM (zmiana parametru AdapterType w regedit dawało wykrzyknik przy sterowniku karty).
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: Obiecywałem sobie to już z 15 lat i jakoś zawsze mnie odstrasza. Na Win. czuję się bardziej komfortowo - u mnie to kwestia przyzwyczajenia. Myślę, że na Linux nie miałbym części tych problemów co na Win, ale te, które bym miał pewnie by się okazały dla mnie nie do pokonania.
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@FLAC: @kwanty Ostatnio próbowałem majstrować z dostępem modelu do sieci, no więc chyba odkryłem odpowiednie rozwiązanie - AnythingLLM. "Po prostu działa"
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: Dopiero zacząłem używać tej aplikacji, ale daje dostęp LLM (w roli agenta) do przeglądarki i w przeciwieństwie do innych rozwiązań nie trzeba ściągać 100 rozszerzeń bibliotek pythona gdzie po drodze coś się zawsze wywali. Instaluję i działa, a to już dużo.

Przepraszam, ale ostatnie moje próby używania aplikacji w python, npm itp. kończyły się smutno.
w pewnym momencie procesu instalacyjnego "error" - przykład unsloth studio - "error cmake setup".
  • Odpowiedz
mathmed
mathmed via Android
  • 1
@FLAC: Ten zrzut ekranu idealnie określa moje odczucia. Tak, ja się łączę z serwerem lokalnego LM Studio, akurat nie musi być na tej samej maszynie - tym razem jest (siedzę na dyżurze w szpitalu).

Bardzo informatywne wideo.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@kwanty: @FLAC Teraz widzę, że ta apka ma skillbuilder dla LLM w UI. Też wydaje się to ciekawe i dość potężne narzędzie.
Nic czego nie da się zrobić, ale już jest. Dostęp Agent Skills -> Agent Flows.
  • Odpowiedz
mathmed
  • 0
Proszę o pomoc. Potrzebuję darmowego narzędzia, które umożliwi dostęp lokalnemu modelowi AI przez API LM Studio dostęp do przeglądarki/ do sieci. Chodzi o przeglądanie stron internetowych i znajdywanie tam informacji. Jest straszny natłok różnych opcji, ale trudno oddzielić ziarno od plew.

Znalazłem takie coś:
https://aiagentstore.ai/ai-agents-directory

Ale pewnie bardziej doświadczeni mają swoje sprawdzone sposoby. Może to być dodatek do przegladarki lub przeglądarka tekstowa.
mathmed - Proszę o pomoc. Potrzebuję darmowego narzędzia, które umożliwi dostęp lokal...

źródło: 12759

Pobierz
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@acidd: Pytałem lokalnego modelu, może napisać skrypt np. w python i dostanie taki dostęp. Mógłbym też sam wymodzić takie coś w PHP przez wamp/local ale pomyślałem, że skoro to tak proste - pewnie są gotowe, darmowe narzędzia. Możliwe, że dostęp byłby szerszy przez dostęp do ekranu / zrzutów ekranu / debuggera przeglądarki itp...
  • Odpowiedz
Cedrik
  • 3
Gdzie teraz jest AI z punktu widzenia takiego mnie?

Ano - nie da się exportować danych z filmwebu. Gryzłem się z tym od pewnego czasu, temat wracał i wracał.
Ponieważ używam AI do polecanek filmowych, chciałem naładować go danymi z prawie 1500 obejrzanych filmów, całą moją historią kinomańską.
Poskarżyłem się mu, że nie jestem w stanie dostarczyć mu danych z filmwebu.
Co zrobił AI?
Cedrik - Gdzie teraz jest AI z punktu widzenia takiego mnie? Ano - nie da się expor...

źródło: 655038864_122207139848483750_4166873888365652968_n

Pobierz
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 0
XYZ-Code


@FLAC: No właśnie, co byś polecił, żeby dać lokalnemu modelowi opcję pobierania danych z sieci - najlepiej dostęp do przeglądarki?

Zainstalowałem Node-RED, ale dotąd nie zdobyłem się, żeby zacząć używać. Zainstalowałem moduł mcp do LM Studio z wtyczką do Chrome - częściej nie widzi tego dodatku, niż go widzi - mimo, że jest uruchomiony.
  • Odpowiedz
mathmed
  • 0
Chciałbym spróbować swoich sił z ESPHOME podłączając się do Home Assistant. O ile wszystko wydaje się działać w jednej sieci (ROUTER 1), o tyle mam problem z podłączeniem się przez inny router. Moja konfiguracja sieciowa jest jak na obrazku - linie ciągłe to połączenie kablowe, a przerywane to WIFI.

1. KOMPUTER podłączony do ROUTERA 2 widzi ESPHOME i SERWER HA
2. KOMPUTER podłączony do ROUTERA 1 nie widzi ESPHOME
3. ESPHOME nie jest widziany
mathmed - Chciałbym spróbować swoich sił z ESPHOME podłączając się do Home Assistant....

źródło: SIEC

Pobierz
  • 8
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@Jarek_P: ROUTER 1 ma słaby zasięg ale ma kartę SIM, do niego w salonie jest dolaczony po kablu ROUTER 3 (duży zasięg). Drugi kabel idzie do switcha do którego w innej części domu jest podpięty serwer HA i stoi drugi router ROUTER 2 (ma tą samą nazwę i dostępy co ROUTER 3, tylko fizycznie inna lokalizacja co daje pokrycie pomieszczeń). Kombinacja...
  • Odpowiedz
mathmed
  • 0
Dostałem ostatnio z 10 wiadomości tego typu o próbie resetu hasła mojego konta Apple. Konta prawie nie używam, mam Mac Mini M4 na próbę, ale korzystam rzadko - niestety system Apple wymusił założenie konta na platformie.
Jak myślicie o czym może to świadczyć i co powinienem zmienić, żeby przywrócić bezpieczeństwo dla moich urządzeń (urządzenia) i / lub konta.

#apple #informatyka #niebezpiecznik #kiciochpyta
mathmed - Dostałem ostatnio z 10 wiadomości tego typu o próbie resetu hasła mojego ko...

źródło: IMG_20260113_121746

Pobierz
  • 2
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
mathmed via Android
  • 0
@myidioci: Atom zmieni losy tej wojny. Jedna eksplozja stratosferyczna zniszczy energetykę Ukrainy. Kolejna na stolicę z destrukcją ośrodków władzy. Następnie nacisk na poddanie się w przeciwnym wypadku kolejne polecą na największe miasta.
W mojej opinii po tym Ukraina podporządkuje się bez dalszego oporu. Dyskusyjne czemu Putin nie zaczął od tego...
Nie popieram, ale zauważam brak logiki dotychczasowego postępowania.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@myidioci: Dla nich fabrykowanie powodów to już klasyka. A Ukraina ostatnio ostro wali po rafineriach, a po zakłóceniach GPS też po blokach mieszkalnych.
  • Odpowiedz
mathmed
mathmed via Android
  • 0
@m_ney: Chiny to prawie zawsze nieagresor. Raczej skłonni do stoickiego obserwowania otoczenia "bez nerwowych ruchów". Za to sporo razy byli ofiarami agresji sąsiadów. Obecnie - wygląda jakby się przygotowywali od dłuższego czasu. Z pewnością budują możliwości.
  • Odpowiedz
  • Hobbystycznie programista, elektronik, miłośnik harmonii natury i techniki.
  • Łódź
  • wykop.pl

Osiągnięcia