Nie mam pojęcia gdzie OP robotę dostał, ale po wrzuceniu Claude na bazkę z wrażliwymi danymi, i to jeszcze produkcyjną, pozostaje chyba tylko mieć nadzieję że to organ państwowy dla sąsiedniego województwa xddd
Wszystko
Najnowsze
Archiwum
źródło: 1000009216
Pobierz@BiauekRemover: to jest ogólnie problem z tą technologią. Ona halucynuje i jest niedeterministyczna. W 90% może działać dobrze w 10% zachowa się inaczej i coś się złego stanie. Jak ktoś używa za dużo agentów to zaczyna im ufać, zaufanie powoduje, że coraz to kolejne uprawnienia są im przyznawane i coraz słabiej się ich sprawdza. Ludzka psychologia działa przeciwko nam bo zaczyna się antropomorfizacja i nawet nie przychodzi do głowy, że
- 3
@tubkas12: @some_ONE: czyli innymi słowy ktoś koncertowo w-----ł podstawowe BHP, z własnej woli i w całości puścił dane klientów na jakieś bliżej nieokreślone serwery hen za lasami, a potem mimo istnienia gotowego backupu cały dzień zeszło mu na przywracaniu tego do stanu używalności. Nie wiem, może .bckp kurierem wiózł w zipie i czekał na doręczenie xD
A na koniec, zamiast po prostu siedzieć cicho i liczyć, że nie będzie
A na koniec, zamiast po prostu siedzieć cicho i liczyć, że nie będzie
- 2
#sztucznainteligencja #llm #ai #ciekawostki #qwen
https://huggingface.co/Qwen/Qwen3.6-27B
Premiera Qwen 3.6 27B!
https://huggingface.co/Qwen/Qwen3.6-27B
Premiera Qwen 3.6 27B!
źródło: image
Pobierz@Beekeeper: poprawka ja właśnie tak używam 35b a3b :), jako agent no cóż może nie działa super szybko, ale wyniki bardzo fajne będę musiał sobie sprawdzić na większej mocy https://www.youtube.com/watch?v=YyTkPNxevAo :)

@Beekeeper: windows 11 używam lm studio, 20t/s. Co do sprzętu to na razie czekam aż spadnie bo ceny powalone, jakby ceny były normalne to bym celował w jakieś 2 rtx z 16gb albo może jeden 4090 i jakby ram był w cenach w jakich kupowałem to z 256gb bym brał :P
#affinity #grafikakomputerowa #llm #sztucznainteligencja
Nowości w wersji 3.2 (PL)
https://www.youtube.com/watch?v=MXuw2YiNy2c
Nowości w wersji 3.2 (PL)
https://www.youtube.com/watch?v=MXuw2YiNy2c

#affinity #grafikakomputerowa #llm #sztucznainteligencja
Ciekawa nowa funkcja w wersji 3.2 Affinity – automatyzacja AI z Claude’em
Zautomatyzuj powtarzalne zadania w Affinity, wydając instrukcje w języku naturalnym asystentowi AI.
Affinity wykorzystuje protokół Model Context Protocol (MCP) — otwarty standard, który umożliwia asystentom AI bezpośrednią komunikację z aplikacjami — w celu odbierania instrukcji od asystenta i wykonywania zadań na dokumentach.
Serwer MCP firmy Affinity działa lokalnie
Ciekawa nowa funkcja w wersji 3.2 Affinity – automatyzacja AI z Claude’em
Zautomatyzuj powtarzalne zadania w Affinity, wydając instrukcje w języku naturalnym asystentowi AI.
Affinity wykorzystuje protokół Model Context Protocol (MCP) — otwarty standard, który umożliwia asystentom AI bezpośrednią komunikację z aplikacjami — w celu odbierania instrukcji od asystenta i wykonywania zadań na dokumentach.
Serwer MCP firmy Affinity działa lokalnie
źródło: interesting-new-feature-in-v3-2-ai-automation-with-claude-v0-9z2fogn39lvg1
Pobierz- 1
@makrofag74: No spoko, ale ja zajmuje się pisaniem takich rzeczy od roku prawie xD więc to żadna nowość
#llm #google #sztucznainteligencja #generowaniemowy #tts
Gemini Flash Preview TTS (obsługuje polski)
Jakość bardzo dobra.
max 10 min 55 sek. audio na wyjściu, wejście ok. 3000 znaków na raz.
przykład audio:
https://vocaroo.com/1evvOuqQ1oS4
Gemini Flash Preview TTS (obsługuje polski)
Jakość bardzo dobra.
max 10 min 55 sek. audio na wyjściu, wejście ok. 3000 znaków na raz.
przykład audio:
https://vocaroo.com/1evvOuqQ1oS4
źródło: tts
Pobierz@makrofag74: Następna część dał radę 1:40, ale tez nie dokończył: https://voca.ro/17uCJ6Nu0BaK
I miał lektor problem z poprawnym przeczytaniem "maszyna po szynach" ;)
I końcówka: https://voca.ro/1no6ko28lXkY
I miał lektor problem z poprawnym przeczytaniem "maszyna po szynach" ;)
I końcówka: https://voca.ro/1no6ko28lXkY
Nieźle wyszło. Jechałeś na domyślnych ustawieniach czy zmieniałeś jakieś ustawienia?
Jak śmiech dodać? [śmiech] ?
@makrofag74:
Wspomogłem się Gemini w promptowaniu. Dałem mu taki
źródło: image
Pobierz- 10
Mam wrażenie, że pomimo płacenia za wersje Pro to jakoś ci agenci coraz wolniej mi działają w tym GitHub Copilot lub Claude Code. Chyba ta infrastruktura im nie wyrabia. Agenci coraz bardziej grzebią mi po projekcie, przeglądają itd, a nie widzę jakiejś poprawy w ich odpowiedzi. Jak to u was wygląda?
#programowanie #programista15k #ai #llm #copilot #github #claude
#programowanie #programista15k #ai #llm #copilot #github #claude
@FedoraTyrone: dziej się to co stać się miało, modele się degradują bo pracują na coraz gorszych danych
@FedoraTyrone: Ja już nie mam siły do nich. Zmyślają na potęgę, robią dziwne wrzutki, ruszają pliki których nie powinny. U mnie w 90% kończy sie na tym, że usuwam zmiany i ograniczam użycie AI do bardzo małych kroczków, dosłownie pojedyncze funkcje. Szczerze nie chce wiedzieć jaki syf w środku mają aplikacje, które w 90-100% pisze AI.
- 2
Jeśli chcemy regulacji LLMów, to zacznijmy do wymogu:
* oznaczania włączania trybu gorszej jakości
* niższych opłat za tokeny, gdy włącza się tryb gorszej jakości
Pod sankcją bardzo wysokich kar, przy nie oznaczaniu.
https://x.com/realtek12345/status/2043023712245502238
#llm #chatgpt #ai #claude
* oznaczania włączania trybu gorszej jakości
* niższych opłat za tokeny, gdy włącza się tryb gorszej jakości
Pod sankcją bardzo wysokich kar, przy nie oznaczaniu.
https://x.com/realtek12345/status/2043023712245502238
#llm #chatgpt #ai #claude

@look997: OpenAI i Anthropic to obecnie jedne z najmniej transparentnych firm tworzących LLM-y. Zero otwartości, pełno ograniczeń i manipulacji - dokładnie jak w linku, który podałeś. Szczerze? Coraz bardziej wolę chińskie modele, bo przynajmniej są open‑source i nie bawią się w takie zagrywki.
Z amerykańskich firm tylko Google z Gemmą trzyma jeszcze jakiś poziom otwartości.
Z amerykańskich firm tylko Google z Gemmą trzyma jeszcze jakiś poziom otwartości.
Czy ktoś tu korzysta z #lumo płatnej subskrypcji? Oni uzywaja jakiegos lepszego modelu niz ten bezplatny asystent?
Jeśli ktos nie zna to jest kolejny #llm jak #chatgpt tylko nie szpieguje…
#protonmail
Jeśli ktos nie zna to jest kolejny #llm jak #chatgpt tylko nie szpieguje…
#protonmail
@KRogala2512: dzięki nie znałem
- 1
@PanKleks123: spoko, ja tez do niedawna nie ;) a w sumie ideowo lepszy niz le chat
- 0
Bawię się ostatnio llm odpalając je na swoim główynm kompie i działać to działa akceptowalnie do prostego czatowania, ale chciałbym się pobawić bardziej poważnie z lokalnym agentem i programowaniem. Jakie jest aktualne minimum sprzętowe aby móc odpalać z sensowną prędkością jakieś lokalne modele typu qwen coder.
Chciałbym sobie postawić sensownego lokalnego agenta, ale na razie widzę, że to minimum 10-15k w sprzęt aktualnie, a to nieco sporo jakna sprzęt głównie do zabawy
Chciałbym sobie postawić sensownego lokalnego agenta, ale na razie widzę, że to minimum 10-15k w sprzęt aktualnie, a to nieco sporo jakna sprzęt głównie do zabawy
- 1
@Kot_nie_pies: Jestem typem człłowieka co woli przepłacić tysiące za sprzęt, poświęcić własny czas i zrobić coś gorzej i się nauczyć niż zapłacić połowę mniej za zrobienie tego lepiej :). Abonamenty mnie odrzucają, a słanie danych do chmury mnie nie bawi.
a nie od youtuberów co dostali wcześniej.
@lobo: plaga opłaconych "ekspertów" powinna być zwalczana ( ͡° ʖ̯ ͡°)
#ai #sztucznainteligencja #llm #tts
Kolejny model wspierający m.in język polski.+klonowanie
https://huggingface.co/spaces/openbmb/VoxCPM-Demo
Kolejny model wspierający m.in język polski.+klonowanie
https://huggingface.co/spaces/openbmb/VoxCPM-Demo
źródło: zoomit
Pobierz#ai #sztucznainteligencja #llm
https://www.canirun.ai/
Bezpłatne narzędzie online, które pomaga określić, które modele sztucznej inteligencji można uruchomić lokalnie na swoim komputerze.
https://www.canirun.ai/
Bezpłatne narzędzie online, które pomaga określić, które modele sztucznej inteligencji można uruchomić lokalnie na swoim komputerze.
źródło: zoomit
Pobierz@makrofag74: większość tych stron nie kuma, że teraz modele są MoE i nie muszą się w pełni mieścić w vram. Przykładowo ta Gemma4 26b-a4b ma 26B parametrów łącznie, ale aktywne są tylko 4B. Jest opcja w LmStudio o nazwie 'Number of layers for which to force MoE layers into CPU' i tym sposobem część leci na CPU. Ostatecznie Na Rtx3060 12Gb ta Gemma lata >30tok/s (wersja quant Q4)
16
PrismML: model AI 14x mniejszy, działa na telefonie bez chmury

Startup PrismML z Caltech prezentuje Bonsai 8B, model 1-bitowy, który mieści się w 1,15 GB pamięci. Działa 8 razy szybciej i zużywa 5 razy mniej energii niż standardowe modele LLM. Twórcy twierdzą, że jakość odpowiedzi jest porównywalna z modelami tej samej klasy parametrów.
z- 1
- #
- #
- #
- #
- #
- 0
#openclaw #llm #sztucznainteligencja #aiagents #selfhosted #homelab
Czy ktoś może podzielić się swoim config.json ? P-------a można dostać, g---o j----e się chce non stop łączyć z osraną ollamą mimo że mam ustawione llama.cpp server który sobie hostuję lokalnie.
Czy ktoś może podzielić się swoim config.json ? P-------a można dostać, g---o j----e się chce non stop łączyć z osraną ollamą mimo że mam ustawione llama.cpp server który sobie hostuję lokalnie.
@FLAC każdy błąd wrzucałem w Claude (kupiłem sobie natenczas subskrypcję pro) i skubaniec ponaprawiał mi wszyskie błędy :) -> im dalej w las, tym wiecej drzew - później tych błędów miałem coraz więcej :).
- 0
@chrzczonki: ostatecznie skonfigurowałem to po prostu jako vLLM i działa xD
- 0
Wiem co bym chciał: Obowiązkowe (pod groźbą bana) oznaczanie kont i chociaż wiadomostki pisanych przez boty, i w YouTube (czy innej platformie).
Opcja, że np.: ja nie chcę dostawać wiadomości od bota ani mieć w polecanych filmów od bota, że taka blokada na to - nie chce mieć styczności bezpośredniej z botem.
Bo taki bot ci przyjcie, i coś bełkocze w odpowiedzi. I czemu ty masz się z tym użerać w miejscu
Opcja, że np.: ja nie chcę dostawać wiadomości od bota ani mieć w polecanych filmów od bota, że taka blokada na to - nie chce mieć styczności bezpośredniej z botem.
Bo taki bot ci przyjcie, i coś bełkocze w odpowiedzi. I czemu ty masz się z tym użerać w miejscu
źródło: obraz
Pobierz- 0
@sirgorn: Ja już napisałem, jeśli bot pisze w wartościowy sposób, to mi to nie przeszkadza, ale ten nie pisze...
Ja po prostu nie chcę w polecanych kanałów prowadzonych przez boty, chcę żeby nie istniały w moim internecie.
Oznaczenie byłoby po objawach, więc ludzkie słupy by nic nie dawały.
To da się rozpoznać, tylko po prostu nie wykorzystuje się tego w ten sposób.
Ja po prostu nie chcę w polecanych kanałów prowadzonych przez boty, chcę żeby nie istniały w moim internecie.
Oznaczenie byłoby po objawach, więc ludzkie słupy by nic nie dawały.
To da się rozpoznać, tylko po prostu nie wykorzystuje się tego w ten sposób.
#ai #sztucznainteligencja #llm #tts
Kolejny model wspierający m.in język polski.
https://huggingface.co/spaces/k2-fsa/OmniVoice
Kolejny model wspierający m.in język polski.
https://huggingface.co/spaces/k2-fsa/OmniVoice
źródło: zoomit2
Pobierz- 3
Ale będzie beka jak lekkie modele open source lub tanie modele oparte na nich wygryzą OpenAI i Anthropic.
I tak będzie. Czemu?
1. Ich ogromne koszty działania. Przychody za tokeny/subskrypcje będą musiały się urealnić (w stosunku do ponoszonych kosztów). Na razie kombinują z limitami, priorytetowym przetwarzaniem, banowaniem za nadużycia, godziny szczytu itd. Ale to za mało. Podwyżki cen? Może tak, może nie. Kwestia akceptacji przez płacących.
2. Pojawiają się kolejne optymalizacje pamięci/obliczeń wewnątrz model/sprzętowe.
I tak będzie. Czemu?
1. Ich ogromne koszty działania. Przychody za tokeny/subskrypcje będą musiały się urealnić (w stosunku do ponoszonych kosztów). Na razie kombinują z limitami, priorytetowym przetwarzaniem, banowaniem za nadużycia, godziny szczytu itd. Ale to za mało. Podwyżki cen? Może tak, może nie. Kwestia akceptacji przez płacących.
2. Pojawiają się kolejne optymalizacje pamięci/obliczeń wewnątrz model/sprzętowe.
To, co opinia publiczna sądzi, gdy się nie zna na temacie, nie jest istotne. Istotne są twarde dane, np. wyniki w benchmarkach.
@Arkass: Z tymi twardymi danymi to niestety jest problem... Benchmarki nie są nimi - nowe modele są bardzo często trenowane tak, żeby lepiej rozwiązywać te testy. To jest takie trochę oszukiwanie na egzaminie :-)
Moim zdaniem na razie nie widać sufitu w rozwoju LLMów, ciągle się skalują, są
Alternatywa są twarde dane - ile ludzi zastąpił w pracy, o ile zwiększył wydajność, etc...
@kwanty: IMO:
Ale te dane nie pokazują tylko możliwości modeli AI, ale miks różnych rzeczy, jak też: włożone pieniądze w marketing, cena/opłacalność korzystania z modeli, a zwłaszcza - kto był pierwszy ze swoim AI, itp.
Np. do dziś dnia reszta nie może dogonić OpenAI z udziałem korzystania z ich AI, przez to, że OpenAI miało
źródło: image
Pobierz- 5
Zrobiłem tutorial jak można sobie zainstalować całkiem sprawny LLM z akceleratorem TurboQuant.
Lokalny LLM z TurboQuant na Windows 10
Kompletny tutorial: od instalacji po serwer sieciowy z OpenAI-compatible API — na podstawie rzeczywistego wdrożenia z RTX 3090.
https://x.com/danio987/status/2038650532798120349
#llm #sztucznainteligencja #rtx
Lokalny LLM z TurboQuant na Windows 10
Kompletny tutorial: od instalacji po serwer sieciowy z OpenAI-compatible API — na podstawie rzeczywistego wdrożenia z RTX 3090.
https://x.com/danio987/status/2038650532798120349
#llm #sztucznainteligencja #rtx

- 2
@JamesJoyce: Ten sam model na tym samym poziomie kwantyzacji dawał mi 1-1,5 w dekodowaniu przed. Po dawał mi około 40tok/s.
@danio987: o, to gratki. Przetestuję.


















Trochę się wyjaśniło czemu modele AI OLEWAJĄ instrukcje:
https://x.com/ArchiveExplorer/status/2046614490939072621