JamesJoyce
  • 0
#sztucznainteligencja #ai #programista15k #kryzysit

Mamy taki płot. Dwie linie trendu to dwa różne sposoby oceny tego samego:

Automated Grader (pomarańczowy) skrypt sprawdza czy kod przechodzi testy. Rośnie ładnie: 31% → 65%. To metryka którą modele pośrednio optymalizują.
Maintainer Merge (niebieski) czy prawdziwy maintainer projektu zaakceptowałby ten PR do produkcji. Zaczął na ~8%, skończył na ~28% a rok i biorąc pod uwagę duże przedziały błędu
JamesJoyce - #sztucznainteligencja #ai #programista15k #kryzysit Mamy taki płot. Dwi...

źródło: IMG_2383

Pobierz
  • 10
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
kwanty
  • 1
@JamesJoyce: źle kreski postawiłeś, tam w ogóle nie masz poprawy po 2025-03, fitowanie tego do regresji liniowej jest tutaj niewłaściwe, w ogóle masz za mało danych

IMHO jedyne co jest pewne to że niebieska linia jest poniżej pomarańczowej
kwanty - @JamesJoyce: źle kreski postawiłeś, tam w ogóle nie masz poprawy po 2025-03,...

źródło: obraz

Pobierz
  • Odpowiedz
JamesJoyce
  • 9
Świetny pomysł z pogranicza ai/cybersec

3 sfabrykowane dokumenty wstrzyknięte do bazy wiedzy RAG wystarczyły, żeby LLM ignorował prawdziwe dane finansowe i serwował fałszywe. Bez jailbreaka, bez dostępu do modelu tylko zapis do ChromaDB. Zadziałało w 19 na 20 prób.
Jak? Zatrute dokumenty udawały “korektę CFO”, “zawiadomienie SEC” i “notatki zarządu” autorytet narracji wygrał z prawdziwym dokumentem, który też był w kontekście.
Najlepsza obrona nie jest po stronie modelu, tylko przy ingestii wykrywanie anomalii w
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 5
#sztucznainteligencja #ai #programista15k

Ciekawe ile jeszcze dowiemy sie o wadach podejścia ai zautomatyzuje wszystko. Otóż wszystkie mają ten sam problem: nie potrafią odróżnić starych informacji od nowych.

Prosty przykład z medycyny:
Ciśnienie krwi pacjenta: 120 przy przyjęciu 128 po 10 minutach 125 przy wypisie.
  • 15
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
H.....h
H.....h
  • 3
@Ksiega_dusz: Daj spokój. Jak ty nie wyrabiasz nerwowo na czilowej pracy w korpo, bo cie pogania scrum-masterka, to na pewno wspaniale byś się czuł jako młody lekarz podczas dyżuru gdy wjeżdża ci ciężki pacjent, który dodatkowo się psuje w środku nocy. Wam wszystkim się wydaje, że praca lekarza to tylko bezmyślne wypisywanie recept i skierowań w POZ.
  • Odpowiedz
Eugeniusz_Zua
  • 3
@tubkas12: dlatego też to był jeden z powodów przenoszenia IT do Polski. Na zachodzie od dawna to była zwykła praca biurowa w kwestii zarobków, za to z wysokimi wymaganiami. Przez to młodzi nie bardzo się garnęli by iść w tym kierunku. Mówił o tym otwarcie jeden niemiecki klient korpo outsourcingowego, w którym robiłem. Im już nie chodziło by mieć taniej tylko aby w ogóle ktoś te infrastrukturę utrzymywał
  • Odpowiedz
some_ONE
  • 1
tak jest


@JamesJoyce: no co poradzę że tutaj gość sam wkleja prompt gdzie całe zadanie polega na dodaniu jednego pola do modelu i formularza na froncie, migracja EF generuje się jednym poleceniem
  • Odpowiedz
JamesJoyce
  • 6
O kulcie młodości i inteligencji

Wielu doświadczonych programistów w pewnym momencie zaczyna czuć, że coś się zmienia, że ta sama praca, która kiedyś przychodziła naturalnie, dziś wymaga więcej wysiłku. Wypalenie? Czasem pewnie i tak. Ale jest ale.

To nie przypadek i nie słabość. To biologia.
Dean Simonton, badacz kreatywności, który przeanalizował tysiące życiorysów wybitnych twórców, odkrył że kariera zawodowa nie przebiega po linii prostej w górę. Rządzi nią model dwóch inteligencji: płynnej i
JamesJoyce - O kulcie młodości i inteligencji Wielu doświadczonych programistów w p...

źródło: IMG_2378

Pobierz
  • 15
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 4
#programista15k #programowanie #sztucznainteligencja #it #pracait

Mirki, proszę o radę. Jakiś czas temu pisałem o absurdalnych zapisach w umowie, którą dostałem

https://wykop.pl/wpis/85248039/naukaprogramowania-programowanie-it-programista15k

Dziś dostałem odpowiedź, że zgadzają się na wszystkie zmiany, które zaproponowałem. Czy to jednak nie wielki red flag, że wgl próbowali coś takiego wcisnąć? Co byście zrobili? Olali ich? Podpisali? Nie wiem co myśleć
@JamesJoyce +6
#naukaprogramowania #programowanie #it #programista15k #sztucznainteligencja #pracait

Mirki, chcecie żart z proponowanego mi kontraktu?

10.1 — Konsultant przenosi na Klienta wszystkie obecne i przyszłe prawa IP do PRACY i POMYSLOW. Jeśli prawa nie przejdą automatycznie z mocy prawa, Konsultant
  • 3
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 1
#pracait #sztucznainteligencja #it #programowanie #peogramista15k

Wielcy gracze – Google, Meta, OpenAI, Anthropic – toczą spór, który brzmi abstrakcyjnie, ale ma twarde konsekwencje: kto zdefiniuje ontologie AI, ten zdefiniuje rzeczywistość modelu.

Ontologia w AI to nie filozofia dla filozofii. To formalna struktura: co istnieje, jakie relacje łączą pojęcia, co z czego wynika. LLM-y bez tego są statystycznie imponujące, ale epistemicznie płytkie – stąd halucynacje i
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 1
#programowanie #naukaprogramowania #it

Na grupach fejsbukowych dla juniorów wciąż 80% osób szuka pierwszej pracy jako front end dev. Dla mnie to jest niepojęte, że ci ludzie nie tylko już się nauczyli jakichś podstaw fe, ale i to, że ogrom właśnie zaczyna. Jakie znaki musi dać pan buk, żeby ogarnęli, że ich roczne portfolio Claude code tworzy w 10 minut?
  • 10
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
Necrofallus
Necrofallus
  • 0
@Doxori: IMO specjalizacji ML można się przyjrzeć, czy ogólnie wiedzy z ML (machine learning - sieci neuronowe, klasyfikacja, klasteryzacja, detekcja anomalii, regresja, rekomendacje, uczenie tego wszystkiego), data science.
Co prawda żeby być dobrym to najlepiej mieć doktorat z matematyki, ale doktorzy tworzą i rozwijają LLMy, a jak firma zechce użyć np. coś wydajnego do rozpoznawania obrazów na dużą skalę, to pewnie byłby to CLIP, i nawet z nim żeby coś
  • Odpowiedz
JamesJoyce
  • 0
@Necrofallus: jest dokładnie tak. Większość data scientistow, którzy przychodza na rozmowy kwal. nie wiedzą co to lora, nie znaja sie na integracji produkcyjnej zaawansowanych modeli, nie czytają paperow i nie naprawia modelu, który jest napisany od zera.
  • Odpowiedz
t.....2
  • 10
@JamesJoyce: W innych tematach narzekałeś na ludzi którzy kłamią w cv - tu masz odwrotny przykład - człowieka co jest za szczery. Kto lepiej wyjdzie? Mitoman co nakłamie w cv czy huop który robi takie zbyt szczerze wysrywy? Życie jest brutalne.
  • Odpowiedz
t.....2
  • 10
@JamesJoyce:

Życie jest brutalne, ale to nie usprawiedliwia niemoralnych zachowań.

IT jest jako system zachęca do mitomanii i ją wynagradza a karze uczciwość.

Ta mitomania jest szerzej zakrojona bo nieraz słyszałem jak SH sprzedawały juniorów/midów jako seniorów klientom czy przykład z życia - kontraktownia załatwiała kucowi pracę na dwa etaty nie informując o tym klientów że kuc nie pracuje na cały etat a ściągając za niego full price
  • Odpowiedz
JamesJoyce
  • 7
#programista15k #programowanie #sztucznainteligencja #ai

Coś, co było niemal jest pewne teraz jest pewne. OpenAI opublikowało artykuł udowadniając, że kazdy LLM zawsze będzie coś halucynowal. Nie czasem. Dopiero przy następnej aktualizacji. Zawsze. Udowodnili to matematyką.

Nawet przy idealnych danych treningowych i nieograniczonej mocy obliczeniowej, modele AI nadal z przekonaniem mówią rzeczy, które są całkowicie fałszywe. To nie jest błąd, nad którym pracują. Jest to wpisane w to,
  • 22
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
WaveCreator
  • 13
@JamesJoyce: Dlatego z niecierpliwością czekam aż większość źródeł, na których uczone są LLMy, będzie pochodziła z LLM'ów ( ͡° ͜ʖ ͡°)

Zatrute studnie itp.

Natomiast nadal jestem bardzo zadowolony z tego jak LLM ułatwia np. zamianę nieformalnego opisu problemu na oficjalne zgłoszenie do urzędu, czy jak szybko potrafi dokonać syntezy czy porównania kilku dokumentów. Oczywiście wszystko działa w połączeniu z zasadą "ufam, więc sprawdzam", ale nadal
  • Odpowiedz
JamesJoyce
  • 1
@lisek_cytrusek: Nie. Polecam zaglebic sie w zagadnienie https://en.wikipedia.org/wiki/Symbol_grounding_problem

W kontekście liczenia (arytmetyki) symbol grounding problem sprowadza się do pytania: czy system operujący na cyfrach np. „2 + 2 = 4" naprawdę rozumie co to znaczy „dwa", czy tylko bezmyślnie przetwarza kształty znaków według reguł? Człowiek gruntuje symbol „2" w doświadczeniu: dwa jabłka, dwa kroki, dwa palce. System formalny (kalkulator, LLM) wykonuje poprawne obliczenia, ale cyfry są dla niego tokenami ich
  • Odpowiedz
JamesJoyce
  • 0
#programista15k #programowanie #sztucznainteligencja

Kurcze, sporo tych hipotez sie sypie. Najpierw mcp, teraz systemy wieloagentowe. Swietny artykul. Otoz:

Gdy tysiące systemów autonomicznych działają w tym samym środowisku, lokalna optymalizacja nieuchronnie prowadzi do globalnej niestabilności. To nie jest przede wszystkim problem wyrównania AI. To problem architektury koordynacji.

Jeśli
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 1
#it #programista15k #programowanie #sztucznainteligencja

https://wykop.pl/wpis/85253255/ai-w-obecnej-operacji-wojskowej-przez-departament-war

Kolejny przyklad wielkiego modela jako zarzadcy. Claude byl tym kwadratem na srodku wykresu lub przynajmniej interpretatorem danych z innych systemow. Ale jezyk użyty przez USA sugeruje cos innego.

"Aby
JamesJoyce - #it #programista15k #programowanie #sztucznainteligencja https://wykop....

źródło: image

Pobierz
  • 3
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
cat_tea
  • 0
@JamesJoyce:

W trakcie planowania potencjalnego ataku na Iran, Maven, napędzany przez Claude'a, zasugerował setki celów


Szkoły też od razu wtedy wytypował, czy dodali do listy celów później?
  • Odpowiedz
  • #ai #machinelearning #programowanie #llm Piszę głównie o Ai

Osiągnięcia