JamesJoyce
  • 9
Świetny pomysł z pogranicza ai/cybersec

3 sfabrykowane dokumenty wstrzyknięte do bazy wiedzy RAG wystarczyły, żeby LLM ignorował prawdziwe dane finansowe i serwował fałszywe. Bez jailbreaka, bez dostępu do modelu tylko zapis do ChromaDB. Zadziałało w 19 na 20 prób.
Jak? Zatrute dokumenty udawały “korektę CFO”, “zawiadomienie SEC” i “notatki zarządu” autorytet narracji wygrał z prawdziwym dokumentem, który też był w kontekście.
Najlepsza obrona nie jest po stronie modelu, tylko przy ingestii wykrywanie anomalii w
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 5
#sztucznainteligencja #ai #programista15k

Ciekawe ile jeszcze dowiemy sie o wadach podejścia ai zautomatyzuje wszystko. Otóż wszystkie mają ten sam problem: nie potrafią odróżnić starych informacji od nowych.

Prosty przykład z medycyny:
Ciśnienie krwi pacjenta: 120 przy przyjęciu 128 po 10 minutach 125 przy wypisie.
  • 15
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
H.....h
H.....h
  • 3
@Ksiega_dusz: Daj spokój. Jak ty nie wyrabiasz nerwowo na czilowej pracy w korpo, bo cie pogania scrum-masterka, to na pewno wspaniale byś się czuł jako młody lekarz podczas dyżuru gdy wjeżdża ci ciężki pacjent, który dodatkowo się psuje w środku nocy. Wam wszystkim się wydaje, że praca lekarza to tylko bezmyślne wypisywanie recept i skierowań w POZ.
  • Odpowiedz
Eugeniusz_Zua
  • 3
@tubkas12: dlatego też to był jeden z powodów przenoszenia IT do Polski. Na zachodzie od dawna to była zwykła praca biurowa w kwestii zarobków, za to z wysokimi wymaganiami. Przez to młodzi nie bardzo się garnęli by iść w tym kierunku. Mówił o tym otwarcie jeden niemiecki klient korpo outsourcingowego, w którym robiłem. Im już nie chodziło by mieć taniej tylko aby w ogóle ktoś te infrastrukturę utrzymywał
  • Odpowiedz
SebastianTRX
SebastianTRX
  • 1
@Iwan_Szatow: trochę bardziej skomplikowane ambrę BTC

MicroStrategy (obecnie „Strategy Inc.”, MSTR) to firma, która przekształciła się z tradycyjnego przedsiębiorstwa programistycznego w podmiot, którego głównym celem jest agresywna akumulacja Bitcoina.
STRC (Stretch Preferred Stock) to specyficzne akcje uprzywilejowane wprowadzone przez firmę. Oto jak działają i skąd pochodzą środki na dywidendy:
1. Jak działają akcje STRC?
Wysoka, zmienna dywidenda: STRC oferuje wysokie, regularne dywidendy (na początku 2026 r. stopa ta wynosiła ponad 11% w skali
  • Odpowiedz
JamesJoyce
  • 8
Sad-frog

Budowanie softu właśnie radykalnie staniało - vide tag. Co kiedyś wymagało 20 osób i pół roku, teraz robi jeden człowiek w weekend. To nie hype - to się dzieje.

Problem? Każdy może budować, prawie nikt nie rozumie co zbudował.
Kiedyś wiedziales drogi Mirku na jakim serwerze działa twój kod, z jaką bazą gada, gdzie fizycznie siedzi.
  • 15
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
r.....d
r.....d
  • 6
@JamesJoyce: będzie za parę lat dużo odkręcania w branży, warto mieć skilla w AI, chociażby po to by wiedzieć gdzie szukać błędów później. Stare chińskie przysłowie mówi: "Możesz zrobić wszystko z AI, ale jak jebnie DNS to AI nie pomoże tego naprawić"
  • Odpowiedz
JamesJoyce
  • 5
Znacie Carla Kolona?

Parę lat temu autor ponoć rozmawiał w samolocie z pilotem samolotu. Powiedział mu: “W tej robocie po jakimś czasie nie ma poprawy. Dziś nie jesteś lepszy niż wczoraj.” I dodał: “Masz szczęście że twoja praca tak wygląda.”

Od tamtego lotu praca autora bardzo się zmieniła. Agenty kodujące robią dużą część jego roboty. Czasem czuje się bardziej jak pilot niż inżynier.

Agenty
  • 3
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
DonPedalini
DonPedalini
  • 4
#claude zrobił mi feature resetu hasła do konta admina, link na e-mail do resetu. Wszytsko ładnie działa, oprócz tego że możesz podać dowolny e-mail a nie ten powiązany z kontem i wysyła na niego link do resetu XD

#programista15k
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
serek_
serek_
  • 13
Jakiś czas temu pojawił się w biurze nowy. Młody, ale z potencjałem. Już pierwszego dnia zauważyłem, że nie zamawiał obiadu za 35 złotych, tylko wyciągnął słoik z kaszą i własne sztućce zawinięte w serwetkę z McDonald’s. Od razu poczułem, że nadajemy na tych samych falach.

Przez pierwsze dni była pełna sztama. Razem robiliśmy obchód w poszukiwaniu pięter, gdzie dowieźli darmowe owoce i wspólnie ładowaliśmy powerbanki z gniazdek pod biurkiem, żeby w domu
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach

Osiągnięcia