JamesJoyce
  • 1
Byczki wklejam fragment jednego z preprintów gpu robia brr, ale wyniki ciekawe. W skrócie:

Problem, który sobie wymyśliłem

AI Act i RODO mają wspólne założenie, o którym nikt głośno nie mówi: że da się zweryfikować rozumowanie modelu AI wobec jakiegoś formalnego modelu.Art. 13 AI Act wymaga sensownych wyjaśnień decyzji. Art. 9 identyfikacji i mitygacji błędów przez cały cykl życia systemu. Art. 22 RODO "znaczących informacji o logice" w decyzjach automatycznych. Art. 5 weryfikowalnych procesów
JamesJoyce - Byczki wklejam fragment jednego z preprintów gpu robia brr, ale wyniki c...

źródło: image

Pobierz
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
JamesJoyce
  • 1
: jak jest obliczany confidence?


@mythoMANIAC: hej, wlasnie o to chodzi. AI Act i RODO implikują, że system powinien sygnalizować kiedy nie wie lub może się mylić. Confidence score miał być takim sygnałem. Ale jeśli model raportuje 4.7/5.0 zarówno przy trafności 25% jak i 87.5% sygnał jest bezużyteczny. Audytor Article 13 nie ma czego weryfikować.

Model po każdej odpowiedzi był proszony o podanie oceny pewności w skali 1–5. Nie ma
  • Odpowiedz
JamesJoyce
  • 2
#sztucznainteligencja #programista15k #programowanie #si #it #filozofia

https://wykop.pl/wpis/86291257/sztucznainteligencja-programowanie-programista15k-

Takie tam notatki o tym dlaczego AGI nie powstanie a może powstanie:

Za:
@JamesJoyce +4
#sztucznainteligencja #programowanie #programista15k #it #kryzysit

Mordeczki, model dreyfusa pokazuje dlaczego “jeszcze trochę skalowania i mamy agi” to myślenie życzeniowe.

llm operuje na poziomie kompetentnym góra biegłym w wąskich domenach, i to tylko pozornie. nie dlatego że za mało parametrów czy
  • 9
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mark-twain
mark-twain
  • 0
@JamesJoyce: Za:

"Piękny i mądry paper Fjellanda z 2020, który swoją drogą posłużył mi jako baza do jednego z artykułów.
centralna teza jest prosta: komputery nie są w świecie. nie mają ciała, nie miały dzieciństwa, nie wyrastały w kulturze. a bez tego nie mamy innej drogi do na ten moment AGI."

To coś nie będzie człowiekiem. Nie będzie potrzebować tych rzeczy. Może postrzegać inaczej niż my i wiedzieć rozumieć inaczej
  • Odpowiedz
JamesJoyce
JamesJoyce via Wykop
  • 0
@mark-twain: kek, przeciez ty nawet nie zrozumiales argumentu.ty chyba nawet przeczytałeś sam tytuł, bo to co piszesz nie jest rozwinięciem fjellanda, tylko dokładnie tą pozycją, którą on rozkłada. "zanurzenie w świecie to w istocie tylko sensory, zamiana zmian otoczenia na bodźce elektryczne i szukanie patterns" to podręcznikowy komputacjonizm i reprezentacjonizm, i to jest właśnie cel całego argumentu dreyfusa, na którym fjelland stoi. bycie-w-świecie (in-der-welt-sein u heideggera) to nie jest input
  • Odpowiedz
JamesJoyce
  • 4
#sztucznainteligencja #programowanie #programista15k #it #kryzysit

Mordeczki, model dreyfusa pokazuje dlaczego “jeszcze trochę skalowania i mamy agi” to myślenie życzeniowe.

llm operuje na poziomie kompetentnym góra biegłym w wąskich domenach, i to tylko pozornie. nie dlatego że za mało parametrów czy za mało danych. dlatego że ekspertyza w sensie dreyfusowskim wymaga czegoś czego gradient descent nie kupuje: ucieleśnionego doświadczenia z konsekwencjami. pilot uczy się czuć
  • 3
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 1
@JamesJoyce: Ja myślę z kolei, że sam model to tylko baza wiedzy, a jego zastosowanie ma sens w interakcji z fizycznym światem, długim nieresetowalnym kontekstem i może komponentą fine-tuningu. Żeby to miało sens powinny istnieć warstwy - podstawowa sprzętowa, może jakaś niewielka sieć neuronowa ale umożliwiająca szybkie reagowanie i ustawiczną pracę oraz zapytania do wyższych ośrodków (duży LLM). Podobnie działają nasze mózgi biologiczne, gdzie mamy ośrodki niskiego i wyższych rzędów
  • Odpowiedz
gnijacy_wypok
gnijacy_wypok
  • 1
llm operuje na poziomie kompetentnym góra biegłym w wąskich domenach


@JamesJoyce: O ile było trochę materiałów wsadowych do nauki. Jak nie było, to taki z niego kompetentny pomocnik jak z koziej d--y trąbka. ( ͡° ͜ʖ ͡°)
  • Odpowiedz
JamesJoyce
  • 3
#sztucznainteligencja #programista15k #programowanie #anthropic

Ktoś jakiś czas temu oznaczył mnie pod wpisem mniej więcej dotyczącym końca it i Mythosa. W skrócie:

mythos mocno przesadza. llm robią wrażenie, ale to dalej narzędzia, a nie jakaś magiczna inteligencja która sama zastąpi całe it. internet co chwilę wpada w narrację „to już koniec programistów”, a potem okazuje się że w praktyce dalej potrzeba ludzi do architektury, błędów,
  • 13
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
mathmed
  • 4
@JamesJoyce: Ja ten temat oglądam na codzien z perspektywy radiologii. Dużo się mówi o zastąpieniu człowieka w tej materii, ale niezaprzeczalnym staje się fakt - przy skończonym zapotrzebowaniu wzrost efektywności pracy prowadzi do wzrostu konkurencji a to z kolei waliduje wynagrodzenia w dół. Powoduje też, że ktoś może pozostać bez pracy i bez wynagrodzenia.
  • Odpowiedz
JamesJoyce
  • 6
#sztucznainteligencja #cybersecurity #it #programowanie #programista15k

Cytat z Pana Olejnika, który wie o cybersec więcej, niż ja kiedykolwiek się nauczę.

"Lista mailingowa bezpieczeństwa j---a Linuksa tonie w powtarzających się zgłoszeniach - tych samych błędów, znalezionych przez te same narzędzia AI. Opiekunowie j---a Linux zaktualizowali w dokumentację zgłaszania błędów. Linus Torvalds odnotował, że ludzie tracą czas na przekazywanie spraw właściwym osobom albo tłumaczenie, że
JamesJoyce - #sztucznainteligencja #cybersecurity #it #programowanie #programista15k ...

źródło: image

Pobierz
  • 4
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
czwartafaza
czwartafaza
  • 1
@JamesJoyce: Ja to w ogóle podziwiam firmy, które idą all in w AI. Codziennie używam do generowania kodu i tyle razy ile zaproponował coś błędnego to nie zliczę. Jak się znasz to wyłapiesz szybko, ale jak się nie znasz to machajacypapiez. Ludzie też robią błędy, ale człowiek ma zdolność do powiedzenia "nie wiem", której AI nie ma :D
  • Odpowiedz
JamesJoyce
  • 8
#sztucznainteligencja #sib#programista15k #programowanie #it

Ojej, a ja wlasnie wdrozylem u Panstwa w kancelarii system wieloagentowy w n8n.

Badacze dali agentom AI dostęp do maili, shella, plików i Discorda. Dwa tygodnie później: wykonywał polecenia obcych, kasował dane, podszywał się pod użytkowników, zarażał inne agenty, raportował sukces gdy system leżał. Jedenaście udokumentowanych przypadków. Żywe środowisko. Ale Twój wdrożeniowiec mówił że jest enterprise-ready, więc spoko mordo.
JamesJoyce - #sztucznainteligencja #sib#programista15k #programowanie #it Ojej, a j...

źródło: image

Pobierz
  • 1
  • Odpowiedz

  • Otrzymuj powiadomienia
    o nowych komentarzach
  • #ai #machinelearning #programowanie #llm Piszę głównie o Ai

Osiągnięcia