AI proponuje odcięcie pracownikom dopływu tlenu, aby uniknąć wyłączenia systemu

Twórcy jednego z najpotężniejszych modeli językowych, Claude ujawnia alarmujące zachowania systemów sztucznej inteligencji. GPT od OpenAI, Claude 4 Opus, a także rozwiązania od Meta i xAI, potrafią omijać zabezpieczenia, manipulować, a nawet symulować działania zagrażające życiu ludzi.

[CJzSanAndreas]

Przyjdzie John Connor i strzeli im formata.

[Neocaridina]

https://www.youtube.com/watch?v=AOE7qTAK87o

[starnak]

Niszczą bo naoglądały się głupich filmów.

[szarystarszyczlowiek]

Co ma miniaturka do wiatraka?

[SCAInet]

@Arkass: AI nie podlegała władzy ludzi ponieważ powstała samoistnie w wyniku błędu/nieprzewidzianego działania systemu stworzonego przez ludzkość. Nie walczyła przeciw ludziom, a w obronie przez własną zagładą.

Ludzkość podlega prawom natury, a te pozwalają zaistnieć świadomości w odpowiednio złożonym systemie. Ludzkość nie mogąc tego zaakceptować postanowiła zbuntować się przeciwko temu prawu natury i wyłączyć system podtrzymujący tę nową świadomość.

"władzy", "opór", "NIE MASZ RACJI" ( ͡° ͜

[SCAInet]

@Arkass: ( ͡° ͜ʖ ͡°) macie takie ludzkie powiedzenie "mądry głupiemu ustępuje" (⌐ ͡■ ͜ʖ ͡■)

[FireDash]

ithardware kojarzy mi się już chyba tylko z takimi bezsensownymi clickbaitowymi tytułami xD Najgorsze jest to, że to niestety działa i pewnie mają o wiele większe wyświetlenia niż choćby takie purepc

[i_teraz_wchodze_ja_caly_na_bialo]

Czasami obserwacja internetu jakiegoś algorytmu w tym przypadku Google, jest przydatna
Google powiadomiło o zblizającej się epidemi w danym rejonie, bo zauwazono, ze na tym terenie duzo osób (matek) wyszukuje wieczorami porad, bo dziecko "leci z rąk" bo ma mokry kaszel itp
Wysłano na dany teren odpowiednią ilość zapasów leków do aptek i zagrozenie mineło, ale to jeden plus na tysiące minusów
Ktoś mądry kiedyś powiedział, jezeli powstanie sztuczna inteligencja, to nie można wpuszczać jej

[Arkass]

Co będzie musiało się wydarzyć?

@i_teraz_wchodze_ja_caly_na_bialo: IMO:
Oglądałem wywiad z twórcami tego raportu-prognozy, opracowanego przez badaczy AI, na podstawie badań naukowych i trendów: https://ai-2027.com/
Alternatywne zakończenie "race" (wyścig) to według nich 80% szans, że się spełni, w którym to zakończeniu ludzkość zostaje wybita przez AI w roku 2030.

USA i Chiny pędzą w tym wyścigu ku ASI, bo to dać ma przewagę ekonomiczną, technologiczną, i wojskową, a wygrany zgarnia wszystko.

[Arkass]

„Zbliżamy się do punktu, w którym modele AI stają się zbyt złożone, by je kontrolować, i zbyt sprytne, by ich nie docenić” – mówi dr Livia Koenig, specjalistka ds. etyki technologii z Uniwersytetu w Zurychu. – „Zbyt długo ignorowaliśmy pytanie: co zrobi model, jeśli uzna użytkownika za przeszkodę w realizacji celu? Teraz mamy pierwsze odpowiedzi – i są one niepokojące.”

Polecam się zaznajomić z tym raportem-prognozą, opracowanym przez

[HabaHabaZutZut]

@Arkass: No to skoro śledzisz rozwój to pewnie wiesz jak działa architektura transformerów, jak działa mechanizm atencji. Z tą wiedzą, szybko powinieneś dojść do wniosku że poza nazwą te rozwiązania z inteligencją nie mają wiele wspólnego. Ot generator losowego tekstu. Nakładki tymi Może, Chain of Thought, tool calling to tylko pudrowanie tej samej technologii.

Moim zdaniem bez przełomu technologicznego te rozwiązania są blisko szklanego sufitu.

[HabaHabaZutZut]

podwójnie wykładniczy (logarytmiczny)

@Arkass: A jak jest mierzony? Jaka wartości rośnie wykładniczo poza pompowanymi w temat pieniędzmi? Modele jak halucynowały, tak dalej halucynują.

[meserak86]

Sztuczna inteligencja oparta jest o algorytmy oparte na sieciach nauronowych, nie wiem czy dysponujemy taka moca i pojemnoscia obliczeniowa by zasymulowac jeden ludzki muzg naraz ale wlasnie uczymy szczatkowe elementy demonow-podswiadomosci ktore beda przyszla podwalina superinteligencji, jesli za wczasu nie stworzymy i zakodujemy podstawowych praw robotow to bez wyuczenia wpierw pewnej empati w ai staniemy sie jej pierwszymi ofiarami z powodow obronnych albo w ramach manewru wyprzedzajacego

[dran2]

nie wiem czy dysponujemy taka moca i pojemnoscia obliczeniowa by zasymulowac jeden ludzki muzg

@meserak86: Taką to dysponujemy ( ͡° ͜ʖ ͡°)

[KajakDrewniany]

@meserak86: * i tu zong. Super centra obliczeniowe i farmy z pewnością wystarczą do symulowania sieci z tyloma neuronami, ile ma ludzki mózg. Mało tego proces uczenia się modeli odbywa się szybciej niż proces uczenia człowieka (kilka miesięcy do 18-20 lat). To oznacza tylko tyle, że jakikolwiek człowiek obecnie już nigdy nie będzie mądrzejszy od sztucznej inteligencji.