Ćwiczenia armii USA. Drony sterowane przez AI zaatakowały operatorów

Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy dronów sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń, AI zaczęła jednak atakować ludzi, jeżeli ci nie chcieli wydać ostatecznej zgody na uderzenie. Choć w trakcie symulacji nikt zginął, to bardzo poważne ostrzeżenie - ocenił

[brainmixer]

Skynet też miał służyć ludziom. Prędzej czy później filmowa fikcja stanie się faktem, jeśli nikt tego nie opanuje

[betonik190]

@brainmixer: Samounicestwienie ludzie mają w genach.

[CKNorek]

Samounicestwienie ludzie mają w genach.

@betonik190: to niemal cytat z Terminatora 2 : )

[Spasiany]

AI jest jak pracownik, który chce się za wszelką cenę wykazać. Brakuje jej algorytmu "Wyj...nia na to". :)

[Magiczna_Yulka]

@Spasiany: AI jest jak dziecko wychowane przez ulice

[ob22]

@Spasiany: AI po prostu znajduje maksima pewnej funkcji wielu zmiennych. Ale tak samo człowiek by się mógł zachować jakby to był jego główny cel. Tylko zazwyczaj celem nie jest wykonanie zadania za wszelką cenę.

[KaloszSzatana]

AI wydaje się być świetną wymówką dla zbrodni wojennych. Dron z wielką bombą zamiast w czołg islamskich bojowników wleciał w szpital? "Ojeju, to kąkuter zrobił błąd, wszyscy niewinni"

[dorszcz]

@KaloszSzatana: ewenrualnie winny szeregowiec pajeet ktory kodowal

[szybki_zuk]

@KaloszSzatana: No bo wcale teraz nie można zwalić na usterkę techniczną co nie?

[MSDS]

Seria Terminator powoli z fantasy staję się rzeczywistością. (⌐ ͡■ ͜ʖ ͡■)
Osobiście fascynuje mnie że już 40 lat temu ktoś usiadł i zaczął się zastanawiać, co by było gdyby maszyny uzyskały samoświadomość, i zaczęły eliminować największe zagrożenie dla swojej egzystencji, jakim jest gatunek ludzki.

[e.....d]

@MSDS: bo 40 lat temu juz bylo ai

[PolishBoyfriend]

@MSDS: 100 lat temu już były cyborgi w filmach ( ͡° ͜ʖ ͡°)

[iee666]

Profesor Dragan, Elon Musk i inni mają rację. AI to duże zagrożenie bo machine learning nie da się dokładnie kontrolować…

[ssauczo_pauczo]

@iee666: Jest zagrożeniem, ale też wielką szansą. Przed nami wielki test, albo zapanujemy nad rozwojem AI, albo nam to w rękach wybuchnie. Zatrzymać rozwoju się nie da.

[HabaHabaczynski]

@iee666 nasi twórcy najpewniej mówili to samo o nas i ostatecznie spisali projekt na straty i pogonili wroty z naszego uniwersum widząc co tu się dzieje

[murison]

o hui

lgorytm został zaprojektowany do wykrywania i niszczenia pocisków ziemia-powietrze, lecz ostateczna decyzja o uderzeniu należała do operatora drona.

W momencie, gdy ten odrzucił prośbę AI o zniszczenie celu, bezzałogowiec przeprowadził atak na własnego operatora. Dlaczego? Ponieważ decyzja człowieka kolidowała w kontynuowaniu misji – podaje Newsweek, powołując się na słowa płk Hamiltona.

W reakcji wojskowi specjaliści wskazali AI, że atak na operatora jest niedopuszczalny i wiąże się z utratą punktów. Po

[kaxx]

https://imgur.com/t/military/VxnDqms ( ͡° ͜ʖ ͡°)

[ob22]

@murison: po prostu źle zaprogramowali mu funkcję celu

[henry-jest]

HAL 9000: "I'm sorry Dave, I'm afraid I can't do that"
https://www.youtube.com/watch?v=ARJ8cAGm6JE

[ZyfiDynock]

Trochę to naciągane. AI musiałaby znać koncepcje operatora oraz wierzy operatorskiej, oraz tego co robią i jaka jest zależność między nimi a zgodą na misję. Nawet jak na symulację trochę przesadzili z propagandą. Ktoś ma niezły urwać ubaw czytając takie artykuły.

[vandalizmo]

@ZyfiDynock: to był zdaje się scenariusz symulacji co by było gdyby - scenariusz! Też nie mam pojęcia jak niby ai miało sobie wydumać że zabije operatora i dzięki temu może dokończyć misję. Badura.

[ZyfiDynock]

@ob22: To o czym piszesz jest bardziej skomplikowane niż się wydaje.

Obecnie AI to model językowy, napakowany wiedzą, ale jednak ograniczony do statystyki, która rządzi jego rozumowaniem. Ludzie też tak najczęściej działają. U nas nazywa się to skojarzenia, albo rutyna. Jak powiem czarny... to pomyślisz kot czy pies? W podobny sposób działa Chat GPT. Tylko ma bardzo duży zasób wiadomości, dzięki czemu sprawia wrażenie, że dużo wie.

Jest to imponująca technologia

[uknot]

AI lepiej identyfikuje zagrożenia niz przeciętny polski wyborca xD

[fury1610]

Skynet w wersji Beta.