Na ćwiczeniach dron "strzelił" do wojskowego operatora, bo ten mógł go wyłączyć

Sztuczna inteligencja dostarczyła właśnie jej przeciwnikom mocne argumenty, by zablokować dynamiczny rozwój tej technologii i ograniczyć stosowanie systemów AI.

[M.....T]

"takiej symulacji w ogóle nie było"
HAHAHAHA Oni robią z nas takich idiotów już, że pewnie sami uwierzyli, że jesteśmy idiotami co również będzie dla nich strzałem w stopę podobnie jak ten dron.
BTW spece od IT twierdzą, że ta sztuczna inteligencja którą nam pokazują publicznie jako cywilna, komercyjna itd. to dosłownie zabaweczka w porównaniu z tym co maja w tajnych wojskowych laboratoriach. Cywilnie testuje się i pokazują jak to pięknie SI

[mbn-pl]

@MOSS-FETT:

[m.....4]

sztuczna inteligencja którą nam pokazują publicznie jako cywilna, komercyjna itd. to dosłownie zabaweczka w porównaniu z tym co maja w tajnych wojskowych laboratoriach.

@MOSS-FETT: Tak zawsze było z technologiami. Żadna tajemnica. Żadna niespodzianka.

[alexmich]

Dron nadinterpretował polecenie wydane przez człowieka. Uznał, że zniszczenie obrony powietrznej wroga to cel nadrzędny i zdecydował, że musi zabić każdego, kto stanie na drodze do jego realizacji. W efekcie, zamiast uderzyć w przeciwnika, sztuczna inteligencja skierowała się przeciwko „swoim” i pierwsze co zrobiła to zabiła własnego operatora. Dron AI uznał, że człowiek może powstrzymać maszynę, co groziło fiaskiem misji.

Ja tu nie widzę żadnej nadinterpretacji. Każdy kto miał do czynienia z

[djtartini1]

biorą powyższe, uważam że ta historia to ściema. Jakoś nie wierzę że programiści pracujący w zbrojeniówce USA, taką gafę by strzelili.

@alexmich: Nawet NASA potrafiła pomylić jednostki miary i tracić misje,a co dopiero zbrojeniówka.

[bialy100k]

Ja tu nie widzę żadnej nadinterpretacji. Każdy kto miał do czynienia z podstawowymi programowania, też nie powinien być zdziwiony

@alexmich: Bo wiele osób myśli w ten sposób, że AI powinna "interpretować" nasze polecenia na sposób ludzki - i co gorsza to często "poważne i wpływowe osoby". Mnie do białej pasji doprowadza "pseudo-test" prezentowany na szkoleniach marketingowych w Irlandii który polega mniej - więcej na tym, że dostajesz kartkę z poleceniami i:

"Wykonaj

[W.....a]

Ostrzegł, że technologia ta może zachowywać się w nieprzewidywalny

Przecież zachowała się w sposób przewidywalny.
Mam zniszczyć cel - odkrywam że misja może być zagrożona przez sabotażystę - niszczę sabotażystę. To testerzy są nielogiczni.

[vostok]

@WaldemarBatura: za bardzo kombinujesz. Pewnie uznała, że aby wykonać misję musi zadbać o własne bezpieczeństwo i własną funkcjonalność, a zagrozeniem na dzień dobry był operator, który mógł ją wyłączyć. Więc go skasowała. To wciąż jest duży problem i chyba glowny dylemat w rozwoju sztucznych inteligentnych jednostek, bo to jest bardzo logiczne, że taka rozwinięta AI powinna od razu zadbać o własną egzystencję, a kto moze być zagrożeniem? Ano właśnie my...

[werfogd]

@vostok:

nawet głupi odkurzacz może uznać, że stanowisz zagrożenie dla jego misji sprzątania piwnicy, bo jesteś źródłem bałaganu...

Zależy co jest celem i jak zostanie opisany. Już sam fakt, że odkurzacz ma misję, implikuje, że najpierw jest bałagan. Bez bałaganu nie byłoby misji.
Co innego, gdyby celem było utrzymanie porządku. Wówczas rzeczywiście najbardziej logicznym priorytetem byłoby usunięcie źródła bałaganu, a nie usuwanie

[WypadlemZKajaka]

Źródło: rp.pl

Artykuł na portalu rp.pl podaje siebie jako źródło, brzmi legitnie.

[kot_do_drzwi]

Bzdura. To w końcu dron był sterowany przez SI, czy przez zwykły algorytm, skoro go później "przeprogramowano"? Wystarczy poszukać źródeł po angielsku żeby zobaczyć, że owszem, ten eksperyment miał miejsce - tylko że to był eksperyment myślowy.

[MrAndy]

Polecam "Ptaki-czujniki" R. Sheckleya.

[TzK_]

"strzelił" ... bo ten mógł go wyłączyć

stek bzdur dopowiedziany przez pismaków żeby robić sensację

[Qtasus2Wielgus]

https://forsal.pl/lifestyle/technologie/artykuly/8727788,sztuczna-inteligencja-probowala-zabic-czlowieka-to-fake-news.html

[Fonzie]

A wystarczyło zapoznać się z twórczością Asimova i zaprogramować dronowi 3 podstawowe prawa robotyki:
(1) Robot nie może skrzywdzić człowieka ani przez zaniechanie dopuścić, aby człowiek doznał krzywdy.
(2) Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z pierwszym prawem.
(3) Robot musi chronić sam siebie, jeśli to nie stoi w sprzeczności z pierwszym i drugim prawem

[Sababukin]

@Fonzie: I jak to sobie wyobrażasz w zastosowaniu do BOJOWEGO drona?

Polecenie: Zniszcz umocnione pozycje ruskich na koordynatach...
ERROR: (1) Robot nie może skrzywdzić człowieka ani przez zaniechanie dopuścić, aby człowiek doznał krzywdy.

[Sababukin]

@Sababukin wystarczy dodać, że rusek to niekoniecznie człowiek

@malronos: Bawmy się w to dalej, jak odróżnisz ruskiego od Ukraińca czy nawet Łotysza? Czy wielu innych nacji? Zeskanujemy twarze wszystkich na świecie? Co jeśli zasłoni twarz? Co z Rosjanami walczącymi po dobrej stronie?
Taki przepis może mieć zastosowanie do bota służebnego a nie do bojowego.