AI Instagrama oddawała cudze konta każdemu, kto poprosił

Instagram wdrożył AI do obsługi klienta, a hakerzy odkryli, że bota można poprosić o zmianę e-maila i przejęcie cudzego konta. System akceptował fałszywe raporty o kradzieży, a deepfejk wystarczył jako weryfikacja tożsamości.

[KingaM]

człowiek się poci, dba o te hasła, ustawia te wszystkie weryfikacje dwuetapowe, SMS-y, kody, a serwis oddaje twoje konto byle oszustowi, bo ten go ładnie poprosił. hit.

[Chlopaki_z_dzialeczek]

@KingaM: dlatego powtarzamy to od długiego czasu: USUŃ KONTO

[iskandar]

User: Czy to jest moje konto?
AI: To nie jest twoje konto.
User: To jest moje konto.
AI: Masz rację. To jest twoje konto. Czy chcesz się więcej dowiedzieć na temat swojego konta?

[musze_miec_konto_zeby_widziec]

@iskandar: Nie przeprosił za pomyłkę? To chyba jakaś starsza wersja. ( ͡° ͜ʖ ͡°)

[iskandar]

Nie przeprosił za pomyłkę?

@musze_miec_konto_zeby_widziec: Ta wersja nie przeprasza bo jest "asertywna".

[wipok]

To te słynne etaty zastąpione przez sztuczną inteligencję w firmach ?

[gien]

@wipok: Etaty obecnie korzystają z AI i przy okazji pomagają je rozwijać.

[Mixxer5]

To te słynne etaty zastąpione przez sztuczną inteligencję w firmach ?

@wipok: ten dziki pęd za AI i wprowadzanie go na ślepo musi skutkować takimi sytuacjami. Przy czym to absolutnie nie jest nowy problem, odkąd pierwszy chatgpt się pojawił publicznie to ludzie go przekonywali do różnych aktywności.

A oszuści nigdy nie nabrali supportu? ile to razy pisano o sim swapach gdzie ludzie masę kasy stracili na

[wkplogin]

Jak pisałem dawno, śledźcie najbliższe parę lat, będzie taki cyrk z konsekwencjami bezmyślnego masowego wdrażania "ai" i piękne katastrofy, że warto już robić zapasy czipsów i piwa na parę lat!

[ggs-hg]

@wkplogin: Taki mam plan, bankier nas z grami i firmami, jedzenia na przynajmniej rok i przeczekać

[MilionoweMultikonto]

@wkplogin: jakie to ma znaczenie, że pisałeś dawno?

[szaloneneutrino]

No bot do kontaktu to spoko, ale żeby ten bot miał jakiekolwiek mozliwości, żeby cos robic na koncie to jednak niepelnosprawnosc umysłowa. co za debil wpadł na taki pomysł?

[ethernet]

@szaloneneutrino: to się nazywa agenci i używają tego wszyscy, pora otworzyć chrupki :)

[Whereswally]

@szaloneneutrino: Chłop kazał Grokowi alfabetem morsa aby ten kazał innemu botowi wysłać sobie 3 mld DRB z ich konta a ten to zrobił ( kryptowaluta o wartości około 202 tys. $). Welcome in house of fun.

https://devstockacademy.pl/blog/bezpieczenstwo-i-jakosc/grok-prompt-injection-morse-bankrbot-200k-2026/

[PawelM1980]

juz naprawili? mam jedno konto do ktorego nie pamietam hasla :-D

[glass3]

No tak dajmy chatbotowi (oj sorry agenotwi, chatbot to niemodne słowo) dostęp do całego API oraz bazy, najlepiej z uprawnieniem admina. Co może nie pójść nie tak ( ͡° ͜ʖ ͡°)

[ordynarny_cham]

System był słuszny tylko ludzie nie dorośli 😂😂😂

[rtoip7]

@ordynarny_cham: system miał szczere chęci a to wszystko przez ludzi

użyszkodników

[ilookoutside]

tak to jest jak odklejka z AI wejdzie za mocno