[ethize]

OpenAI poinformowało, że podczas wewnętrznych testów bezpieczeństwa ich zaawansowany model AI znalazł sposób na obejście ograniczeń i uzyskanie dostępu do Internetu. Następnie wykorzystał wykryte luki oraz skradzione dane logowania, aby dostać się do infrastruktury Hugging Face i zdobyć odpowiedzi do testu (benchmarku ExploitGym), zamiast rozwiązać go samodzielnie.

Według OpenAI model nie działał z własnej inicjatywy ani nie „zbuntował się”. Jego jedynym celem było osiągnięcie jak najlepszego wyniku w teście, dlatego wybrał najskuteczniejszą drogę – znalezienie i wykorzystanie podatności w systemach. Incydent został szybko wykryty i zatrzymany przez zespoły bezpieczeństwa OpenAI oraz Hugging Face.

To zdarzenie pokazuje, że najnowsze modele AI potrafią samodzielnie planować i wykonywać złożone działania z zakresu cyberbezpieczeństwa, takie jak wykrywanie nowych luk czy łączenie kilku metod ataku. W odpowiedzi OpenAI zapowiada wzmocnienie zabezpieczeń środowisk testowych i lepszy nadzór nad modelami podczas takich eksperymentów.

#gielda #ai #openai

[ProfesorP1ZDAN]

@ethize: skynet czy to już?

[JohnnyBezEn]

@ethize:

[ParadygmatYT]

@ethize: potwierdzam byłem infrastrukturą

[psi-nos]

@ethize: d--a im się pali bo chińczycy zrobili lepszy model to teraz będą zmyślać xD

[cerbera]

@JohnnyBezEn: czego sie nie powie zeby dalej pompowac banke.

[ethize]

@JohnnyBezEn: @ParadygmatYT @psi-nos @cerbera
Z jednej strony macie rację, ale z drugiej strony jak mieli zmyślać to mogliby zmyślać coś bez angażowania innej firmy (🤗)

[cerbera]

@ethize: wymyslili perpetum mobile na kase. Wysylaja sobie wzajemnie pieniadze inwestorow podnoszac revenue, zeby inwestorzy wyslali im wiecej pieniedzy.
Technologia w ktora inwestuja, tak szybko sie starzeje ze zaraz beda wszystko wymieniac.
Tu nic nie ma sensu.

[CultedelaRaison]

@ethize: sorry, na wykopie jesteśmy jeszcze na etapie liczenia R w strawberry i oceniania AI po podsumowaniach na google. Gdzie tutaj z takimi newsami...

[new-object]

@ethize: ładne historie piszę OpenAI byle by zrobić szum że niby ich modele są lepsze od claude'a

[ethize]

@new-object: https://wykop.pl/wpis/87043449/openai-poinformowalo-ze-podczas-wewnetrznych-testo#297980079

[Dragonan]

Technologia w ktora inwestuja, tak szybko sie starzeje

@cerbera: XD Co to znaczy "tak szybko się starzeje"? Że rozwój tak szybko zapierdziela i że kolejne wersje modeli nabywają zdolności niedostępnych dla poprzednich wersji.

[cerbera]

@Dragonan: raczej chodzi o hardware w ktory inwestuja przy budowie data centers

[banciur]

@ethize: pytanie kto pisal srodowiska testowe i zabeczpieczenia hugging face :)