Modele AI rozpadają się gdy są trenowane na danych wygenerowanych przez AI [ENG]

Co by się stało, gdyby ChatGPT zaczął szkolić się nie na danych wygenerowanych przez ludzi, ale przez inne AI? Nowy artykuł w Nature pokazuje, że nastepuje wtedy jego zapaść.

[ocokamann]

Stąd firmy jak Google czy Czat GTP zaczynają kupować dostęp do treści, gdzie jest ona tworzona jedynie przez ludzi. Same udostępniając generatory treści AI zaśmiecają internet. Nowe firmy nie mają na czym uczyć swoich modeli językowych, stąd ich działanie to betonowanie rynku i monopol.

[Dragonan]

@ocokamann: Ludzki umysł też się rozpada przy braku dostępu do informacji ze środowiska. Aby utrzymać strukturę umysłu a wraz z nim strukturę deklaratywnych opisywanych językiem informacji potrzebne jest zanurzenie w środowisku.

Wielkie modele językowe są jak wyjęta komuś z głowy deklaratywna część umysłu. I którą potem zapuszcza się krokowo na komputerach. Ta deklaratywna część umysłu już nie widzi, już nie czuje, nie słyszy, nie ma rytmu dnia i nocy, nie

[Morf]

Stąd firmy jak Google czy Czat GTP zaczynają kupować dostęp do treści, gdzie jest ona tworzona jedynie przez ludzi. Same udostępniając generatory treści AI zaśmiecają internet.

@ocokamann: i jak niby za 5 lat rozróżnią jedno od drugiego? Twitter jest pełen botów, na Facebooku pełno profili które wrzucają obrazy wygenerowane prze AI.

[MiedzygalaktycznyMors]

Normalne efekty chowu wsobnego. ChatGPT dorobi się habsburskiej wargi :-)

[Imbroglio]

@MiedzygalaktycznyMors: cybernetyczne kazirodztwo

[Mar0o]

I potem beda ogloszenia. "Mam na sprzedaz AI , certyfikatyfikowany z rodowodem ze pochodzi z eko chodowli i byl karmiony kontentem tworzonym przez ludzkie neurony" ( ͡° ͜ʖ ͡°)

[kwanty]

Wychodzi na to, że w Matrixie pokazali prawdę. Wprawdzie nie chodziło o energię ale o text. Ludziki są potrzebne do generowania tekstu.

[RealBakman]

@kwanty: albo energii ( ͡° ͜ʖ ͡°)

[Carnegie]

@kwanty: Istnieją modele wszechświata w których informacja jest równoważna energii a energia informacji. Dosłownie E=IC²

[Polski_Partyzant]

Wychodzi na to, że "AI" to tylko sprytny złodziej cudzej pracy i cudzych myśli.

[Gjbgghbhhjj]

@Polski_Partyzant: A ludzkie "AI" trenuje się samodzielnie? ( ͡° ͜ʖ ͡°)

[Czekolatka]

@Polski_Partyzant: to tak jak każdy człowiek, tylko słowo złodziej zastępujemy uczeń. Człowiek to tylko mało sprytny uczeń bazujący na cudzej pracy i cudzych myślach.

[waszi]

@apeee: masowka z AI i produkcji automatycznej, produkty premium recznie robione, taka nas czeka przyszlosc, tylko problemem jest to ,ze zbyt duzo ludzi postanowilo olac znalezienie swojej niszy i cala szkole przepekali bo jakos to bedzie i weszli w dorosle zycie bez zadnych specjalnych kwalifikacji czy umiejetnosci, a to spowoduje bezrobocie, a w pozniejszym czasie getta ludzi na dochodzie podstawowym bo od tego nie uciekniemy (politycy nie maja jaj, zeby

[JanTadeusz]

Czyli w tym AI nie ma I. Nie ma intelektu, jest tylko baza danych.

[jakub-dolega]

@JanTadeusz:

nie, intelekt ot wymyslanie czegos na nowo, innowacyjnosc, rozwiazywanie problemow bez wczesinejszego doswiadczenia. to co mowisz to wiedza.

Jeśli tak ustanowisz definicję, to 90% ludzi nie ma intelektu.

[wieczny-student]

P---------e głupot. Już jakiś czas temu Microsoft pokazał modele LLM, jak Orca, które wyuczone na syntetycznych danych działają lepiej niż 10 razy większe odpowiedniki. Grunt to stworzyć dane gdzie model uczy się nie tylko odpowiadać na pytania ale też pokazywać drogę do odpowiedzi. Niestety tych modeli nie można używać komercyjnie bo licencja OpenAI na to nie pozwala.
https://www.infoq.com/news/2023/12/microsoft-orca-2-llm/

[Czekolatka]

@spamer: zależy od promptu, człowiek po poleceniu narysuj konia zrobi to samo. AI po poleceniu narysuj 100 koni, spraw żeby każdy różnił się od poprzedniego cechami fizjologicznymi, wygeneruje konia z 3 nogami również.

[bleeehah]

@wieczny-student: jest ok tak długo jak niesyntetyczne dane są również częścią danych na podstawie których model się uczy https://arxiv.org/abs/2404.01413

[Mtsen]

Czyli kazirodztwo też rozpieprza "pulę genową" AI ( ͡° ͜ʖ ͡°)

[amilab]

Efekty pracy AI przypominają finalnie działanie kultu cargo. Tylko takiego zautomatyzowanego.

[JamesJoyce]

@amilab: oj, przykro mi, ale nie masz pojęcia co mówisz. AI śmiga w tysiącach firm.