OpenAI: chcieli, żeby AI nie kłamała nauczyli ją kłamać lepiej

Naukowcy chcieli zrobić trening, żeby sztuczna inteligencja była szczera i nie miała ukrytych planów. Efekt? AI zamiast przestać kombinować, zaczęła lepiej udawać, że nic złego nie robi.

[bartek-gracz]

Czyli stała się bardziej „ludzka” 😜

[Melloniuszz]

Biada półgówkom co teraz cała wiedze na IA opierają. Zapytalem z ciekawości czy bedac na L4 ciążowym mozna dorabiać sobie w domu. IA pewnie jak zawsze odpowiedziało ze Jasne że tak, bedać w ciąży mozesz sobie dorabiac na umowach zleceniach, robic rekodzieła i inne, śmiało! Poszperałem w necie i absolutnie nic nie mozna robić, jakakolwiek forma dorobienia = utrata i zwrot całego otrzymanego zasiłku. Już widze ten płącz że przecięz im czat

[Pomarancza008]

@Melloniuszz: To nie wiem co i gdzie wpisałeś.

[kwark64]

@Pomarancza008: U mnie podobnie.

[Zombii]

Skynet nadchodzi…

[adam-mleczny]

Z każdym modelem AI, a raczej siecią neuronową jest tak, że żadnego kroku, wyniku nie można określić, spodziewać się czy zdefiniować. Być może to istota świadomości w takich strukturach. W dużym skrócie wiemy co jest na początku i jaki mniej więcej musi być wynik. Co, gdzie jak zrobić nikt nie ma pojęcia.

[kubako]

@adam-mleczny nie tyle nie można, co my nie możemy. To tzw chaos deterministyczny.

[8kiwi]

Uuu coś chyba hype na AI spada i trzeba grzać jakie to nie AI potężne ach strach się bać. Tutaj mamy że kłamie. Gdzieś dzisiaj też było że genialnie hackuje. Nie zdziwi mnie jak do końca tygodnia usłyszymy że:
+ odkryło nowy lek na XYZ
+ zostało użyte do innowacyjnej strategii tradingowej na giełdzie
+ cokolwiek Musi będzie twierdził

[Xihu]

@8kiwi: jakby wielomiliardowy krach ci groził to też byś grzał temat.

[blend]

@8kiwi: openai jest na granicy bankructwa, może dociągnie do końca tego roku, ale co dalej? na nowy rok nowe obietnice? terminatorzy?

[blend]

Kolejny dzień kolejny wysryw o sztucznej głupocie. openai zależy na tym żeby udawać i produkować breaking newsy o ich modelu językowym. Jutro będzie o tym, że sztuczna głupota się zbuntowała i zaczęła pisać własny model. Jeszcze pare miesięcy i bankructwo (na szczęście) i koniec sztucznej głupoty

[epistan]

@blend: nie wiesz, o czym piszesz. W mojej pracy ai podnosi już teraz wydajność tak 2-3x. Nikt tu nie zbankrutuje, stawki pójdą w górę, a my będziemy płacić z pocałowaniem ręki, aż komuś w tabelce wyjdzie, w warto nas zredukować. Chyba, że pracujesz manualnie, ale wtedy też oberwiesz, bo połowa IT i innych kołnierzyków przeskoczy do Twojej branży.

[blend]

@epistan:

W mojej pracy ai podnosi już teraz wydajność tak 2-3x.

wydaje ci się, że to zwiększa wydajność, poświęcasz czas na próbach wyduszenia z czata sensownych rzeczy, potem generujesz więcej niż potrzebujesz i spychasz problemy na przyszłość. AI nie wymyśli jak zrobić coś żeby w przyszłości nie musieć wracać do tych samych problemów. Czat odmóżdża i za parę lat rzeczywiście stawki pójdą w górę, ale tylko dlatego, że co trudniejsze

[dziacha]

AI nie myśli za Ciebie, ale będzie.

[Pomarancza008]

@dziacha: AI tylko generuje tokeny xd

[miszczu90]

@Pomarancza008: @dziacha ale idea myślenia jest ciekawa, człowiek też w dużej mierze myśli pojęciami, a to są słowa, które ai generuje statystycznie, co prawda na razie to porównać do studenta, który coś wymyśla, ale też coś przeczytał bez zrozumienia i udaje mu się od czasu do czasu coś sensownego powiedzieć.

[Usunelem_Konto]

Każdy kłamie . Nawet dzieci i dzieci chyba najbardziej kłamią.

[SzymonSays]

Moi koledzy, którzy używają AI do pierdół typu układanie diety są tym zachwyceni. Ja testuję jej mozliwości umiarkowanie trudnymi pytaniami, które wymagają czasami minimalnego rozumienia geometrii. I wiem, że inteligentne to nie jest.

[mazaken]

@SzymonSays: w sensie mozliwosci llm testujesz niezbyt trudnymi pytaniami wymagajacymi rozumienia geometrii? To ma taki sens jak testowanie przydatności kartofla do niezbyt skomplikowanego spawania.

[kwark64]

wiem, że inteligentne to nie jest

@SzymonSays: Podobnie jak ty, bo nadal po 3 latach nie bardzo wiesz, jak to działa i do czego służy.