[Sinity]

Polecam poczytać sobie Tweety Sama Altmana, CEO w OpenAI: https://twitter.com/sama

Trochę przetłumaczonych wypowiedzi:

Dużo z tego, co ludzie zakładają, że uważają za cenzurowanie przez nas ChatGPT, jest w rzeczywistości próbą powstrzymania go przed zmyślaniem przypadkowych faktów.

Trudno jest uzyskać właściwą równowagę przy obecnym stanie technologii.

Z czasem będzie lepiej, a my wykorzystamy wasze opinie, aby to poprawić.

Ponadto, nie przeprowadziliśmy jeszcze żadnego treningu od czasu upublicznienia ChatGPT; domniemane zmiany to tylko losowość. W tym tygodniu przeprowadzimy trening, który, miejmy nadzieję, znacznie usprawni działanie!

(jako dodatkowa uwaga, zabawne jest to, że jeśli możesz dostarczyć potężną AI, dostaniesz tonę wściekłych wiadomości, które mają jedno zdanie o tym, jak bardzo jest to fajne i 20 zdań o tym, że nie jest to wystarczająco ofensywne i przez to subtelnie niszczysz świat. możemy dodać ustawienie dial-a-troll z czasem)!

----

Ciekawe jest obserwowanie, jak ludzie zaczynają debatować nad tym, czy potężne systemy AI powinny zachowywać się w sposób, w jaki chcą tego użytkownicy czy ich twórcy.

Pytanie o to, do czyich wartości przyporządkujemy te systemy, będzie jedną z najważniejszych debat w dziejach ludzkości.

-----

Interesujące jest dla mnie, jak wiele z opinii na temat ChatGPT to "to jest już AGI" (oczywiście nawet nie jest do tego blisko, lol) lub "ten paradygmat nie zajdzie już dużo dalej".

Ufaj funkcji wykładniczej. Wygląda płasko patrząc wstecz; pionowo patrząc do przodu.

Przed nami długa droga i wielkie idee do odkrycia. Będziemy się na tej drodze potykać i wiele się uczyć w kontakcie z rzeczywistością. Czasem będzie chaotycznie, czasem będziemy podejmować naprawdę złe decyzje. Czasem będziemy mieć momenty transcendentnego postępu i tworzenia wartości.

Iteracyjne wdrożenie jest, moim zdaniem, jedyną bezpieczną ścieżką i jedynym sposobem, aby ludzie, społeczeństwo i instytucje miały czas na zrozumienie i zinternalizowanie tego, co to wszystko oznacza.

Jestem bardzo sceptyczny wobec ludzi, którzy uważają, że tylko ich wewnętrzna grupa powinna znać aktualny stan wiedzy ze względu na obawy o bezpieczeństwo lub że są jedyną grupą zdolną do podejmowania wielkich decyzji dotyczących tak potężnej technologii.

(kiedyś denerwowało mnie bycie czarnym charakterem dla EA [Efficient Altruism], dopóki nie poznałem ich bohaterów*, a teraz jestem z tego nawet nieco dumny.

*jest kilku bohaterów EA, których uważam za naprawdę świetnych, np. Holden)

Zajmie nam to jeszcze trochę czasu, ale będziemy dążyć do demokratyzacji dostępu do tej technologii, a także do wykombinowania, jak sprawić, by zachowywała się ona tak, jak chcą tego poszczególni użytkownicy (w pewnych bardzo szerokich granicach).

-----

@elonmusk: ChatGPT jest przerażająco dobry. Nie jesteśmy daleko od niebezpiecznie potężnej AI.

@sama: zgadzam się, że jesteśmy blisko niebezpiecznie silnej AI - w sensie AI, która stwarza np. ogromne wyzwanie dla cyberbezpieczeństwa. Myślę, że w ciągu następnej dekady możemy dojść do prawdziwej AGI, więc musimy traktować ryzyko z tym związane niezwykle poważnie.

-----

Prognoza: AGI powstanie szybciej niż większość ludzi myśli, natomiast "zmiana wszystkiego" z tego powodu, zajmie znacznie więcej czasu niż większość ludzi sobie wyobraża

(to trochę co innego niż "slow takeoff" - myślę, że po prostu społeczeństwo będzie potrzebowało więcej czasu, aby dojść do tego, co naprawdę zrobić z bardzo potężnymi technologiami, niż sugeruje intuicja)

#sztucznainteligencja #technologia #machinelearning #nauka #informatyka

[martinlubpl]

@Sinity:

Ufaj funkcji wykładniczej. Wygląda płasko patrząc wstecz; pionowo patrząc do przodu

To chyba najważniejsza wiadomość od altmana