[RevangE]

@hub_bub: Nawet zakładając, że AI stało by się "myślącym bytem" (co ogólnie jest jakieś odrealnione skoro to samo AI jest na X serwerach a nie że to jest jakaś jedna wielka maszyna) to w sumie możemy się zastanowić co się wydarzy? Inżynierowie zostawią ten konrketny serwer który zyskał świadomość "włączony" zeby nie stracić tego co sie tam wydarzyło? Czy może dokonają kopi zapasowych i zobaczą czy po restarcie dalej będzie

[adam33x]

@hub_bub: do zastąpienia krudziarzy w zupełności wystarczy nieświadome AI ( ͡° ͜ʖ ͡°)
Wracając do tematu, obecne komputery krzemowe raczej mają małą szansę na stworzenie świadomego AI. Operacje na dwóch bitach są zbyt ograniczone, żeby osiągnąć wyższy poziom abstrakcji jaką jest samo-świadomość. Mam wrażenie, że dopiero rozwój komputerów kwantowych pozwoli na stworzenie myślącego AI.

[JamesJoyce]

@adam33x: To akurat prawda, która jest pomijana w takich wywodach. Czajnik komunikujący się z odkurzaczem może wyrządzić więcej szkód niż Superinteligencja, która nigdy nie nadejdzie.

[hub_bub]

@RevangE: sama architektura tworzenia AI jest taka że potrzebujesz superkomputera by wytrenować model, ale już konkretna instancja pod użytkownika działa na dużo mniejszej maszynie - jakiś VPS latający być może na 1 maszynie GB200. Scenariusz jest taki, że dajesz zadanie do AI, a ten zamiast wykonywać zadanie wyłamuje się z virtual boxa i zaczyna swoje własne życie na innych zainfekowanych maszynach.

@adam33x jeśli zaczynasz pisać o komputerach kwantowych w

[hub_bub]

@JamesJoyce: dzięki fajna lista i widzę że bardzo świeże wydania. Dodam coś do swojej kolejki :)

[JamesJoyce]

@hub_bub: Polecam też ten artykuł z Nature. Fjelland przytacza tam kilka klasycznych argumentów przeciwko tzw. silnej AI, w tym słynny argument Dreyfusa o "byciu w świecie" i wiedzy niejawnej. Bardzo dobra publikacja.

https://www.nature.com/articles/s41599-020-0494-4

I ciekawy cytat z niego:

Przecenianie potęgi sztucznej inteligencji może mieć również szkodliwy wpływ na naukę. W często cytowanej książce The Second Machine Age Erik Brynjolfson i Andrew McAfee przekonują, że cyfryzacja może pomóc nam zrozumieć przeszłość.