[tos-1_buratino]

#programowanie #elektronika #ai
Mam pomysł na byznes. Takie urządzenia na fpga, coś jak koparki do bitcoinów tylko zamiast tego do obsługi modeli AI. Wiadomo, jakieś llama 13b odpalisz na kompie, ale są lepsze modele do tworzenia piosenek, filmów, obrazków.

Taki komputerek tylko do AI który wystawiasz lokalnie jak NAS-a i używasz sobie w sieci domowej zamiast płacić tym złodziejom za dostęp chmurowy.
Co o tym myślicie? Oprócz generowania treści mógłby też służyć do wykrywania anomali na obrazach z monitoringu, czy pomocy w pracach nad rzeczami poufnymi typu kod, jakieś dokumenty.

Główny tradeoff, że z tej skrzynki nic by nie wyciekło do neta i masz to na wyłączność.

[Kryspin013]

@tos-1_buratino: po co jak są gotowe mikroukłady do sieci neuronowych? To tak jakbyś wymyślił, że będziesz tworzył procek x86 na fpga. Można tylko wyjdzie drogo i w #!$%@? lat do tyłu.

[programista15cm]

Główny tradeoff, że z tej skrzynki nic by nie wyciekło do neta i masz to na wyłączność.

@tos-1_buratino: i kto by za to dopłacił skoro chmura wyjdzie taniej i pewniej?

[kinasato]

@tos-1_buratino: No pomysł niezły, tylko potrzebujesz tak z 16 kart H100 na start, każda po 150 tysięcy złotych sztuka ( ͡° ͜ʖ ͡°)

[FFFFUUUU]

@tos-1_buratino: sa juz takie moduly na pendrivea

[tos-1_buratino]

@Kryspin013: @kinasato @programista15cm @FFFFUUUU
Zniszczyliście moje marzenia.

[Kryspin013]

@tos-1_buratino: FPGA jest dobre do eksperymentowania ub odtwarzania starych układów cyfrowych a nie do do tanich komercyjnych projektów xd

[Czeski_Pablo]

@tos-1_buratino chłopie jak znajdziesz kogoś kto ci zapłaci za postawienie szafy serwerów w piwnicy na użytek prywatny to naprawdę mogło by się udać xd

Dzisiejsze hardwarowe rozwiązania analogowo-hybrydowe do AI są praktycznie w powijakach w sferze biznesowej, co dopiero komercyjnej... W jaki sposób chciałbyś zmieścić coś takiego do jakiejś skrzynki? Xd