[aptitude]

Jezu matko bosko, postawiłem sobie na swoim PC GPT z huggingface, ale to tragedia, wygenerowanie jednej wiadomości trwa do 30 sekund, a wiatraki na maksa lecą. nie wiem jakie komputery w serwerowni OpenAI mają, że bez problemu wygenerują w jedną sekundę odpowiedź, no szaboba dla nich, Microsoft ma niezłe serwery.
A nie mam jakiegoś słabego PCta.

Pewnie mają kilkanaście kart graficznych, aby to jakoś wszystko obliczyć. No ale Microsoft ma kasę.

#serwery #ciekawostki #openai

[bucketpuncher]

@aptitude: nie używaj tego ścierwa stworzonego przez antychrysta

[aptitude]

nie używaj tego ścierwa stworzonego przez antychrysta

@bucketpuncher: ejj? Czemu? ChatGPT jest spoko i dużo mi pomaga.

[k.....n]

@aptitude: kopsnij linka do repo, potestuje

[Pan_Slon]

@aptitude: kilkanaście? Chyba tysięcy i nie grafik a dedykowanych jednostek od nvidia i amd pokroju a100 oraz mi250