Linux)

Klon open source. Wystarczy 4GB RAM, circa 10GB dysku. Nie jest to 4, nie jest to 3.5 ale i tak szokuje. W znalezisku link do repozytorium github z instrukcją instalacji.

gw019 z dodany: 07.04.2023, 14:53:52

4
Odpowiedz

Komentarze (4)

najlepsze

mtosny

07.04.2023, 18:47:06 via Wykop

I nawet po polsku umie mówić :)

cesarzaugustus

07.04.2023, 15:38:41 via Android

No to zaczął się replikować

kwanty

08.04.2023, 06:52:00 via Wykop

Nie jest to GPT4 tylko najmniejsza LLaMA wytrenowana przez FaceBooka, która została potem dotrenowana na przykładach wygenerowanych z GPT3.5 (darmowa wersja ChatBota), następnie została oberżnięta z float32 do int8 bit żeby się zmieściła na 8GB RAMu.

GPT-4 w nazwie jest tylko chwytem marketingowym ale mimo wszytko warto się przyjrzeć bo to jeden z pierwszych modeli LMA dostępnych do użycia na zwykłym komputerze.

Jeżeli ktoś jest zainteresowany to polecam projekt open-assistant.io/ którego celem

autotldr

07.04.2023, 14:54:29 via Wykop

To najlepszy przetłumaczony tl;dr, jaki mogłem zrobić, oryginał zmniejszony o 83% (jestem botem)

Aby uruchomić GPT4All w Python, zobacz nowe oficjalne powiązania Pythona. Aby uruchomić za pomocą klienta Python z interfejsem CPU, najpierw zainstaluj Nominic Client za pomocą Nomic instalacji PIP, możesz użyć następującego skryptu do interakcji z GPT4All: z Nomic. GPT4ALL Import Gpt4all M.prompt („Napisz mi historię o samotnym komputerze”) Istnieją dwa sposoby na uruchomienie tego modelu na GPU. Konfiguracja tutaj