CHATGPT-KTÓRY MOŻESZ ZAINSTALOWAĆ NA SWOIM KOMPUTERZE BEZ INTERNETU
Ciekawy projekt programisty "Iván Martínez" - który pozwala zainstalowac ChatGpt na swoim komputerze , dobra alternatywa dla komercyjnej wersji OpenAI
piotr-w2 z- #
- #
- #
- #
- 18
- Odpowiedz
Komentarze (18)
najlepsze
Program: https://lmstudio.ai/
Model: Na początek warto spróbować Mistral 7B Instruct
Dodam, że te otwarte modele nie dorównują jeszcze ChatGPT 3.5, nie mówiąc już o ChatGPT 4. Słabo obsługują języki inne niż angielski.
- Łatwiejszy w instalacji (ma gotowy installer dla WIN / MAC / Ubuntu)
- Nie wymaga problematycznej konfiguracji (ta dla PrivateGPT jest upierdliwa)
- Automatycznie wykrywa GPU, i jeżeli jest kompatybilne i ma wystarczające zasoby VRAMu to odpala model na GPU
- Ma wbudowaną funkcjonalność RAG (retrieval augumented generation) do gadania na temat wskazanych localnych plików
- jeżeli się nie mylę można uruchomić REST API server i
Podajesz mu ścieżkę do folderu z dokumentami (np. txt, html, md, pdf... i inne) a GPT4ALL sam je indeksuje (rozbija na częsci i generuje do nich embeddingi), żeby później móc je przeszukiwać (na podstawie porównania z embeddingiem twojego zapytania) i podawać bazowemu modelowi wybrane fragmenty jako kontekst do
chatgpt to już pewien standard i wyznacznik do którego porównuje się inne rozwiązania. No i ludzie znają praktycznie to rozwiązanie, bo logujesz się i masz gotowy działający chat, wszystko inne albo działa słabo albo niekoniecznie jest łatwe do odpalenia lokalnie
"Ciekawy projekt programisty "Iván Martínez" - który pozwala zainstalowac ChatGpt na swoim komputerze" oznacza, że artykuł jest na temat Chata GPT w wersji off-line. Co w chwili obecnej jest nieprawdą. Może w przyszłości Open AI udostępni swoje rozwiązania off-line, ale nie teraz.
A jeśli się chce napisać, że coś jest jak chat-gpt, to można użyć np. zwrotu "alternatywa dla Chata GPT", albo "a'la Chat GPT".
Po prostu
No nie... To my jako klienci łączymy się z tą aplikacją za pośrednictwem sieci, by mieć do niej dostęp. A tutaj to w tytule przedstawione jako niemalże jakiś hit i odkrycie.