CHATGPT-KTÓRY MOŻESZ ZAINSTALOWAĆ NA SWOIM KOMPUTERZE BEZ INTERNETU

Ciekawy projekt programisty "Iván Martínez" - który pozwala zainstalowac ChatGpt na swoim komputerze , dobra alternatywa dla komercyjnej wersji OpenAI

[dodd]

Siedzę w tym dość mocno i ze swojej strony polecam co innego:
Program: https://lmstudio.ai/
Model: Na początek warto spróbować Mistral 7B Instruct

Dodam, że te otwarte modele nie dorównują jeszcze ChatGPT 3.5, nie mówiąc już o ChatGPT 4. Słabo obsługują języki inne niż angielski.

[mikow29]

@dodd: LM studio jest też fajne, ale GPT4ALL ma dodatkowo funkcjonalność RAG i automatycznie wykrywa i używa GPU jeżeli jest dostępne i wystarczająco mocne.

[mikow29]

Znacznie lepszą alternatywą jest GPT4All
- Łatwiejszy w instalacji (ma gotowy installer dla WIN / MAC / Ubuntu)
- Nie wymaga problematycznej konfiguracji (ta dla PrivateGPT jest upierdliwa)
- Automatycznie wykrywa GPU, i jeżeli jest kompatybilne i ma wystarczające zasoby VRAMu to odpala model na GPU
- Ma wbudowaną funkcjonalność RAG (retrieval augumented generation) do gadania na temat wskazanych localnych plików
- jeżeli się nie mylę można uruchomić REST API server i

[mikow29]

@Eustachy_goli_pachy: To nie jest trenowanie. Nie jestem ekspertem więc obawiam się w szczegółach tłumaczyć, ale zachęcam do poczytania jak działa Retrieval Augumented Generation.
Podajesz mu ścieżkę do folderu z dokumentami (np. txt, html, md, pdf... i inne) a GPT4ALL sam je indeksuje (rozbija na częsci i generuje do nich embeddingi), żeby później móc je przeszukiwać (na podstawie porównania z embeddingiem twojego zapytania) i podawać bazowemu modelowi wybrane fragmenty jako kontekst

[mikow29]

@TrzyQn: Racja. Z tego co napisałem to nie wynika, ale masz rację: na CPU też działa, tylko wolniej. Wykorzystanie GPU jest w tym wypadku bonusem, który może znacznie przyspieszyć generowanie odpowiedzi.

[osetnik]

Co za ludzie... nie potrafią napisać tytułu bez wielkich liter? Wszędzie muszą się drzeć, jan na manifie?

[mikow29]

Treść artykułu swoją drogą wygląda trochę jak przekopiowana z anglojęzycznej strony z użyciem translatora. Bez sensu wydaje mi się tłumaczenie nazw narzedzi takich jak "poetry" (w artykule "poezja") albo "chocolate" (w artykule "czekolada"). Tylko wprowadza zamęt i pewnie utrudnia zrozumienie.

[zetisdead]

@mikow29: artukuł o sztucznej inteligencji przetłumaczony przez sztuczną inteligencję ( ͡º ͜ʖ͡º)

Jednym z pierwszych odruchów, jaki należy zastosować, jest: zdobądź więcej informacji.

[tak-nie-wiem]

"CHATGPT" - to chyba nie jest tekst o czacie gpt, tylko o innych rozwiązaniach. Tytuł trochę wprowadza w błąd.

[M.....e]

@tak-nie-wiem:

chatgpt to już pewien standard i wyznacznik do którego porównuje się inne rozwiązania. No i ludzie znają praktycznie to rozwiązanie, bo logujesz się i masz gotowy działający chat, wszystko inne albo działa słabo albo niekoniecznie jest łatwe do odpalenia lokalnie

[tak-nie-wiem]

@Murasame: wiesz co, zdanie
"Ciekawy projekt programisty "Iván Martínez" - który pozwala zainstalowac ChatGpt na swoim komputerze" oznacza, że artykuł jest na temat Chata GPT w wersji off-line. Co w chwili obecnej jest nieprawdą. Może w przyszłości Open AI udostępni swoje rozwiązania off-line, ale nie teraz.

A jeśli się chce napisać, że coś jest jak chat-gpt, to można użyć np. zwrotu "alternatywa dla Chata GPT", albo "a'la Chat GPT".

Po

[hao]

Opie, po co tak głośno piszesz nagłówek, aż mnie cofnęło.

[BlaziuBlaz]

Da się to nauczyć żeby miało swój własny charakter i się go trzymało przy każdej interakcji? Np: Humor: 65%, wpadanie w gniew: 15%, poziom inteligencji: 45% z mozliwością zmieniania tego czasem: ustaw poziom x na x%

[defoxe]

A to ChatGPT jako program potrzebuje dostępu do sieci Internet?! ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)
No nie... To my jako klienci łączymy się z tą aplikacją za pośrednictwem sieci, by mieć do niej dostęp. A tutaj to w tytule przedstawione jako niemalże jakiś hit i odkrycie.

[tajemniczy-motorniczy]

@defoxe: Nie potrzebuje dostępu do sieci. Wystarczy, że ma dostęp do danych zgromadzonych na nośniku pamięci do którego ma dostęp. Mało tego może sam wytwarzać dane, na podstawie których się uczy.