Kwantyzację można porównać do hmmm...kompresji obrazka, model jest mniejszy i potrzebuje mniej pamięci do uruchomienia, ale kosztem jakości odpowiedzi.

Na szczęście coraz mniejsze modele działają coraz lepiej.

Typ modelu, a wielkość:

@kartofel: 1,2 - Reprezentuje 20% narzut związany z ładowaniem dodatkowych rzeczy w pamięci GPU.

wujek AI mówi, że: "Nie do końca. Wielkość modelu, np. 70B (70 miliardów parametrów), odnosi się do liczby parametrów w modelu, a nie bezpośrednio do liczby połączeń między "neuronami".

Co oznaczają te 70 miliardów parametrów?
Parametry w modelu to wagi i przesunięcia (bias), które są dostosowywane podczas procesu trenowania sieci neuronowej. W przypadku dużych modeli językowych, takich jak GPT,Pokaż całość

@kwanty

Fajnie żyć w czasach w których jest szansa na AGI przed Gta 6

@GangKobry Bez różnicy kogo wybieracie i tak różnymi ścieżkami dążą do tych samych celów

Jeszcze Szybek Hołownia, który nagle zjawił się z całym zapleczem ( ͡º ͜ʖ͡º), Ochojska dobrze znana wielbicielka Habibi, parę nieaktywnych już jak Rostowski, Kwaśniewski ,Komorowski Marcinkiewicz, sama śmietanka ( ͡º ͜ʖ͡º)

@MilionoweMultikonto: Do wykonywania szeregów obliczeń w pracach naukowych.
Ręczne liczenie niepewności pomiarowych potrafi zająć nawet pół godziny dla jednego pomiaru, a czasami pomiarów mam dziesiątki.

Generalnie czat nie radzi sobie z zaokrągleniami (liczbami znaczącymi), liczbę która powinna być podana do 4 liczb znaczących podaje z sześcioma etc.
co ma negatywny wpływ na wynik końcowy, a finalnie obliczenia wykonane są niezgodnie ze standardami przyjętymi w fizyce.

Najlepiej gdybym mógł mu podaćPokaż całość

@iquiet to płatne jest, w dodatku abonament.... Kijowo.

@MilionoweMultikonto: benchmarki od OpenAI

@MilionoweMultikonto: W założeniu miało być absurdalnie. ( ͡° ͜ʖ ͡°)

Ale proszę z Twoimi założeniami:
https://chatgpt.com/share/6752162a-aff4-800b-ad5a-a33ef7a46904