[makrofag74]

#memvid #ai #llm #rag #bazydanych #sztucznainteligencja
Tekst → QR → MP4
https://github.com/Olow304/memvid
1/ jak to działa :
- Memvid dzieli Twój tekst na kawałki
- koduje każdy fragment jako kod QR
- łączy wszystkie kody QR w jeden film (mp4)
- buduje indeks, który mapuje fragmenty tekstu na numery klatek wideo
- wyszukiwania indeksujące w czasie rzeczywistym
- pobiera dokładną klatkę

2/ wyobraź sobie, że uruchamiasz wyszukiwanie AI w pliku wideo...
to obala założenie, że do zasilania pamięci AI potrzebna jest baza danych wektorów o dużej pojemności pamięci RAM
jest tani, przenośny i działa w trybie offline

3/ przypadki użycia?
→ Agenci AI z pamięcią na urządzeniach lokalnych/krawędziowych
→ skompresowane offline'owe rurociągi RAG
→ przechowywanie całych książek, wiki, plików PDF w formie filmów
→ Czat LLM, który przypomina bez potrzeby serwera
→ wyszukiwarki systemów z izolacją powietrzną

4/ Kto by pomyślał, że kody QR będą wykorzystywane w ten sposób? 😭

to jest kompresja na kompresji, dosłownie plik wideo jako baza wiedzy
🤯 Tekst → QR → MP4
śmieszne i genialne

[makrofag74]

Kod QR poziomu 40 (3 KB danych) w formacie PNG zajmuje około 5 KB, co oznacza stratę w kompresji.
Wszystko sprowadza się do kompresji wideo
Memvid przekształca sekwencję ponad 1000 kodów QR w klatki wideo
Nowoczesne kodeki, takie jak H.264 lub H.265 (używane w plikach .mp4 lub .mkv), nie przechowują każdej klatki w całości
Przechowują pierwszy pełny obraz (klatka I), a następnie tylko niewielkie różnice między kolejnymi klatkami (klatki P, klatki B)
Ponieważ każdy kod QR ma

[bialy100k]

@makrofag74: Czy to się sprowadza (KOSZMARNIE TRYWIALIZUJĄC!) do użycia plików video jako podręcznej, dużej bazy danych dla AI gdzie kompresja jest "nieco stratna" (wyższa niż bezstratne) i jest realizowana przez kodek (bo super-precyzja nie jest absolutnie konieczna)? Nie siedzę w AI, lvl 60+.

[makrofag74]

@bialy100k: Wiem tylko tyle, ile opublikowałem. Czekam na jakiś filmik z większym objaśnieniem, jak to się może lokalnie przydać z Ollama.

[makrofag74]

@bialy100k: Jeden ludzik już to jakoś wykorzystał z Cloudflare https://github.com/acoyfellow/memvid-cf