LEANN – innowacyjna i niezwykle lekka wektorowa baza danych

Projekt LEANN (stworzony przez organizację StarTrail) to innowacyjna i niezwykle lekka wektorowa baza danych, zaprojektowana do uruchamiania systemów RAG (Retrieval-Augmented Generation) w 100% lokalnie na osobistych urządzeniach (np. laptopach).

Jego głównym celem jest umożliwienie stworzenia potężnego, prywatnego asystenta AI, który potrafi przeszukiwać Twoje osobiste dane, zajmując przy tym ułamek miejsca, którego wymagałyby standardowe rozwiązania.

Oto najważniejsze cechy i zastosowania tego projektu:

  1. Ogromna oszczędność miejsca (aż o 97%): LEANN rozwiązuje problem ciężkich baz wektorowych. Zamiast zapisywać i przechowywać na dysku wszystkie wektory (embeddings), system oblicza je na żądanie (wykorzystuje tzw. graph-based selective recomputation). Dzięki temu zaindeksowanie 60 milionów fragmentów tekstu zajmuje zaledwie 6 GB zamiast około 200 GB w tradycyjnych bazach, bez utraty dokładności.
  2. „RAG na wszystkim”: Narzędzie służy do podłączenia pod modele językowe (LLM) przeróżnych osobistych źródeł danych. Pozwala na semantyczne przeszukiwanie m.in.:
    • Lokalnych dokumentów (PDF, TXT, kod źródłowy),
    • Skrzynek pocztowych (np. Apple Mail),
    • Historii przeglądarki internetowej,
    • Komunikatorów (iMessage, WeChat, Slack),
    • Historii chatów z innymi AI (ChatGPT, Claude),
    • Danych na żywo z platform takich jak Twitter (X).
  3. Pełna prywatność: Ponieważ cały proces indeksowania i przeszukiwania (szczególnie przy użyciu lokalnych modeli przez np. Ollama) może odbywać się bezpośrednio na Twoim komputerze, Twoje prywatne wiadomości i pliki nie są wysyłane do chmury.
  4. Zgodność z MCP (Model Context Protocol): LEANN może działać jako serwer MCP, co oznacza, że jest w pełni kompatybilny z nowoczesnymi narzędziami (np. Claude Code w terminalu czy aplikacja Claude). Dzięki temu modele AI mogą inteligentnie przeszukiwać Twoje pliki bez zmiany dotychczasowego trybu pracy.
  5. Elastyczność: Projekt wspiera wiele lokalnych oraz chmurowych dostawców modeli LLM (OpenAI, HuggingFace, Ollama, Anthropic) i działa na różnych systemach operacyjnych (macOS, Linux, Windows).

Podsumowując, LEANN służy do zamienienia zwykłego komputera w „drugi mózg” – prywatną wyszukiwarkę AI, która w mgnieniu oka odnajdzie potrzebną informację w Twoich osobistych plikach, kodzie czy wiadomościach, nie obciążając przy tym drastycznie dysku twardego.

💪 100% local
💪 100% open-source

🔗 Github: https://github.com/StarTrail-org/LEANN