Створення локального рівня пам'яті для LLM за допомогою Rust, SQLite та графів
Mnemo — це локальний рівень пам'яті для великих мовних моделей, побудований на Rust, SQLite та бібліотеці petgraph. Він дозволяє агентам зберігати стан і контекст між сесіями без хмарних сервісів.
Чому це важливо
Ви можете забезпечити своїм локальним ШІ-агентам довготривалу пам'ять між різними завданнями, не передаючи конфіденційну структуру вашої бази коду в хмару.
Однією з головних перешкод при побудові персоналізованих агентних процесів є збереження контексту. Коли сесія з Claude Code або Cursor закінчується, цінні деталі про ваш стиль кодування, архітектурні вподобання та попередні рішення втрачаються. Проєкт Mnemo вирішує цю проблему, пропонуючи швидку, легку та локальну систему пам'яті, що надає будь-якій моделі доступ до структурованої історії попередніх взаємодій.
Корисність системи Mnemo полягає в її моделі збереження та пошуку даних. Замість того, щоб покладатися на дорогі хмарні сховища або підтримувати важкі кластери векторних баз даних, Mnemo працює повністю на локальній машині розробника. Це гарантує високу швидкість операцій читання та запису, а також абсолютну приватність даних, оскільки інтелектуальна власність не залишає ваш комп'ютер.
Під капотом Mnemo побудовано на мові Rust із використанням бази SQLite для структурованого збереження даних та бібліотеки petgraph для керування складними зв'язками. Замість простого пошуку за ключовими словами або векторного аналізу, Mnemo структурує діалоги у вигляді взаємозв'язаного графа знань. Завдяки моделюванню сутностей та зв'язків LLM-агенти можуть виконувати запити обходу графа, видобуваючи глибокий історичний контекст з мінімальними накладними витратами.
Якщо ви створюєте власного розробницького асистента або термінального агента, ви можете інтегрувати Mnemo для відстеження списку завдань та структури системи. Наприклад, коли ваш агент завершує рефакторинг, ви можете записати зміни архітектури як вузол у графі знань Mnemo. У наступних сесіях агент зможе опитати цей граф, щоб швидко згадати причини використання конкретних бібліотек.
Проте, оскільки Mnemo вимагає ручного керування пам'яттю та визначення схем, розробникам доведеться писати власні адаптери для інтеграції з популярними фреймворками. Система не пропонує автоматичного рішення в один клік, вимагаючи розуміння компіляції коду на Rust або локальних API-викликів.
Для розробників, яким потрібен локальний контроль та постійний стан, Mnemo пропонує надійну, орієнтовану на приватність бібліотеку для інтеграції графової пам'яті в будь-який додаток на базі LLM.
Ключові висновки
- 01Використовуйте Mnemo для побудови локальних приватних графів знань про ваші розробницькі проєкти
- 02Інтегруйте пошук на базі petgraph для отримання контекстних спогадів без використання важких векторних баз даних
- 03Створюйте власні обгортки на Rust або Python для синхронізації файлів робочого простору з SQLite-бекендом Mnemo