Виртуальные файловые системы для LLM-агентов

Виртуальная файловая система для LLM-агентов - это прослойка, которая предоставляет доступ к базе данных (или любому структурированному хранилищу) через привычный интерфейс файловой системы UNIX - ls, cat, grep, find, cd. Агент выполняет команды оболочки, а виртуальная файловая система транслирует их в запросы к базе данных. При этом никаких реальных файлов на диске нет.

Этот паттерн появился как ответ на две проблемы при предоставлении агентам доступа к реальным файловым системам:

Производительность. Клонирование репозиториев или монтирование реального хранилища работают медленно и требуют много ресурсов. В Mintlify время создания сессии с изолированными репозиториями составляло ~46 секунд, а с собственной виртуальной файловой системой (ChromaFs) сократилось до ~100 мс.
Безопасность. Реальные файловые системы изменяемы, и для них сложно правильно настроить права доступа. Виртуальную файловую систему можно сделать доступной только для чтения по умолчанию (возвращая EROFS при попытке записи), а управление доступом превращается в фильтрацию по метаданным перед тем, как агент увидит дерево файлов: не разрешённые пути для агента просто не существуют.

Этот подход также открывает возможности для оптимизаций, которые неудобно делать с реальными файлами. Grep может использовать фильтрацию на уровне базы данных (например, оператор $contains в Chroma) в качестве грубого первого прохода перед выполнением regex в памяти. Содержимое файлов можно загружать лениво: большие файлы отображаются в списках каталогов, но запрашиваются только при обращении. Кэширование устроено просто, так как данные доступны только для чтения.

Обратная сторона - полнота реализации. Виртуальная файловая система поддерживает только те команды, которые реализовали её авторы. Сложные shell-конвейеры, отслеживание изменений файлов, символические ссылки и всё, что выходит за рамки поддержанного набора команд, работать не будет. Для навигации по документации этого достаточно, но для универсального исполнения кода ограничение было бы слишком жёстким.

Этот подход связан с более широкой проблемой ограничений RAG - это один из ответов на вопрос о том, как агенты должны работать с большими коллекциями документов, когда поиска по чанкам уже недостаточно.