О платформе DSec
DeepSeek Elastic Compute (DSec) — это production-платформа sandbox, разработанная для поддержки крупномасштабного обучения и оценки больших языковых моделей (LLM) в роли агентов. Система предоставляет унифицированный SDK для работы с четырьмя типами sandbox-окружений: функции (FnCall), контейнеры, микро-виртуальные машины и полноценные виртуальные машины.
Практическая задача была нетривиальной: при обучении агентов модели должны инспектировать репозитории, вызывать инструменты, выполнять команды и взаимодействовать с задачами. Эти рабочие нагрузки создают sandbox-окружения большими пакетами, требуют разнородной функциональности, различаются по требованиям изоляции, сохраняют состояние в течение долгих сессий и работают с большими корпусами образов контейнеров с низким коэффициентом переиспользования. Для этого требуется не просто runtime для sandbox, а полноценная эластичная платформа выполнения.
Архитектура и ключевые компоненты
DSec решает эту задачу несколькими способами:
- Управление размещением и жизненным циклом — координирует placement и lifecycle-управление sandbox-окружений по кластеру;
- Компонуемые окружения — собирает среды из независимо версионируемых слоёв;
- Оптимизация памяти — комбинирует sharing (общая память), reclamation (восстановление памяти) и CPU scheduling для высокоплотного выполнения;
- Распределённая файловая система — загружает данные образов по требованию из Fire-Flyer File System (3FS), распределённой файловой системы уровня кластера;
- Интеграция с RL-фреймворком — DSec был спроектирован совместно с фреймворком reinforcement learning, отделяет stateful rollout-выполнение от preemptible GPU-обучения;
- Координация lifecycle — синхронизирует жизненный цикл sandbox с обучением, сохраняя состояние rollout и восстанавливая неиспользуемые ресурсы;
- Смягчение misbehavior — противодействует неправильному поведению агентов, включая reward hacking.
Производительность в боевых условиях
Один production-масштабный блок DSec охватывает примерно 160 узлов и обслуживает около 3 миллионов sandbox в день. В production-развёртывании система поддерживает свыше 380 тысяч одновременных sandbox и обеспечивает более 5 тысяч создания sandbox в секунду.
Результаты развёртывания и оценки показывают, что механизмы, заложенные в платформу, снижают накладные расходы на setup окружения и распределение образов, улучшают эффективность памяти и сохраняют чувствительность к задержкам (latency-sensitive performance) при высоконагруженной перегрузке ресурсов.
Научный контекст
Работа опубликована как расширенная версия более ранней работы, аннотация которой прошла первый раунд рецензирования в операционной системе (Operational Systems Track) на конференции ACM SIGOPS ATC 2026. Исследование включает 31 страницу текста и 13 иллюстраций.