Представляем Toast 1 — специализированного поискового агента от Mixedbread

Toast 1 — первый специализированный поисковый агент от Mixedbread — стал доступен уже сегодня. Он обеспечивает качество поиска на уровне фронтир-моделей, соответствуя или превосходя Claude Opus 5 и GPT-5.6 Sol, при этом обходится до 10 раз дешевле и работает до 12 раз быстрее. Лучше всего агент показывает себя в связке с Mixedbread Search, но способен работать с любым поисковым бэкендом.

Сегодняшние фронтир-модели уже способны выполнять реальную интеллектуальную работу: рассуждать, анализировать и находить информацию в сложных коллекциях документов. Но это же и самые дорогие модели в стеке. По мере того как интеллект всё чаще становится тарифицируемым ресурсом, потребность в специализированных агентах, способных соответствовать возможностям фронтир-моделей за небольшую долю их стоимости, становится как никогда острой.

Toast 1 может работать как самостоятельный специализированный поисковый агент, так и как один из подагентов, которые фронтир-модель уже умеет вызывать. Он полностью берёт на себя цикл поиска: получая исходный запрос, разбивает его на подзапросы, собирает доказательства, проверяет источники и формирует релевантный контекст перед возвратом результата. Это позволяет основному агенту тратить контекст и вычислительные ресурсы именно на ту часть задачи, где требуется универсальная модель уровня фронтира: рассуждение, действие и формирование финального ответа.

Парето-оптимальный поиск

Такая специализация агентного труда даёт не только заметно более дешёвый поиск, но и лучшие сквозные результаты на многих реалистичных задачах. Toast 1 устанавливает новую границу Парето для агентных рабочих нагрузок по параметрам «стоимость на задачу» и «скорость на задачу».

Финансовый анализ: OfficeQA Pro V2

Бенчмарк OfficeQA Pro V2, выпущенный Databricks, оценивает корректность ответов на 90 вопросов в реалистичных, сложных сценариях корпоративных финансов.

GPT-5.6 Sol с подключённым в качестве подагента Toast 1 внутри Codex достигает 70% корректности ответов при стоимости около $1.15 за задачу — это лучший результат среди систем, оценённых Databricks в релизе OfficeQA v2, устанавливающий новый рекорд как по качеству, так и по эффективности.

Для сравнения, предыдущий лучший результат — Claude Fable 5 на Databricks Genie — достигает 60% корректности при цене около $4 за задачу, тогда как GPT-5.6 Sol в Codex без Toast 1 показывает лишь 33% корректности.

Улучшение объясняется переосмыслением экономики сбора доказательств. Специализация Toast 1 позволяет формировать качественные, экономные по токенам пакеты доказательств, оставляя достаточно ресурсов для процесса рассуждения при формировании финального ответа.

Юридический агентный бенчмарк — знания фирмы

Бенчмарк Law Firm Knowledge от Harvey LAB призван оценить, насколько хорошо агент способен искать и использовать институциональные юридические знания в масштабах, приближённых к реальным.

Юридическая работа по своей природе требует большого контекста: невозможно переспорить оппонента, у которого есть доступ к более релевантным прецедентам и деталям. Но при этом такая работа и очень «шумная» — множество ситуаций похожи между собой, но отличаются простыми деталями, что усложняет сбор качественных пакетов доказательств без большого числа ложных срабатываний.

На случайно выбранном подмножестве из 33 задач¹ качество ответов GPT-5.6 Sol оставалось постоянным независимо от метода поиска.

При этом повышение качества поиска резко увеличило эффективность по токенам: замена поиска по файловой системе на Mixedbread Search сократила расход токенов с 80,6 млн до 47 млн при идентичном результате задачи. Последующее добавление Toast 1 в качестве выделенного поискового подагента снизило показатель ещё до 23 млн и позволило завершать задачи вдвое быстрее по числу ходов по сравнению с обычным агентом.

Внедрение Toast 1 на базе Mixedbread Search сохранило качество ответов при расходе в 3,5 раза меньшего числа токенов, что привело к снижению стоимости более чем на 60%. Toast 1 освобождает контекстное окно фронтир-моделей, позволяя тратить токены на достижение правильного ответа.

Демо: глубокое погружение в подкаст Dwarkesh

Бенчмарки и цифры показывают лишь часть картины. Чтобы по-настоящему понять, как работает Toast 1, лучше всего посмотреть на его поиск в действии. В Mixedbread любят подкаст Dwarkesh и решили, что возможность глубокого поиска по его расшифровкам может получиться интересной.

Попробовать можно здесь.

Поиск уровня фронтир-моделей

Хотя Toast 1 является способным подагентом для сложных задач, это также полноценная самостоятельная модель, обученная специально для глубокого поиска. Она представляет собой следующий шаг в подходе Mixedbread к совместному дизайну эмбеддинг-моделей и Silo: модель, каркас агента и примитивы поиска спроектированы так, чтобы работать вместе.²

На разнообразных бенчмарках глубокого поиска Toast 1 достигает уровня фронтир-моделей, находясь в одной лиге с GPT-5.6 Sol и уверенно превосходя такие модели, как Kimi K3 или GLM-5.2.

При этом агент остаётся весьма экономным. Стандартный запуск Toast 1 стоит примерно $0,016-0,023 за запрос и имеет медианную задержку в восемь секунд. Наиболее качественная конфигурация с фьюжном стоит примерно $0,05-0,07 за запрос при медианной задержке в одиннадцать секунд. На практике среди систем сопоставимого качества в проведённой оценке Toast 1 оказался в 7-11 раз дешевле и значительно быстрее: поисковые агенты на базе фронтир-моделей в той же оценке тратили от 20 секунд до четырёх минут.

Доступность и цены

Toast 1 уже доступен через API Mixedbread по стартовой сниженной цене:

• $0.30 за миллион входных токенов
• $0.036 за миллион кешированных входных токенов (запись в кеш бесплатна)
• $0.72 за миллион выходных токенов

Вызовы Mixedbread Search через Toast 1 тарифицируются по особому тарифу.

С существующим поисковым стеком

Toast 1 создавался совместно с примитивами Mixedbread Search и показывает наилучшую производительность именно в связке с ними. Но особое внимание было уделено тому, чтобы агент оставался независимым от бэкенда: он может работать поверх уже существующих поисковых индексов и не требует миграции текущей инфраструктуры. Проведено тщательное тестирование, подтвердившее, что Toast 1 остаётся конкурентоспособным по сравнению с фронтир-моделями в аналогичных условиях, но за малую долю стоимости и задержки, независимо от используемого индекса.

Toast 1 можно использовать через Chat Completions API и добавить в качестве поискового инструмента в существующие агентные workflow всего за несколько минут. Доступен готовый эталонный каркас для прямого использования.

С кодинг-агентами

Интеграцию можно поручить самим кодинг-агентам через npx skills add mixedbread-ai/skills. Либо использовать Toast 1 напрямую как подагента через интеграцию с OpenCode.

С хранилищами Mixedbread

from mixedbread import Mixedbread

client = Mixedbread()

results = client.stores.search(
    store_identifiers=["legal-documents"],
    query="does the MSA allow assignment on a change of control?",
    search_options={
        "agentic": True,  # enable Toast 1
    },
)

Получить API-ключ с $5 кредитов на пробу.

Примечания

1. Для оценки использовалось случайно выбранное подмножество из 33 задач, чтобы сделать повторные сравнительные прогоны выполнимыми по времени. Во всех конфигурациях использовались одни и те же задачи и условия оценки — менялся только поисковый стек.

2. Toast 1 — часть растущего направления работ над специализированными поисковыми агентами наряду с SID-1 и Context-1 от Chroma. У каждого проекта свой подход, но их объединяет цель — сделать поиск уровня фронтир-моделей доступным для продакшена по более низкой цене и с меньшей задержкой.