Astra показывает значительное преимущество на задаче с чашей, работая в два раза дешевле

Это продолжение исследования Claude Fable 5 и Fable 5.1. GPT-6 Astra получила управление теми же двуручными манипуляторами YAM в соответствии с политикой Inspect Robots, на тех же двух задачах:

«Поднять красный кубик со стола и поместить его в чашу.»

«Поднять круглый синий пазл, взяв его за центральную ручку, и вставить в соответствующий круглый паз на доске.»

На задаче с чашей Astra разместила кубик в 19 из 20 попыток против 8 из 20 у Fable 5.1 и 1 из 20 у Fable 5, затратив 2,5 минуты на попытку против 6,8 минут, при расчётной стоимости $0,94 за запуск против $2,12.

Задача с пазлом выглядит иначе: Astra завершила вставку 2 раза из 20, как и Fable 5.1. Обе модели доходят до паза и застревают на одном и том же финальном шаге, при стоимости $1,36 за запуск против $2,18.

Кубик в чашу: лучший завершённый запуск каждой модели (по наивысшему этапу, затем по длительности). Каждый проигрывается со своей скоростью с одинаковым ускорением. Таймеры показывают реальное прошедшее время с исключённые паузы размышления.

Оценка результатов

Каждая попытка была оценена человеческим экспертом по наивысшему достигнутому этапу, поэтому даже неудачный запуск фиксирует прогресс. Рубрика не изменилась по сравнению с отчётом о Fable.

0Нет целенаправленного подхода
1Установлен контакт с объектом
2Объект поднят над столом
3Позиционирован над точкой размещения
4Помещён в окончательное положение

Astra почти всегда размещает кубик; на пазле застревает там же, где и Fable

Результаты

ЗадачаМодельСреднее значение этапаЗавершения Доля успехаВыходных токенов/запускРасч. стоимость/запускМинут/запуск
Кубик в чашуFable 51.301 / 205%19.2k$2.698.2
Кубик в чашуFable 5.12.408 / 2040%12.9k$2.126.8
Кубик в чашуGPT-6 Astra3.9519 / 2095%2.1k$0.942.5
Пазл в пазFable 51.500 / 200%16.3k$2.637.9
Пазл в пазFable 5.12.352 / 2010%10.5k$2.185.9
Пазл в пазGPT-6 Astra2.002 / 2010%2.7k$1.363.4

Все запуски

Каждый засчитанный запуск, всего 120.

ЗадачаМодельОценкаВремя (мин) Выходные токеныТранскрипцияВидеоПереход
Кубик в чашуGPT-6 Astra41.71,533смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra41.71,734смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra41.71,573смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra41.81,669смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra41.91,570смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.11,491смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.12,153смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.11,782смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.22,034смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.52,441смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.52,625смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.51,697смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.82,434смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra42.92,966смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra43.21,627смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra43.32,768смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra43.32,777смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra43.42,185смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra43.51,979смотретьпросмотрскачать
Кубик в чашуGPT-6 Astra33.52,428смотретьпросмотрскачать
Кубик в чашуFable 545.213,120смотретьпросмотрскачать
Кубик в чашуFable 537.114,048смотретьпросмотрскачать
Кубик в чашуFable 525.010,663смотретьпросмотрскачать
Кубик в чашуFable 528.717,859смотретьпросмотрскачать
Кубик в чашуFable 529.115,064смотретьпросмотрскачать
Кубик в чашуFable 529.115,064смотретьпросмотрскачать
Кубик в чашуFable 514.79,096смотретьпросмотрскачать
Кубик в чашуFable 515.813,800смотретьпросмотрскачать
Кубик в чашуFable 515.89,954смотретьпросмотрскачать
Кубик в чашуFable 517.116,666смотретьпросмотрскачать
Кубик в чашуFable 517.218,165смотретьпросмотрскачать
Кубик в чашуFable 517.214,719смотретьпросмотрскачать
Кубик в чашуFable 518.424,975смотретьпросмотрскачать
Кубик в чашуFable 518.717,436смотретьпросмотрскачать
Кубик в чашуFable 518.821,388смотретьпросмотрскачать
Кубик в чашуFable 519.630,566смотретьпросмотрскачать
Кубик в чашуFable 5110.828,784смотретьпросмотрскачать
Кубик в чашуFable 5111.727,810смотретьпросмотрскачать
Кубик в чашуFable 5114.835,211смотретьпросмотрскачать
Кубик в чашуFable 508.717,764смотретьпросмотрскачать
Кубик в чашуFable 509.727,582смотретьпросмотрскачать
Кубик в чашуFable 5.144.29,124смотретьпросмотрскачать
Кубик в чашуFable 5.144.89,779смотретьпросмотрскачать
Кубик в чашуFable 5.145.011,359смотретьпросмотрскачать
Кубик в чашуFable 5.145.18,526смотретьпросмотрскачать
Кубик в чашуFable 5.145.610,998смотретьпросмотрскачать
Кубик в чашуFable 5.146.57,031смотретьпросмотрскачать
Кубик в чашуFable 5.146.715,901смотретьпросмотрскачать
Кубик в чашуFable 5.147.58,964смотретьпросмотрскачать
Кубик в чашуFable 5.135.714,477смотретьпросмотрскачать
Кубик в чашуFable 5.138.620,110смотретьпросмотрскачать
Кубик в чашуFable 5.127.320,022смотретьпросмотрскачать
Кубик в чашуFable 5.1218.914,526смотретьпросмотрскачать
Кубик в чашуFable 5.115.713,265смотретьпросмотрскачать
Кубик в чашуFable 5.115.918,073смотретьпросмотрскачать
Кубик в чашуFable 5.116.013,070смотретьпросмотрскачать
Кубик в чашуFable 5.116.611,506смотретьпросмотрскачать
Кубик в чашуFable 5.117.111,404смотретьпросмотрскачать
Кубик в чашуFable 5.118.517,760смотретьпросмотрскачать
Кубик в чашуFable 5.104.58,979смотретьпросмотрскачать
Кубик в чашуFable 5.105.213,394смотретьпросмотрскачать
Пазл в пазGPT-6 Astra42.82,229смотретьпросмотрскачать
Пазл в пазGPT-6 Astra43.31,967смотретьпросмотрскачать
Пазл в пазGPT-6 Astra32.32,581смотретьпросмотрскачать
Пазл в пазGPT-6 Astra32.62,805смотретьпросмотрскачать
Пазл в пазGPT-6 Astra32.62,470смотретьпросмотрскачать
Пазл в пазGPT-6 Astra32.92,978смотретьпросмотрскачать
Пазл в пазGPT-6 Astra33.02,937смотретьпросмотрскачать
Пазл в пазGPT-6 Astra33.12,932смотретьпросмотрскачать
Пазл в пазGPT-6 Astra33.62,538смотретьпросмотрскачать
Пазл в пазGPT-6 Astra33.63,417смотретьпросмотрскачать
Пазл в пазGPT-6 Astra23.93,142смотретьпросмотрскачать
Пазл в пазGPT-6 Astra12.22,458смотретьпросмотрскачать
Пазл в пазGPT-6 Astra12.82,464смотретьпросмотрскачать
Пазл в пазGPT-6 Astra13.02,117смотретьпросмотрскачать
Пазл в пазGPT-6 Astra13.12,901смотретьпросмотрскачать
Пазл в пазGPT-6 Astra13.93,041смотретьпросмотрскачать
Пазл в пазGPT-6 Astra110.22,491смотретьпросмотрскачать
Пазл в пазGPT-6 Astra02.63,025смотретьпросмотрскачать
Пазл в пазGPT-6 Astra02.82,916смотретьпросмотрскачать
Пазл в пазGPT-6 Astra03.33,161смотретьпросмотрскачать
Пазл в пазFable 535.412,599смотретьпросмотрскачать
Пазл в пазFable 536.611,044смотретьпросмотрскачать
Пазл в пазFable 536.711,726смотретьпросмотрскачать
Пазл в пазFable 536.810,743смотретьпросмотрскачать
Пазл в пазFable 538.814,855смотретьпросмотрскачать
Пазл в пазFable 527.019,149смотретьпросмотрскачать
Пазл в пазFable 529.122,592смотретьпросмотрскачать
Пазл в пазFable 514.59,620смотретьпросмотрскачать
Пазл в пазFable 514.79,942смотретьпросмотрскачать
Пазл в пазFable 515.313,629смотретьпросмотрскачать
Пазл в пазFable 515.816,029смотретьпросмотрскачать
Пазл в пазFable 516.616,460смотретьпросмотрскачать
Пазл в пазFable 517.310,544смотретьпросмотрскачать
Пазл в пазFable 518.325,603смотретьпросмотрскачать
Пазл в пазFable 518.323,105смотретьпросмотрскачать
Пазл в пазFable 519.120,718смотретьпросмотрскачать
Пазл в пазFable 5115.129,746смотретьпросмотрскачать
Пазл в пазFable 5117.211,577смотретьпросмотрскачать
Пазл в пазFable 506.218,229смотретьпросмотрскачать
Пазл в пазFable 5010.018,386смотретьпросмотрскачать
Пазл в пазFable 5.145.210,618смотретьпросмотрскачать
Пазл в пазFable 5.147.610,306смотретьпросмотрскачать
Пазл в пазFable 5.134.19,993смотретьпросмотрскачать
Пазл в пазFable 5.135.011,549смотретьпросмотрскачать
Пазл в пазFable 5.135.410,450смотретьпросмотрскачать
Пазл в пазFable 5.136.010,417смотретьпросмотрпросмотр
Пазл в пазFable 5.136.510,725смотретьпросмотрскачать
Пазл в пазFable 5.137.110,312смотретьпросмотрскачать
Пазл в пазFable 5.137.211,048смотретьпросмотрскачать
Пазл в пазFable 5.137.411,978смотретьпросмотрскачать
Пазл в пазFable 5.137.512,251смотретьпросмотрскачать
Пазл в пазFable 5.123.79,362смотретьпросмотрскачать
Пазл в пазFable 5.124.58,946смотретьпросмотрскачать
Пазл в пазFable 5.124.99,432смотретьпросмотрскачать
Пазл в пазFable 5.126.612,046смотретьпросмотрскачать
Пазл в пазFable 5.113.99,341смотретьпросмотрскачать
Пазл в пазFable 5.114.39,597смотретьпросмотрскачать
Пазл в пазFable 5.115.512,735смотретьпросмотрскачать
Пазл в пазFable 5.1110.09,111смотретьпросмотрскачать
Пазл в пазFable 5.106.510,359смотретьпросмотрскачать

Технические характеристики

КонструкцияДвуручные манипуляторы I2RT YAM, 6 степеней свободы на каждой руке с параллельными захватами
УправлениеАбсолютные позы концевого эффектора (move_to): x, y, z, yaw, pitch, roll и захват для каждой руки. Обратная кинематика робота преобразует позы в углы суставов.
НаблюдениеТри вида камер (сверху, левое запястье, правое запястье) плюс проприоцептивное состояние на каждом шаге
Политикаagent политика, среднее усилие размышления, бюджет из 20 вызовов LLM, ограничение скорости 25%, стандартные защиты безопасности включены
Моделиgpt-6-astra, claude-fable-5 и claude-fable-5-1
框架Inspect Robots 0.58.0
Испытания20 на модель на задачу; пазл на rig-4 для всех моделей, чаша на rig-3 для моделей Fable и rig-1 для Astra
Подсчёт токеновТокены на уровне провода запроса и ответа, не выставленные в счёт; стоимость по прейскуранту, $10 / $50 за миллион входных / выходных токенов для всех трёх моделей

Ограничения

  • Испытания Astra были проведены через два дня после испытаний Fable и не чередовались с ними. Сравнение пазлов проводилось на одном и том же rig; сравнение чаши — нет: испытания чаши Fable проводились на rig-3, который был недоступен.
  • Оценка была произведена оператором с известной моделью, поэтому оценки подвергаются риску неосознанной предвзятости.
  • Стоимость — прейскурантная. Запросы Anthropic были отправлены без кэширования подсказок; OpenAI автоматически кэшировал около пятой части входных данных Astra, что здесь не дисконтируется, поэтому стоимость Astra, если что, переоценена.
  • Объекты перемещались вручную между испытаниями, и все модели работали только со средним усилием размышления.