Astra показывает значительное преимущество на задаче с чашей, работая в два раза дешевле
Это продолжение исследования Claude Fable 5 и Fable 5.1. GPT-6 Astra получила управление теми же двуручными манипуляторами YAM в соответствии с политикой Inspect Robots, на тех же двух задачах:
«Поднять красный кубик со стола и поместить его в чашу.»
«Поднять круглый синий пазл, взяв его за центральную ручку, и вставить в соответствующий круглый паз на доске.»
На задаче с чашей Astra разместила кубик в 19 из 20 попыток против 8 из 20 у Fable 5.1 и 1 из 20 у Fable 5, затратив 2,5 минуты на попытку против 6,8 минут, при расчётной стоимости $0,94 за запуск против $2,12.
Задача с пазлом выглядит иначе: Astra завершила вставку 2 раза из 20, как и Fable 5.1. Обе модели доходят до паза и застревают на одном и том же финальном шаге, при стоимости $1,36 за запуск против $2,18.
Кубик в чашу: лучший завершённый запуск каждой модели (по наивысшему этапу, затем по длительности). Каждый проигрывается со своей скоростью с одинаковым ускорением. Таймеры показывают реальное прошедшее время с исключённые паузы размышления.
Оценка результатов
Каждая попытка была оценена человеческим экспертом по наивысшему достигнутому этапу, поэтому даже неудачный запуск фиксирует прогресс. Рубрика не изменилась по сравнению с отчётом о Fable.
| 0 | Нет целенаправленного подхода |
| 1 | Установлен контакт с объектом |
| 2 | Объект поднят над столом |
| 3 | Позиционирован над точкой размещения |
| 4 | Помещён в окончательное положение |
Astra почти всегда размещает кубик; на пазле застревает там же, где и Fable
Результаты
| Задача | Модель | Среднее значение этапа | Завершения | Доля успеха | Выходных токенов/запуск | Расч. стоимость/запуск | Минут/запуск |
|---|---|---|---|---|---|---|---|
| Кубик в чашу | Fable 5 | 1.30 | 1 / 20 | 5% | 19.2k | $2.69 | 8.2 |
| Кубик в чашу | Fable 5.1 | 2.40 | 8 / 20 | 40% | 12.9k | $2.12 | 6.8 |
| Кубик в чашу | GPT-6 Astra | 3.95 | 19 / 20 | 95% | 2.1k | $0.94 | 2.5 |
| Пазл в паз | Fable 5 | 1.50 | 0 / 20 | 0% | 16.3k | $2.63 | 7.9 |
| Пазл в паз | Fable 5.1 | 2.35 | 2 / 20 | 10% | 10.5k | $2.18 | 5.9 |
| Пазл в паз | GPT-6 Astra | 2.00 | 2 / 20 | 10% | 2.7k | $1.36 | 3.4 |
Все запуски
Каждый засчитанный запуск, всего 120.
| Задача | Модель | Оценка | Время (мин) | Выходные токены | Транскрипция | Видео | Переход |
|---|---|---|---|---|---|---|---|
| Кубик в чашу | GPT-6 Astra | 4 | 1.7 | 1,533 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 1.7 | 1,734 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 1.7 | 1,573 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 1.8 | 1,669 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 1.9 | 1,570 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.1 | 1,491 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.1 | 2,153 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.1 | 1,782 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.2 | 2,034 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.5 | 2,441 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.5 | 2,625 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.5 | 1,697 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.8 | 2,434 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 2.9 | 2,966 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 3.2 | 1,627 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 3.3 | 2,768 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 3.3 | 2,777 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 3.4 | 2,185 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 4 | 3.5 | 1,979 | смотреть | просмотр | скачать |
| Кубик в чашу | GPT-6 Astra | 3 | 3.5 | 2,428 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 4 | 5.2 | 13,120 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 3 | 7.1 | 14,048 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 2 | 5.0 | 10,663 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 2 | 8.7 | 17,859 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 2 | 9.1 | 15,064 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 2 | 9.1 | 15,064 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 4.7 | 9,096 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 5.8 | 13,800 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 5.8 | 9,954 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 7.1 | 16,666 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 7.2 | 18,165 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 7.2 | 14,719 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 8.4 | 24,975 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 8.7 | 17,436 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 8.8 | 21,388 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 9.6 | 30,566 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 10.8 | 28,784 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 11.7 | 27,810 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 1 | 14.8 | 35,211 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 0 | 8.7 | 17,764 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5 | 0 | 9.7 | 27,582 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 4.2 | 9,124 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 4.8 | 9,779 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 5.0 | 11,359 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 5.1 | 8,526 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 5.6 | 10,998 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 6.5 | 7,031 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 6.7 | 15,901 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 4 | 7.5 | 8,964 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 3 | 5.7 | 14,477 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 3 | 8.6 | 20,110 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 2 | 7.3 | 20,022 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 2 | 18.9 | 14,526 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 5.7 | 13,265 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 5.9 | 18,073 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 6.0 | 13,070 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 6.6 | 11,506 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 7.1 | 11,404 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 1 | 8.5 | 17,760 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 0 | 4.5 | 8,979 | смотреть | просмотр | скачать |
| Кубик в чашу | Fable 5.1 | 0 | 5.2 | 13,394 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 4 | 2.8 | 2,229 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 4 | 3.3 | 1,967 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 2.3 | 2,581 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 2.6 | 2,805 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 2.6 | 2,470 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 2.9 | 2,978 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 3.0 | 2,937 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 3.1 | 2,932 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 3.6 | 2,538 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 3 | 3.6 | 3,417 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 2 | 3.9 | 3,142 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 2.2 | 2,458 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 2.8 | 2,464 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 3.0 | 2,117 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 3.1 | 2,901 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 3.9 | 3,041 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 1 | 10.2 | 2,491 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 0 | 2.6 | 3,025 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 0 | 2.8 | 2,916 | смотреть | просмотр | скачать |
| Пазл в паз | GPT-6 Astra | 0 | 3.3 | 3,161 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 3 | 5.4 | 12,599 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 3 | 6.6 | 11,044 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 3 | 6.7 | 11,726 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 3 | 6.8 | 10,743 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 3 | 8.8 | 14,855 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 2 | 7.0 | 19,149 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 2 | 9.1 | 22,592 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 4.5 | 9,620 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 4.7 | 9,942 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 5.3 | 13,629 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 5.8 | 16,029 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 6.6 | 16,460 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 7.3 | 10,544 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 8.3 | 25,603 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 8.3 | 23,105 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 9.1 | 20,718 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 15.1 | 29,746 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 1 | 17.2 | 11,577 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 0 | 6.2 | 18,229 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5 | 0 | 10.0 | 18,386 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 4 | 5.2 | 10,618 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 4 | 7.6 | 10,306 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 4.1 | 9,993 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 5.0 | 11,549 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 5.4 | 10,450 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 6.0 | 10,417 | смотреть | просмотр | просмотр |
| Пазл в паз | Fable 5.1 | 3 | 6.5 | 10,725 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 7.1 | 10,312 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 7.2 | 11,048 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 7.4 | 11,978 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 3 | 7.5 | 12,251 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 2 | 3.7 | 9,362 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 2 | 4.5 | 8,946 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 2 | 4.9 | 9,432 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 2 | 6.6 | 12,046 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 1 | 3.9 | 9,341 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 1 | 4.3 | 9,597 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 1 | 5.5 | 12,735 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 1 | 10.0 | 9,111 | смотреть | просмотр | скачать |
| Пазл в паз | Fable 5.1 | 0 | 6.5 | 10,359 | смотреть | просмотр | скачать |
Технические характеристики
| Конструкция | Двуручные манипуляторы I2RT YAM, 6 степеней свободы на каждой руке с параллельными захватами |
| Управление | Абсолютные позы концевого эффектора (move_to): x, y, z, yaw, pitch, roll и захват для каждой руки. Обратная кинематика робота преобразует позы в углы суставов. |
| Наблюдение | Три вида камер (сверху, левое запястье, правое запястье) плюс проприоцептивное состояние на каждом шаге |
| Политика | agent политика, среднее усилие размышления, бюджет из 20 вызовов LLM, ограничение скорости 25%, стандартные защиты безопасности включены |
| Модели | gpt-6-astra, claude-fable-5 и claude-fable-5-1 |
| 框架 | Inspect Robots 0.58.0 |
| Испытания | 20 на модель на задачу; пазл на rig-4 для всех моделей, чаша на rig-3 для моделей Fable и rig-1 для Astra |
| Подсчёт токенов | Токены на уровне провода запроса и ответа, не выставленные в счёт; стоимость по прейскуранту, $10 / $50 за миллион входных / выходных токенов для всех трёх моделей |
Ограничения
- Испытания Astra были проведены через два дня после испытаний Fable и не чередовались с ними. Сравнение пазлов проводилось на одном и том же rig; сравнение чаши — нет: испытания чаши Fable проводились на rig-3, который был недоступен.
- Оценка была произведена оператором с известной моделью, поэтому оценки подвергаются риску неосознанной предвзятости.
- Стоимость — прейскурантная. Запросы Anthropic были отправлены без кэширования подсказок; OpenAI автоматически кэшировал около пятой части входных данных Astra, что здесь не дисконтируется, поэтому стоимость Astra, если что, переоценена.
- Объекты перемещались вручную между испытаниями, и все модели работали только со средним усилием размышления.