Что под капотом Waymo: как устроены вычислительные системы беспилотника

Compute — это мозг Waymo Driver, преобразующий сырые данные с датчиков в команды управления в реальном времени. Работа доказуемо безопасного физического ИИ на дороге требует фундаментального сдвига в сторону системы, спроектированной для детерминированной работы с низкой задержкой. За последнее десятилетие в Waymo совместно разрабатывали железо, сенсоры и алгоритмы, чтобы решить уникальные задачи периферийных вычислений в реальных условиях. Компания впервые показывает подход к вычислениям, собственные чипы и то, как строится сотрудничество с лидерами индустрии для создания самой производительной вычислительной системы на дороге.

Вычислительные системы для автономного вождения обрабатывают крайне разнородные нагрузки. В Waymo создают систему, которая выглядела бы впечатляюще даже для дата-центра, но с дополнительной сложностью — работой внутри автомобиля и требованиями реального времени. В отличие от традиционных систем помощи водителю, здесь компьютер полностью берёт на себя задачу вождения без страхующего человека, что требует значительно более высокой производительности. Опираясь на опыт более чем 200 миллионов миль полностью автономных поездок, инженеры Waymo проектируют вычислительную платформу вокруг трёх обязательных требований:

• Отзывчивость. Для принятия решений в реальном времени автономная система работает полностью на борту, постоянно обрабатывая решения за миллисекунды. Стек оптимизирован под сверхнизкую задержку, минимизируя время от появления первого пикселя до действия. В эти критические миллисекунды продвинутые ML-модели строят детальную картину окружения, чтобы оценить самый безопасный путь. Для этого требуется впечатляющая вычислительная мощность — она выросла в 20 раз всего за восемь лет — вместе с глубоко оптимизированным программным стеком для её эффективного использования.

• Защита от внешних воздействий. Вычислительная платформа спроектирована для работы в физическом мире с высокой отказоустойчивостью и надёжностью на уровне как отдельных компонентов, так и системы в целом. Железо работает в условиях постоянной вибрации, ударов и экстремальных температур. Благодаря прямой интеграции с системой жидкостного охлаждения автомобиля пиковая производительность сохраняется как в лютые морозы Среднего Запада, так и в изнуряющую жару Финикса.

• Резервирование. Поскольку человека, готового взять управление на себя, нет, проактивная безопасность и резервирование заложены в систему изначально. Вычислительная платформа устроена как два независимых "движка". В обычном режиме они работают как единое целое, параллельно выполняя все нагрузки, но если один из них выходит из строя, второй бесшовно берёт управление на себя.

Переход от готовых компонентов к собственным системам потребовал пересмотра физического и архитектурного дизайна. Высокоинтегрированная система обеспечивает огромную вычислительную мощность, не жертвуя комфортом пассажиров: она максимизирует эффективность батареи, сохраняет достаточно места в багажнике и работает бесшумно. В основе архитектуры — приоритет на выполнение нейросетей с минимальной задержкой. Для управления критическими не-ML задачами вроде оркестрации, перемещения данных и логирования, при этом оставляя максимум ресурсов для ML-вычислений, собственные ML-технологии сочетаются с лучшими на рынке CPU, GPU и ускорителями. В результате получается сбалансированная гетерогенная система.

Для обработки огромного потока сырых данных перед тем, как они попадут в основной ML-«мозг» системы, Waymo представила собственный специализированный 5-нанометровый ASIC. Это лишь один из нескольких перспективных заказных компонентов, которые сейчас разрабатывает компания, но именно этот чип — специализированная ML-мощность, спроектированная исключительно для обработки, слияния и запуска продвинутых нейросетей на сырых данных сенсоров в реальном времени. Совместная разработка кремния, сенсоров и алгоритмов позволяет расширять границы точности датчиков, эффективности использования пропускной способности и квантования, чтобы выполнять разнородные модели — от разреженных свёрток до плотных трансформеров.

Специализированные ускорители в составе ASIC мгновенно извлекают критически важную информацию из сырых потоков лидара, радара и камер, включая временное шумоподавление для улучшенного восприятия при слабом освещении. Эти данные поступают в собственный инференс-движок, запускающий ML-модели слияния сенсоров, что повышает эффективность без потери точности. Сами по себе такие ASIC обеспечивают более 1000 TOPS ML-производительности, выделенной на предварительную обработку и работу моделей, но оптимизация ведётся по всему стеку целиком, чтобы максимизировать реальную производительность — особенно в режимах с малыми батчами, в которых система чаще всего работает.

Помимо работы над собственными чипами, Waymo тесно сотрудничает с лидерами индустрии, чьи вычислительные решения мирового уровня дают прочную основу для эффективного масштабирования технологии. Среди партнёров компании — AMD, Micron, NVIDIA, Samsung, Sandisk, Socionext и TSMC, вместе с которыми создаётся самая производительная автономная вычислительная система.

Это лишь малая часть того, что готовится в будущем. По мере того как для Waymo Driver появляются новые сценарии применения, а ML-стек продолжает развиваться, потребность в высокоэффективных и мощных вычислениях будет только расти.

Подробнее о подходе Waymo к вычислениям можно узнать на докладах компании на Hot Chips.