Microsoft Research сравнила бортовой, периферийный (edge) и облачный инференс для планирования, навигации и манипуляций роботов. Исследование показало прирост производительности и увеличение времени автономной работы от переноса вычислений в протестированных конфигурациях. Исследователи также описали компромиссы, связанные с сетевой задержкой, пропускной способностью и доступными вычислительными ресурсами.
Что сравнивается в исследовании
Microsoft Research рассматривает вынос инференса для физического ИИ в задачах планирования, навигации и манипуляций. Запуск моделей за пределами робота может снизить требования к вычислительному оборудованию и энергопотреблению на борту, одновременно меняя зависимость робота от сети.
В исследовании сравниваются бортовые, периферийные и облачные конфигурации. Microsoft сообщает о преимуществах в производительности и расходе батареи в протестированных конфигурациях. Эти результаты относятся к проверенным установкам и не свидетельствуют об универсальном преимуществе удаленного инференса.
Сеть становится частью архитектуры
Задержка, пропускная способность и доступность соединения влияют на то, сможет ли вынесенная система вовремя отреагировать. Приложению необходимо сопоставлять эти ограничения с затратами на локальные вычисления. Оптимальное разделение ресурсов может различаться для предсказуемой среды и для условий с ненадежной связью.
Первоисточник
В этом отчете кратко изложен материал указанного ниже источника. Аналитика приводится отдельно; заявления о продуктах и исследованиях атрибутируются их авторам.
Читать оригинал на Microsoft Research