В Google создали «Конституцию для роботов»

Три новых продукта — AutoRT, SARA-RT и RT-Trajectory были представлены командой робототехники в DeepMind. Они способствуют улучшению скорости принятия решений роботами, а также повышают их эффективность и безопасность при выполнении задач в окружении людей.

AutoRT объединяет большие базовые модели, такие как LLM или VLM и RT-1 или RT-2. AutoRT может одновременно управлять несколькими роботами, каждый из которых оснащен видеокамерой и рабочим органом, для выполнения разнообразных задач в различных условиях. 

SARA-RT делает модели более эффективными, используя новый метод точной настройки моделей. Повышение квалификации превращает сложные вопросы в более простые, что делает их решение гораздо быстрее и легче. 

Модель RT-Trajectory автоматически добавляет визуальные контуры, описывающие движения робота, в обучающие видеоролики. 

Одно из ключевых инноваций в AutoRT — введение «Конституции для роботов» в блоке LLM. Эта концепция обеспечивает безопасность, предписывая машине избегать ситуаций, в которых будут задействованы включающих люди, животные, острые предметы и электроприборы. Дополнительные меры безопасности включают программирование роботов на остановку при превышении определенного порога усилия, а также наличие дополнительного физического выключателя в их конструкции для экстренных случаев.

Источник: deepmind.google