Опубликовано 8 сентября 2025

Gatekeeper: безопасность автономных систем и роботов в реальных условиях

Как заставить роботов не врезаться друг в друга: система безопасности, которая работает при -40°C

Новый алгоритм gatekeeper гарантирует безопасность автономных систем в реальном времени, не требуя суперкомпьютеров для расчётов.

Электротехника и системные науки 5 – 7 минут чтения
Автор публикации: Доктор Алексей Петров 5 – 7 минут чтения

Проблема безопасного управления автономными системами

Проблема, которую все игнорируют

Представьте: у вас есть дрон, который должен доставить лекарства в отдалённую деревню под Новосибирском. Зимой. При -35°C. Через зону с радиолокационным покрытием и несколькими запретными для полётов областями. И да, батарея садится быстрее, чем планировалось.

Большинство «умных» алгоритмов в такой ситуации просто сдаются. Либо начинают считать траекторию так долго, что дрон падает раньше, чем найдут решение. Либо находят «оптимальное» решение, которое ведёт прямо в зону поражения.

Именно поэтому я не верю в технологии, которые работают только в лабораторных условиях. Нужны решения, которые гарантированно не убьют никого в реальном мире.

Что такое Gatekeeper алгоритм и особенности работы

Что такое gatekeeper и почему это не очередная игрушка

Алгоритм gatekeeper – это система безопасности для автономных устройств, которая работает по простому принципу: всегда иметь план отхода.

Традиционные подходы пытаются найти идеальную траекторию сразу. Model Predictive Control (MPC) решает оптимизационную задачу на каждом шаге – вычислительно дорого и медленно. Барьерные функции управления требуют математических выкрутасов для каждого типа препятствий. Методы достижимости работают только в простых случаях.

Gatekeeper действует иначе. На каждом шаге он проверяет: «А смогу ли я безопасно вернуться к заранее проверенной траектории»?. Если да – продолжает следовать основному плану. Если нет – переключается на резервную стратегию.

Звучит просто? Потому что так и есть. Но за этой простотой стоит серьёзная математика.

Принцип работы алгоритма Gatekeeper

Как это работает технически

Система описывается дифференциальным уравнением:

ẋ = f(t, x, u) 

где x – состояние системы (позиция, скорость, ориентация), u – управляющие команды.

Основные компоненты gatekeeper:

Номинальная траектория – это план, который построил основной планировщик маршрута. Может быть оптимальным, может быть не очень, главное – он есть.

Резервное множество – область в пространстве состояний, попав в которую система гарантированно может функционировать безопасно неограниченно долго.

Резервный контроллер – алгоритм, который умеет из любой точки в допустимой области довести систему до резервного множества, не нарушая ограничений.

На каждом шаге gatekeeper строит кандидатные траектории. Каждая состоит из двух частей:

  1. Следование номинальному плану в течение некоторого времени T
  2. Переключение на резервную траекторию

Если такая комбинированная траектория не нарушает никаких ограничений безопасности на всём протяжении, она принимается к исполнению.

Ключевое преимущество: вместо решения сложной многомерной оптимизационной задачи требуется оптимизация только по одной переменной – времени переключения T. Это делает алгоритм быстрым и надёжным.

Математические гарантии безопасности автономных систем

Математические гарантии без воды

Разработчики доказали несколько важных свойств:

Безопасность: Любая принятая кандидатная траектория гарантирует безопасность на бесконечном горизонте времени. Это не «скорее всего безопасно», а математически строгая гарантия.

Субоптимальность: Отклонение от идеального решения ограничено сверху величиной, которая зависит только от времени переключения и качества резервной траектории. Можно заранее оценить, насколько «хуже» будет решение по сравнению с полной нелинейной оптимизацией.

Вычислительная эффективность: На каждом шаге требуется решить задачу оптимизации по одной скалярной переменной. Это можно сделать даже на микроконтроллере.

Архитектурно gatekeeper встраивается между планировщиком маршрута и контроллером движения. Планировщик предлагает траекторию, gatekeeper проверяет её безопасность и либо одобряет, либо переключает на резервную. Контроллер получает всегда безопасную команду.

Применение Gatekeeper в групповом управлении дронами

Реальное применение: групповой полёт дронов

Чтобы проверить работоспособность, исследователи взяли классическую головную боль – групповой полёт нескольких дронов через область с множественными запретными зонами.

Постановка задачи: Группа из нескольких беспилотников модели Дубинса (ограниченный радиус поворота) должна пролететь из точки А в точку Б, сохраняя строй и избегая зон поражения сложной формы.

Каждый дрон имеет ограничения:

  • Постоянная скорость полёта
  • Максимальная угловая скорость поворота
  • Запрет на пролёт через зоны поражения (нелинейные, неконвексные области)

Один дрон выбирается ведущим и планирует безопасный маршрут с помощью алгоритма RRT». Остальные должны следовать в формации, но каждый отвечает за собственную безопасность.

Резервная стратегия: В качестве резервного множества выбрана траектория ведущего дрона. Если основной план ведомого приводит к нарушению безопасности, он переключается на траекторию возврата к пути лидера. Такие траектории строятся как кратчайшие пути Дубинса.

Сравнение Gatekeeper с другими методами управления

Сравнение с существующими методами ?

Тестирование провели против двух популярных подходов:

Control Barrier Functions (CBF-QP) – метод на основе барьерных функций. Проблема: при множественных сложных ограничениях задача квадратичного программирования часто становится неразрешимой. В эксперименте CBF-QP в 23% случаев не мог найти допустимое управление, что приводило к нарушениям безопасности.

IPOPT (нелинейная оптимизация) – мощный решатель для нелинейных оптимизационных задач. Даёт хорошее качество траекторий, но требует значительных вычислительных ресурсов. В сложных сценариях может не сходиться или сходиться слишком медленно для применения в реальном времени.

Результаты тестирования:

  • Только gatekeeper обеспечил 100% соблюдение требований безопасности
  • Качество траекторий сопоставимо с IPOPT (отклонение от оптимальной траектории различается менее чем на 15%)
  • Время вычислений в 50-100 раз меньше чем у IPOPT
  • Стабильная работа без сбоев сходимости

Значение Gatekeeper для индустрии и автономных технологий

Почему это важно для промышленности

Gatekeeper решает ключевую проблему внедрения автономных систем: сочетание гарантированной безопасности и вычислительной эффективности.

Гарантии безопасности критичны для применений в транспорте, медицине, энергетике. Нельзя запускать дрон для инспекции ЛЭП, если есть даже 1% вероятность, что он врежется в провод.

Вычислительная эффективность важна для систем с ограниченными ресурсами. Бортовой компьютер дрона не может тратить 10 секунд на планирование траектории – за это время можно упасть или врезаться.

Работа с множественными ограничениями необходима в реальных сценариях. Недостаточно просто избегать препятствий – нужно учитывать ограничения на топливо, связь, погодные условия, запретные зоны.

Алгоритм уже показал применимость в:

  • Групповом управлении дронами
  • Автономном вождении с множественными ограничениями
  • Управлении промышленными роботами в стеснённых условиях

Ограничения применения и перспективы развития Gatekeeper

Ограничения и области развития

Как у любой технологии, у gatekeeper есть ограничения:

Качество резервных стратегий напрямую влияет на общую производительность. Плохо спроектированное резервное множество приведёт к чрезмерно консервативному поведению.

Проектирование резервных контроллеров требует экспертизы в конкретной области применения. Универсального подхода нет.

Размерность задачи влияет на сложность проверки безопасности. Хотя оптимизация происходит по одной переменной, проверка ограничений может быть дорогой в высокоразмерных системах.

Тем не менее, подход масштабируем и адаптируем к широкому классу задач.

Будущее автономных технологий с Gatekeeper

Взгляд в будущее

Gatekeeper представляет собой шаг к практичному автономному управлению. Это не очередная академическая выдумка, а рабочий инструмент для реальных систем.

Ключевые направления развития:

  • Автоматическое проектирование резервных множеств и контроллеров
  • Интеграция с системами машинного обучения
  • Адаптация к динамически изменяющимся ограничениям

Технологии должны работать не только в Silicon Valley, но и в сибирской тайге при -40°C. Gatekeeper делает шаг в этом направлении, предлагая безопасность без компромиссов в производительности.

Время игрушечных демонстраций прошло. Настало время технологий, которые работают в реальном мире, со всеми его ограничениями и неожиданностями.

Оригинальное название: Online Safety under Multiple Constraints and Input Bounds using gatekeeper: Theory and Applications
Дата публикации статьи: 13 авг 2025
Авторы оригинальной статьи : Devansh R. Agrawal, Dimitra Panagou
Предыдущая статья Как правительства играют в «добрый и злой полицейский» с деньгами налогоплательщиков Следующая статья Чёрные дыры Керра: скрытые симметрии космических танцовщиц

Связанные публикации

Вам может быть интересно

Войти в Лабораторию

Исследование не заканчивается одним экспериментом. Ниже – публикации, которые развивают похожие методы, вопросы или концепции.

Разбираем, как группа роботов может прийти к единому решению, когда датчики работают медленнее процессоров, а сигналы идут с задержками.

Доктор Алексей Петров 15 июл 2025

Новый подход объединяет радиолокацию и связь в автономных автомобилях, позволяя им одновременно сканировать дорогу и обмениваться данными через чирп-сигналы.

Доктор Алексей Петров 9 июн 2025

Новая технология речевых кодеков адаптирует частоту обработки под сложность сигнала, экономя ресурсы без потери качества звука.

Доктор Алексей Петров 21 июн 2025

От исследования к пониманию

Как создавался этот текст

Этот материал основан на реальном научном исследовании, а не сгенерирован «с нуля». В начале работы нейросети анализируют исходную публикацию: её цели, методы и выводы. Затем автор формирует связный текст, который сохраняет научный смысл, но переводит его из академического формата в ясное и читаемое изложение – без формул, но без потери точности.

Аналитическая жёсткость

90%

Применимость решений

93%

Устойчивость к хайпу

85%

Нейросети, участвовавшие в работе

Мы показываем, какие модели использовались на каждом этапе – от анализа исследования до редакторской проверки и создания иллюстрации. Каждая нейросеть выполняет свою роль: одни работают с источником, другие – с формулировками и структурой, третьи – с визуальным образом. Это позволяет сохранить прозрачность процесса и доверие к результату.

1.
GPT-5 OpenAI Резюмирование исследования Выделение ключевых идей и результатов

1. Резюмирование исследования

Выделение ключевых идей и результатов

GPT-5 OpenAI
2.
Claude Sonnet 4 Anthropic Создание текста на основе резюме Преобразование резюме в связное объяснение

2. Создание текста на основе резюме

Преобразование резюме в связное объяснение

Claude Sonnet 4 Anthropic
3.
Phoenix 1.0 Leonardo AI Создание иллюстрации Генерация изображения по подготовленному промпту

3. Создание иллюстрации

Генерация изображения по подготовленному промпту

Phoenix 1.0 Leonardo AI

Хотите знать о новых
экспериментах первыми?

Подписывайтесь на наш Telegram-канал – там мы делимся всем самым
свежим и интересным из мира NeuraBooks.

Подписаться