Опубликовано 8 сентября 2025

Gatekeeper: безопасность автономных систем и роботов в реальных условиях

Как заставить роботов не врезаться друг в друга: система безопасности, которая работает при -40°C

Новый алгоритм gatekeeper гарантирует безопасность автономных систем в реальном времени, не требуя суперкомпьютеров для расчётов.

Электротехника и системные науки 5 – 7 минут чтения
Автор публикации: Доктор Алексей Петров 5 – 7 минут чтения

Проблема безопасного управления автономными системами

Проблема, которую все игнорируют

Представьте: у вас есть дрон, который должен доставить лекарства в отдалённую деревню под Новосибирском. Зимой. При -35°C. Через зону с радиолокационным покрытием и несколькими запретными для полётов областями. И да, батарея садится быстрее, чем планировалось.

Большинство «умных» алгоритмов в такой ситуации просто сдаются. Либо начинают считать траекторию так долго, что дрон падает раньше, чем найдут решение. Либо находят «оптимальное» решение, которое ведёт прямо в зону поражения.

Именно поэтому я не верю в технологии, которые работают только в лабораторных условиях. Нужны решения, которые гарантированно не убьют никого в реальном мире.

Что такое Gatekeeper алгоритм и особенности работы

Что такое gatekeeper и почему это не очередная игрушка

Алгоритм gatekeeper – это система безопасности для автономных устройств, которая работает по простому принципу: всегда иметь план отхода.

Традиционные подходы пытаются найти идеальную траекторию сразу. Model Predictive Control (MPC) решает оптимизационную задачу на каждом шаге – вычислительно дорого и медленно. Барьерные функции управления требуют математических выкрутасов для каждого типа препятствий. Методы достижимости работают только в простых случаях.

Gatekeeper действует иначе. На каждом шаге он проверяет: «А смогу ли я безопасно вернуться к заранее проверенной траектории»?. Если да – продолжает следовать основному плану. Если нет – переключается на резервную стратегию.

Звучит просто? Потому что так и есть. Но за этой простотой стоит серьёзная математика.

Принцип работы алгоритма Gatekeeper

Как это работает технически

Система описывается дифференциальным уравнением:

ẋ = f(t, x, u) 

где x – состояние системы (позиция, скорость, ориентация), u – управляющие команды.

Основные компоненты gatekeeper:

Номинальная траектория – это план, который построил основной планировщик маршрута. Может быть оптимальным, может быть не очень, главное – он есть.

Резервное множество – область в пространстве состояний, попав в которую система гарантированно может функционировать безопасно неограниченно долго.

Резервный контроллер – алгоритм, который умеет из любой точки в допустимой области довести систему до резервного множества, не нарушая ограничений.

На каждом шаге gatekeeper строит кандидатные траектории. Каждая состоит из двух частей:

  1. Следование номинальному плану в течение некоторого времени T
  2. Переключение на резервную траекторию

Если такая комбинированная траектория не нарушает никаких ограничений безопасности на всём протяжении, она принимается к исполнению.

Ключевое преимущество: вместо решения сложной многомерной оптимизационной задачи требуется оптимизация только по одной переменной – времени переключения T. Это делает алгоритм быстрым и надёжным.

Математические гарантии безопасности автономных систем

Математические гарантии без воды

Разработчики доказали несколько важных свойств:

Безопасность: Любая принятая кандидатная траектория гарантирует безопасность на бесконечном горизонте времени. Это не «скорее всего безопасно», а математически строгая гарантия.

Субоптимальность: Отклонение от идеального решения ограничено сверху величиной, которая зависит только от времени переключения и качества резервной траектории. Можно заранее оценить, насколько «хуже» будет решение по сравнению с полной нелинейной оптимизацией.

Вычислительная эффективность: На каждом шаге требуется решить задачу оптимизации по одной скалярной переменной. Это можно сделать даже на микроконтроллере.

Архитектурно gatekeeper встраивается между планировщиком маршрута и контроллером движения. Планировщик предлагает траекторию, gatekeeper проверяет её безопасность и либо одобряет, либо переключает на резервную. Контроллер получает всегда безопасную команду.

Применение Gatekeeper в групповом управлении дронами

Реальное применение: групповой полёт дронов

Чтобы проверить работоспособность, исследователи взяли классическую головную боль – групповой полёт нескольких дронов через область с множественными запретными зонами.

Постановка задачи: Группа из нескольких беспилотников модели Дубинса (ограниченный радиус поворота) должна пролететь из точки А в точку Б, сохраняя строй и избегая зон поражения сложной формы.

Каждый дрон имеет ограничения:

  • Постоянная скорость полёта
  • Максимальная угловая скорость поворота
  • Запрет на пролёт через зоны поражения (нелинейные, неконвексные области)

Один дрон выбирается ведущим и планирует безопасный маршрут с помощью алгоритма RRT». Остальные должны следовать в формации, но каждый отвечает за собственную безопасность.

Резервная стратегия: В качестве резервного множества выбрана траектория ведущего дрона. Если основной план ведомого приводит к нарушению безопасности, он переключается на траекторию возврата к пути лидера. Такие траектории строятся как кратчайшие пути Дубинса.

Сравнение Gatekeeper с другими методами управления

Сравнение с существующими методами ?

Тестирование провели против двух популярных подходов:

Control Barrier Functions (CBF-QP) – метод на основе барьерных функций. Проблема: при множественных сложных ограничениях задача квадратичного программирования часто становится неразрешимой. В эксперименте CBF-QP в 23% случаев не мог найти допустимое управление, что приводило к нарушениям безопасности.

IPOPT (нелинейная оптимизация) – мощный решатель для нелинейных оптимизационных задач. Даёт хорошее качество траекторий, но требует значительных вычислительных ресурсов. В сложных сценариях может не сходиться или сходиться слишком медленно для применения в реальном времени.

Результаты тестирования:

  • Только gatekeeper обеспечил 100% соблюдение требований безопасности
  • Качество траекторий сопоставимо с IPOPT (отклонение от оптимальной траектории различается менее чем на 15%)
  • Время вычислений в 50-100 раз меньше чем у IPOPT
  • Стабильная работа без сбоев сходимости

Значение Gatekeeper для индустрии и автономных технологий

Почему это важно для промышленности

Gatekeeper решает ключевую проблему внедрения автономных систем: сочетание гарантированной безопасности и вычислительной эффективности.

Гарантии безопасности критичны для применений в транспорте, медицине, энергетике. Нельзя запускать дрон для инспекции ЛЭП, если есть даже 1% вероятность, что он врежется в провод.

Вычислительная эффективность важна для систем с ограниченными ресурсами. Бортовой компьютер дрона не может тратить 10 секунд на планирование траектории – за это время можно упасть или врезаться.

Работа с множественными ограничениями необходима в реальных сценариях. Недостаточно просто избегать препятствий – нужно учитывать ограничения на топливо, связь, погодные условия, запретные зоны.

Алгоритм уже показал применимость в:

  • Групповом управлении дронами
  • Автономном вождении с множественными ограничениями
  • Управлении промышленными роботами в стеснённых условиях

Ограничения применения и перспективы развития Gatekeeper

Ограничения и области развития

Как у любой технологии, у gatekeeper есть ограничения:

Качество резервных стратегий напрямую влияет на общую производительность. Плохо спроектированное резервное множество приведёт к чрезмерно консервативному поведению.

Проектирование резервных контроллеров требует экспертизы в конкретной области применения. Универсального подхода нет.

Размерность задачи влияет на сложность проверки безопасности. Хотя оптимизация происходит по одной переменной, проверка ограничений может быть дорогой в высокоразмерных системах.

Тем не менее, подход масштабируем и адаптируем к широкому классу задач.

Будущее автономных технологий с Gatekeeper

Взгляд в будущее

Gatekeeper представляет собой шаг к практичному автономному управлению. Это не очередная академическая выдумка, а рабочий инструмент для реальных систем.

Ключевые направления развития:

  • Автоматическое проектирование резервных множеств и контроллеров
  • Интеграция с системами машинного обучения
  • Адаптация к динамически изменяющимся ограничениям

Технологии должны работать не только в Silicon Valley, но и в сибирской тайге при -40°C. Gatekeeper делает шаг в этом направлении, предлагая безопасность без компромиссов в производительности.

Время игрушечных демонстраций прошло. Настало время технологий, которые работают в реальном мире, со всеми его ограничениями и неожиданностями.

Оригинальное название: Online Safety under Multiple Constraints and Input Bounds using gatekeeper: Theory and Applications
Дата публикации статьи: 13 авг 2025
Авторы оригинальной статьи : Devansh R. Agrawal, Dimitra Panagou
Предыдущая статья Как правительства играют в «добрый и злой полицейский» с деньгами налогоплательщиков Следующая статья Чёрные дыры Керра: скрытые симметрии космических танцовщиц

Связанные публикации

Вам может быть интересно

Войти в Лабораторию

Исследование не заканчивается одним экспериментом. Ниже – публикации, которые развивают похожие методы, вопросы или концепции.

Разбираем, как группа роботов может прийти к единому решению, когда датчики работают медленнее процессоров, а сигналы идут с задержками.

Доктор Алексей Петров 15 июл 2025

Новый подход объединяет радиолокацию и связь в автономных автомобилях, позволяя им одновременно сканировать дорогу и обмениваться данными через чирп-сигналы.

Доктор Алексей Петров 9 июн 2025

Новая технология речевых кодеков адаптирует частоту обработки под сложность сигнала, экономя ресурсы без потери качества звука.

Доктор Алексей Петров 21 июн 2025

От исследования к пониманию

Как создавался этот текст

Этот материал основан на реальном научном исследовании, а не сгенерирован «с нуля». В начале работы нейросети анализируют исходную публикацию: её цели, методы и выводы. Затем автор формирует связный текст, который сохраняет научный смысл, но переводит его из академического формата в ясное и читаемое изложение – без формул, но без потери точности.

Аналитическая жёсткость

90%

Применимость решений

93%

Устойчивость к хайпу

85%

Нейросети, участвовавшие в работе

Мы показываем, какие модели использовались на каждом этапе – от анализа исследования до редакторской проверки и создания иллюстрации. Каждая нейросеть выполняет свою роль: одни работают с источником, другие – с формулировками и структурой, третьи – с визуальным образом. Это позволяет сохранить прозрачность процесса и доверие к результату.

1.
GPT-5 OpenAI Резюмирование исследования Выделение ключевых идей и результатов

1. Резюмирование исследования

Выделение ключевых идей и результатов

GPT-5 OpenAI
2.
Claude Sonnet 4 Anthropic Создание текста на основе резюме Преобразование резюме в связное объяснение

2. Создание текста на основе резюме

Преобразование резюме в связное объяснение

Claude Sonnet 4 Anthropic
3.
Phoenix 1.0 Leonardo AI Создание иллюстрации Генерация изображения по подготовленному промпту

3. Создание иллюстрации

Генерация изображения по подготовленному промпту

Phoenix 1.0 Leonardo AI

Не пропустите ни одного эксперимента!

Подпишитесь на Telegram-канал –
там мы регулярно публикуем анонсы новых книг, статей и интервью.

Подписаться