Не каждый AI-проект добирается до главной сцены NVIDIA GTC. SGLang добрался. Причём не в одном формате, а сразу в пяти: панельная дискуссия, обучающая лаборатория, неформальный вечер с коллегами по индустрии, митап на 200 человек и – отдельный повод для гордости – упоминание в ключевом докладе Дженсена Хуанга.
Если вы следите за тем, как формируется инфраструктура для работы с большими языковыми моделями, происходящее на GTC 2026 стоит знать. Это не просто отчёт о конференции – это срез того, в каком направлении движется вся отрасль.
На главной сцене: от слайда в кейноуте до панельной дискуссии
Во время ключевого доклада Дженсена Хуанга на экране появился слайд с экосистемой NVIDIA AI – и среди компонентов этой экосистемы оказался SGLang. Для open-source проекта попасть в такой список – весомый сигнал: это означает признание на уровне платформы, а не просто симпатию со стороны отдельных инженеров.
Чуть позже, во вторник, Ин Шэн – один из ключевых участников команды SGLang – вышла на сцену в рамках панельной дискуссии «Состояние открытого ИИ». Рядом с ней сидели представители NVIDIA, Калифорнийского университета в Беркли, Hugging Face и Ai2. Разговор шёл о том, как open-source-экосистема превращается из экспериментального пространства в настоящий производственный фундамент: надёжный, воспроизводимый и пригодный для развёртывания в реальных системах.
Если коротко: открытый ИИ перестал быть альтернативой «для тех, кто не может позволить себе проприетарные решения» – он стал основным инструментом исследований и внедрений.
Практика в четверг утром: лаборатория по производительности
В четверг команда RadixArk провела официальную обучающую лабораторию в рамках GTC – «Высокопроизводительное обслуживание и обучение LLM с SGLang». Это был не доклад, а именно практическое занятие.
Три темы лаборатории охватывали разные стороны работы с языковыми моделями в реальных условиях:
- Настройка производительности при обслуживании запросов – как сократить время ответа и увеличить пропускную способность системы;
- Поиск узких мест – методичный разбор того, где и почему системы «тормозят»;
- Интеграция SGLang с фреймворком Miles для обучения с подкреплением – с живой демонстрацией того, как SGLang работает внутри реального цикла обучения модели.
Последний пункт заслуживает отдельного внимания. Miles – это фреймворк для так называемого RL-обучения (обучения с подкреплением), разработанный специально под нужды крупных моделей смешанных экспертов. Проще говоря, это инструмент для того, чтобы «дообучать» большие модели после их первоначального создания – и делать это эффективно, без лишних накладных расходов.
Вечер с теми, кто строит инфраструктуру
Во вторник вечером SGLang и RadixArk провели совместный неформальный ужин для участников конференции. Пришли инженеры и исследователи из OpenAI, xAI, DeepMind, Meta, NVIDIA, Ollama и других команд.
На вечере прозвучало два технических выступления. Банхуа Чжу из RadixArk рассказал про Miles – уже упомянутый фреймворк для RL-обучения. Джейсон Чжао из ScitiX представил SiMM – open-source движок для хранения так называемого KV-кеша прямо в оперативной памяти. Если объяснять без терминологии: это способ ускорить работу с длинными текстами, не теряя контекст между запросами.
Параллельно Банхуа Чжу выступил на отдельном мероприятии Novita, где собралось более 700 участников. Там разговор шёл о более широких тенденциях: об удешевлении инференса (то есть стоимости работы модели в реальном времени), об агентных системах – когда ИИ не просто отвечает на вопросы, а выполняет многошаговые задачи – и о том, что нужно, чтобы AI-продукты приносили реальную пользу, а не просто впечатляли на демо.
Митап на 200 человек: LLM в поиске и рекомендациях
В среду вечером в штаб-квартире LinkedIn в Маунтин-Вью прошёл митап, на который пришло около 200 инженеров. Это, пожалуй, самое насыщенное мероприятие недели – и по содержанию, и по составу участников.
Что показала команда LinkedIn
LinkedIn открыл вечер тремя инженерными докладами. Один из них был особенно показательным: команда рассказала о том, как они реализовали режим обслуживания запросов, ориентированный только на этап предобработки входных данных – и получили рост пропускной способности в 2–3 раза на видеокартах H100. Это улучшение впоследствии было передано обратно в основной SGLang – то есть теперь им могут воспользоваться все.
Это хорошая иллюстрация того, как устроено сотрудничество в open-source: крупная компания улучшает инструмент под свои нужды – и возвращает улучшение сообществу.
Дорожная карта SGLang и фреймворк Miles
Разработчик SGLang Лянчэн Инь представил дорожную карту проекта на первую половину 2026 года.
Следом Мао Чэн детально рассмотрел Miles – фреймворк для RL-обучения. Центральная проблема, которую он решает: модель ведёт себя по-разному во время обучения и во время реальной работы. Miles устраняет это несоответствие через несколько механизмов, включая технику Rollout Routing Replay (R3) – способ повторно использовать уже сгенерированные данные обучения, не теряя их ценность.
Отраслевые доклады и дискуссия
Представители TikTok рассказали о поиске на основе LLM в промышленных масштабах. Команда Meta поделилась работой над системой ранжирования с использованием генеративного рассуждения. NVIDIA представила связку Dynamo и NeMoRL – инструментов для управления вычислительными нагрузками и RL-обучения.
Завершающая панельная дискуссия охватила целый спектр вопросов: как лучше искать по смыслу – через семантические идентификаторы или через векторные представления; готовы ли объединённые системы поиска и ранжирования к промышленному применению; как непрерывное обучение меняет рекомендательные системы.
Что всё это говорит о направлении развития
GTC 2026 дал довольно чёткую картину: производственные команды из крупных технологических компаний всё активнее строят свои системы поверх открытой инфраструктуры. SGLang в этом контексте позиционируется не просто как библиотека, а как общий слой, на который опираются самые разные задачи – от поиска и рекомендаций до обучения с подкреплением и агентных систем.
То, что LinkedIn отдал свои улучшения обратно в проект, а сама команда SGLang представила публичную дорожную карту – это признаки зрелости экосистемы. Открытый ИИ больше не догоняет – он задаёт темп.
