Большинство мощных языковых моделей размещаются в облаке: они запускаются на серверах, потребляют огромные ресурсы и требуют постоянного интернет-соединения. Но компания Liquid AI решила пойти немного другим путём – создать модель, которая была бы одновременно достаточно мощной и эффективной, чтобы работать прямо на устройстве пользователя.
Результат этой работы – LFM2-24B, новая языковая модель с 24 миллиардами параметров. Это крупнейшая модель в линейке LFM2 от Liquid AI, и она уже доступна через облачные сервисы партнёров компании, а также в виде локальной версии для так называемых AI PC – персональных компьютеров с аппаратной поддержкой задач искусственного интеллекта.
Если вы хоть немного следите за новостями об ИИ, то наверняка слышали слово «трансформер» – это архитектура, на которой построено большинство современных языковых моделей, включая GPT, Claude и многие другие. Liquid AI пошла другим путём: их модели семейства LFM2 построены на собственной архитектуре, которая иначе обрабатывает информацию.
Проще говоря, классический трансформер при обработке длинных текстов «держит в голове» всё, что видел раньше, – и это требует всё больше памяти по мере роста объёма текста. Архитектура Liquid устроена иначе: она более компактно хранит контекст, что позволяет работать быстрее и с меньшими затратами ресурсов – без значительной потери качества.
Именно поэтому модель с 24 миллиардами параметров может запускаться не только на дата-центрах, но и на современных потребительских устройствах.
Вместе с LFM2-24B компания представила ещё одну модель – LFM2-A2B. Это так называемая модель Mixture-of-Experts с активными 2 миллиардами параметров. Звучит сложно, но идея простая: вместо того чтобы задействовать всю «мощность» модели при каждом запросе, она активирует только нужную её часть. Это делает модель очень быстрой и лёгкой – при этом она вполне конкурентоспособна по качеству с более тяжёлыми аналогами.
LFM2-A2B ориентирована прежде всего на сценарии, где важна скорость и низкое потребление ресурсов: встроенные помощники, мобильные приложения, инструменты, работающие прямо на устройстве без обращения к серверу.
От облака до ноутбука – буквально
Один из ключевых тезисов Liquid AI при запуске LFM2-24B – это готовность модели к работе на AI PC. Речь идёт о новом классе персональных компьютеров, которые оснащены специализированными чипами для ускорения ИИ-вычислений – такие устройства сейчас активно продвигают Intel, AMD и Qualcomm.
Идея в том, что пользователь может запустить достаточно мощную языковую модель локально – без отправки данных в облако, без зависимости от интернета и без абонентской платы за API. Для ряда задач, особенно связанных с конфиденциальными данными или работой в офлайне, это может быть принципиально важно.
LFM2-24B стала первой моделью Liquid AI, сертифицированной для платформы Intel AI PC. Это не просто маркетинговый ярлык: сертификация означает, что модель протестирована и оптимизирована для работы на конкретном оборудовании.
Партнёры и экосистема
Liquid AI делает ставку не только на технологию, но и на партнёрскую сеть. LFM2-24B доступна через несколько облачных платформ, в числе которых – Cloudflare Workers AI и OctoAI. Это означает, что разработчики могут подключиться к модели через привычные инструменты, не разворачивая собственную инфраструктуру.
Параллельно компания работает с производителями оборудования – в частности, с Intel – чтобы обеспечить корректную и эффективную работу моделей на потребительских устройствах. Такой подход «облако плюс локальное устройство» становится всё более распространённым в индустрии: он позволяет гибко выбирать, где именно запускать модель – в зависимости от задачи, требований к приватности и доступных ресурсов.
Насколько хорошо это работает?
По данным самой Liquid AI, LFM2-24B показывает результаты, сопоставимые с моделями значительно большего размера – в частности, компания сравнивает её с моделями в диапазоне 70–72 миллиарда параметров по ряду задач. Это довольно смелое заявление, и к подобным сравнениям всегда стоит относиться с осторожностью: бенчмарки – не универсальный инструмент, и реальная полезность модели зависит от конкретного сценария использования.
Тем не менее сама по себе идея – создать модель, которая «весит» в три раза меньше, но при этом не уступает более тяжёлым аналогам – это именно то направление, в котором движется индустрия. Эффективность становится не менее важным показателем, чем абсолютное качество.
Что это значит на практике
Если отвлечься от технических деталей, суть происходящего довольно проста: Liquid AI предлагает языковую модель, которая достаточно мощная для серьёзных задач и достаточно лёгкая, чтобы работать прямо на вашем компьютере – без облака и без огромных вычислительных затрат.
Для обычного пользователя это пока скорее перспектива, чем повседневная реальность: AI PC только начинают входить в массовый рынок, и запустить 24-миллиардную модель на ноутбуке – всё ещё задача не для любого оборудования. Но направление очевидно: ИИ-инструменты постепенно перемещаются ближе к пользователю – на устройство, а не в дата-центр.
Для разработчиков и компаний, которые уже работают с языковыми моделями, появление LFM2-24B – это ещё один вариант в арсенале: эффективная, хорошо задокументированная модель с возможностью как облачного, так и локального развёртывания.
