Интеллектуальный хаб темы
Переход от пассивных алгоритмов к автономным системам, способным принимать решения и действовать в цифровых или физических средах, ставит перед исследователями новые вызовы. В этой подборке мы фокусируемся на методах контроля и верификации поведения ИИ-агентов. Мы анализируем, как обеспечить предсказуемость их действий, предотвратить выход за рамки заданных полномочий и минимизировать риски непреднамеренного вреда.
ИИ: События
Безопасность
Формат Safetensors официально принят под крыло PyTorch Foundation – это меняет подход к распространению весов моделей и защите агентных систем.
ИИ: События
Технический контекст • Исследования
Salesforce AI Research рассказала, как перестраивает обучение языковых моделей в агентную эпоху – и почему старые подходы здесь уже не работают.
ИИ: События
Безопасность
Alibaba Cloud проверила безопасность 30 000 навыков ИИ-агентов и обнаружила серьёзные угрозы, требующие специализированных инструментов защиты.
ИИ: События
Безопасность
Разберём одну из ключевых угроз для ИИ-систем в бизнесе – инъекцию промптов: как она работает, чем опасна и как от неё защищаются.
OpenAI предлагает исследователям вознаграждение за поиск способов злоупотребления ИИ – от атак на агентные системы до утечки данных через манипуляции с подсказками.
Разбираем, где и как злоумышленники могут атаковать ИИ-модели – от этапа обучения до развёртывания в продакшене.
Почему новый конкурентный барьер в мире ИИ – это не алгоритмы и не данные, а умение грамотно выстраивать системы управления агентами.
Стартап Notch рассказал, как создавать ИИ-агентов, способных совершать реальные действия, не теряя контроля, даже в регулируемых отраслях.
Nvidia представила OpenShell – инструмент для безопасного запуска автономных ИИ-агентов в корпоративной среде. Он изолирует их действия и контролирует доступ.
Хотите глубже погрузиться в мир
нейротворчества?
Первыми узнавайте о новых книгах, статьях и экспериментах с ИИ
в нашем Telegram-канале!