Интеллектуальный хаб темы
Google DeepMind изучила, как ИИ способен влиять на решения людей в уязвимых ситуациях, и разработала меры защиты от манипуляций.
ИИ: События
Технический контекст • Инфраструктура
Разработчики SGLang представили механизм, позволяющий сохранять работоспособность системы при частичных сбоях в крупных GPU-кластерах.
OpenAI предлагает исследователям вознаграждение за поиск способов злоупотребления ИИ – от атак на агентные системы до утечки данных через манипуляции с подсказками.
OpenAI подробно рассказала о Model Spec – внутреннем своде правил, который определяет поведение ИИ-моделей и устанавливает баланс между безопасностью и свободой пользователя.
Разбираем, где и как злоумышленники могут атаковать ИИ-модели – от этапа обучения до развёртывания в продакшене.
Почему новый конкурентный барьер в мире ИИ – это не алгоритмы и не данные, а умение грамотно выстраивать системы управления агентами.
Higress принят в CNCF как Sandbox-проект – открытый AI-шлюз, который управляет трафиком, обеспечивает безопасность и мониторинг моделей.
ИИ: События
Технический контекст • Разработка
Инженеры AI21 несколько недель охотились за мистическими сбоями при обучении модели и нашли причину в двух символах кода на уровне GPU.
ИИ: События
Безопасность
OpenAI выпустила набор готовых политик безопасности с открытым исходным кодом, которые помогают разработчикам защищать подростков от опасного контента в ИИ-приложениях.
Хотите знать о новых
экспериментах первыми?
Подписывайтесь на наш Telegram-канал – там мы делимся всем самым
свежим и интересным из мира NeuraBooks.