Интеллектуальный хаб темы
Эта подборка объединяет исследования и аналитические материалы, посвященные устойчивости систем к внешним угрозам и внутренним структурным сбоям. Мы рассматриваем безопасность не как набор ограничений, а как фундаментальное условие развития технологий. В фокусе внимания – проблема согласования (alignment), где критически важно, чтобы сложные алгоритмы действовали в рамках заданных человеческих ценностей и не приводили к непредсказуемым последствиям.
OpenAI выяснила, что современные модели ИИ с трудом контролируют собственный процесс мышления – и это может быть важной защитой от манипуляций.
OpenAI опубликовала системную карточку GPT-5.4 Thinking – документ, объясняющий принципы работы, ограничения и уровень безопасности новой модели.
OpenAI представила GPT-5.3 Instant – облегчённую модель с акцентом на скорость и доступность, сохраняющую баланс между производительностью и безопасностью.
Лаборатория
Биология и нейробиология
Математическая модель лихорадки денге, учитывающая возраст и вакцинацию, является инструментом, способным предсказать долгосрочное поведение болезни.
ИИ: События
Технический контекст • Безопасность
Разбираемся, как устроена защита MCP-серверов и клиентов, и почему правильно настроенный контроль доступа важен для любых агентных систем.
LightOn выпустила открытый бенчмарк EDiTh, позволяющий тестировать корпоративный поиск на реалистичных документах без риска утечки конфиденциальных данных.
Не пропустите ни одного эксперимента!
Подпишитесь на Telegram-канал –
там мы регулярно публикуем анонсы новых книг, статей и интервью.