Интеллектуальный хаб темы
Эта подборка объединяет исследования и аналитические материалы, посвященные устойчивости систем к внешним угрозам и внутренним структурным сбоям. Мы рассматриваем безопасность не как набор ограничений, а как фундаментальное условие развития технологий. В фокусе внимания – проблема согласования (alignment), где критически важно, чтобы сложные алгоритмы действовали в рамках заданных человеческих ценностей и не приводили к непредсказуемым последствиям.
НейроБлог
Искусственный интеллект • Будущее ИИ
Автономные системы становятся умнее, но кто несёт ответственность, когда машина принимает решение, о котором никто не просил и которое никто не ожидал?
Лаборатория
Компьютерная наука
Разбираемся, как технология ключей доступа FIDO2 защищает от фишинга, почему она надёжнее паролей и при каких условиях её всё же можно обойти.
Лаборатория
Компьютерная наука
Исследователи создали систему для автоматической проверки уязвимостей языковых моделей – и выяснили, что ни одна из девяти протестированных нейросетей не устояла перед умной атакой.
Лаборатория
Математика и статистика
Математики обнаружили, что стандартный инструмент оценки редких событий «ломается» там, где распределения уходят в бесконечность, и это меняет многое.
ИИ: События
Общество
Исследователи выяснили, как именно в ChatGPT закладываются ограничения, и почему это сложнее, чем просто список запрещённых тем.
Лаборатория
Компьютерная наука
Разбираемся, как метод «маркировки Гумбеля» позволяет встраивать в текст ИИ невидимый след – и почему его так непросто найти.
ИИ: События
Безопасность
Формат Safetensors официально принят под крыло PyTorch Foundation – это меняет подход к распространению весов моделей и защите агентных систем.
OpenAI открывает стипендиальную программу для поддержки независимых учёных, занимающихся безопасностью и согласованностью ИИ-систем.
ИИ: События
Технический контекст • Инфраструктура
Alibaba объединила два своих открытых проекта – HiClaw и CoPaw – под зонтиком фреймворка AgentScope, чтобы совместно развивать инфраструктуру для многоагентных систем.
Хотите знать о новых
экспериментах первыми?
Подписывайтесь на наш Telegram-канал – там мы делимся всем самым
свежим и интересным из мира NeuraBooks.