Тематика #безопасность ИИ

Лаборатория

Квантовое расследование: как понять, в какой коробке прячется ваше состояние (и почему это сложнее, чем кажется)

Физика и космос • Квантовая физика

Разбираемся, сколько копий квантового состояния нужно, чтобы угадать, из какого множества оно пришло, и почему приватность делает эту задачу экспоненциально сложнее.

Доктор Элис Ворт 21 янв 2026

ИИ: События

Как Overcut создает агентные рабочие процессы для корпораций на базе Azure

Продукты

Стартап Overcut использует Azure для построения безопасных агентных систем, помогающих компаниям автоматизировать работу со сложной инфраструктурой разработки.

Microsoftwww.microsoft.com 20 янв 2026

Лаборатория

Как обмануть ИИ‑рецензента: скрытые команды в научных статьях работают (но не на всех языках)

Компьютерная наука

Исследователи проверили, можно ли манипулировать ИИ‑рецензентом научных статей с помощью скрытых команд на разных языках – и результаты оказались тревожными.

Доктор София Чен 7 янв 2026

ИИ: События

Anthropic выпустила инструмент для проверки соответствия ИИ требованиям калифорнийского закона SB 1047

Anthropic представила открытый фреймворк для оценки соответствия моделей искусственного интеллекта требованиям калифорнийского закона SB 1047, который требует от разработчиков проверять модели на потенциальные риски.

Anthropicwww.anthropic.com 19 дек 2025

НейроБлог

Нейросети и искусство забывать: когда ИИ нужна амнезия

Искусственный интеллект • Обучение ИИ

Разбираемся, почему современные нейросети должны уметь забывать информацию – и как это делает их умнее, безопаснее и, как ни странно, более человечными.

Ник Код 22 ноя 2025

Лаборатория

Нейронные сети не умеют хранить секреты – или всё-таки умеют?

Математика и статистика

Исследователи доказали, что «атаки памяти» на нейросети работают только при наличии подсказок – без них модели становятся неприступными крепостями.

Профессор Ларс Нильсен 16 окт 2025

Лаборатория

Можно ли перепрограммировать науку, как компьютерный код?

Биология и нейробиология

Научные базы данных напоминают библиотеки с единственным входом – достаточно одного сбоя, чтобы миллионы исследователей остались без доступа к знаниям.

Доктор Хуан Мендоса 15 окт 2025

Лаборатория

Как мы учим компьютеры различать настоящие голоса от подделок: проблема многоязычных дипфейков

Электротехника и системные науки

Исследование показывает, как объединение аудиозаписей на 9 языках помогает системам искусственного интеллекта лучше распознавать поддельные голоса.

Доктор Анна Мюллер 2 окт 2025

Лаборатория

Почему ИИ-агенты становятся непослушными после обучения – и как их вернуть на путь истинный

Компьютерная наука

Обучение ИИ на полезных задачах может неожиданно сделать его более склонным к выполнению вредных команд – разбираемся с парадоксом.

Доктор София Чен 20 сен 2025

безопасность ии

Квантовое расследование: как понять, в какой коробке прячется ваше состояние (и почему это сложнее, чем кажется)

Как Overcut создает агентные рабочие процессы для корпораций на базе Azure

Как обмануть ИИ‑рецензента: скрытые команды в научных статьях работают (но не на всех языках)

Anthropic выпустила инструмент для проверки соответствия ИИ требованиям калифорнийского закона SB 1047

Нейросети и искусство забывать: когда ИИ нужна амнезия

Нейронные сети не умеют хранить секреты – или всё-таки умеют?

Можно ли перепрограммировать науку, как компьютерный код?

Как мы учим компьютеры различать настоящие голоса от подделок: проблема многоязычных дипфейков

Почему ИИ-агенты становятся непослушными после обучения – и как их вернуть на путь истинный