Anthropic запускает институт для изучения последствий создания мощного ИИ

За пять лет, прошедших с момента основания Anthropic, технологии ИИ прошли путь, который раньше занял бы десятилетия. Первые два года компания посвятила разработке своей дебютной коммерческой модели. А спустя еще три года ее системы уже способны выявлять серьезные уязвимости в программном обеспечении, выполнять широкий спектр прикладных рабочих задач и даже ускорять создание новых версий нейросетей. Проще говоря: темп только нарастает.

На этом фоне Anthropic объявила о запуске нового структурного подразделения – Anthropic Institute. Его задача – не разработка новых моделей, а анализ процессов, происходящих в обществе по мере того, как технологии становятся всё мощнее.

Цели создания Anthropic Institute и актуальность исследований ИИ

Зачем это нужно прямо сейчас

В компании убеждены: мощные ИИ-системы появятся значительно раньше, чем ожидает большинство. А это значит, что вопросы, которые сейчас кажутся отвлеченными и теоретическими, скоро станут предельно конкретными.

Как изменится рынок труда, когда ИИ сможет выполнять большую часть офисной работы? Кто и как должен определять ценности, закладываемые в системы, от которых будут зависеть миллионы решений? Что произойдет, если ИИ начнет самостоятельно улучшать себя, и кто должен быть об этом осведомлен?

Именно такими вопросами займется Anthropic Institute. Его цель – делиться с широкой аудиторией знаниями, полученными в процессе разработки передовых систем, и искать пути минимизации рисков, которые несет в себе эта технология.

Структура и основные исследовательские направления института

Что внутри: три команды под одной крышей

Институт объединил три существующих исследовательских направления Anthropic.

Первое – так называемая «красная команда» (Frontier Red Team), которая тестирует модели на пределе их возможностей: выявляет потенциальные сбои и оценивает риски в опасных областях.

Второе – группа социальных исследований (Societal Impacts), изучающая реальное использование ИИ в повседневной жизни и различных отраслях.

Третье – команда экономических исследований (Economic Research), отслеживающая влияние ИИ на занятость и экономику в целом.

Помимо этого, институт планирует запустить новые направления – в частности, по прогнозированию развития ИИ и изучению взаимодействия мощных систем с правовой средой.

Руководство и ключевые эксперты Anthropic Institute

Кто возглавит и кто уже в команде

Институт возглавил сооснователь Anthropic Джек Кларк, занявший пост директора по общественному благу. Это символичное назначение: один из архитекторов компании лично берется за тему, выходящую далеко за рамки коммерческой разработки.

Среди первых сотрудников – специалисты с серьезным академическим бэкграундом. Мэтт Ботвиник, ранее работавший в Google DeepMind и преподававший в Принстоне, займется темой ИИ и верховенства закона. Антон Коринек, экономист из Университета Вирджинии, сосредоточится на том, как трансформативный ИИ может переосмыслить природу экономической деятельности. Зоуи Хитциг, изучавшая социальные и экономические последствия ИИ в OpenAI, будет отвечать за связь между экономическими исследованиями и процессом обучения моделей.

Формат взаимодействия института с обществом и индустрией

Диалог, а не монолог

Важная деталь: институт позиционируется как площадка с «двусторонним движением». Команда намерена не просто публиковать отчеты, но и напрямую работать с людьми и отраслями, которых изменения затронут в первую очередь – с теми, кто ощущает давление перемен, но пока не знает, как на них реагировать.

Это отличает Anthropic Institute от типичного корпоративного аналитического центра, чья деятельность часто сводится к выпуску докладов для узкого круга экспертов. Здесь заявлена более прямая связь между практическими выводами института и решениями самой компании.

Развитие подразделения по публичной политике и регуляторным вопросам

Параллельно: расширение команды по публичной политике

Одновременно с анонсом института Anthropic объявила о расширении подразделения по публичной политике. Компания открывает первый офис в Вашингтоне и наращивает присутствие в других странах. Эта команда занимается прикладными регуляторными вопросами: безопасностью моделей, энергетической инфраструктурой и экспортным контролем. Возглавит ее Сара Хек, ранее работавшая в Stripe и в Совете национальной безопасности Белого дома.

Если институт – это исследования и осмысление, то направление публичной политики – это непосредственное участие в формировании правил игры на государственном уровне.

Перспективы и вызовы в работе нового подразделения

Большой вопрос остается открытым

Запуск Anthropic Institute – это признание того, что технологии развиваются быстрее, чем общество успевает их осознать. И компания, создающая эти технологии, решила взять на себя часть ответственности за сокращение этого разрыва.

Насколько успешной окажется эта инициатива, покажет время. Пока перед институтом стоит задача редкой сложности: указывать на риски технологии, одновременно продолжая ее совершенствовать. Совместить эти роли без противоречий – само по себе нетривиальный вызов.