ИИ пишет за нас – и мы этого не замечаем

Вы получаете сообщение от коллеги, друга или незнакомого человека в интернете. Текст вежливый, по делу, без странностей. Вы отвечаете – и даже не задумываетесь о том, кто или что его написало. Согласно новому исследованию Мичиганского университета, именно так и происходит в большинстве случаев: люди практически не замечают, когда общаются не с человеком, а с текстом, сгенерированным ИИ.

Почему мы не распознаем текст, написанный ИИ

Мы думаем, что распознаём – но нет

Интуитивно кажется, что отличить «живой» текст от машинного несложно. Многие уверены, что почувствуют что-то неестественное – слишком гладкое, слишком правильное, слишком безликое. Но эксперименты показывают обратное.

Исследователи проверяли, способны ли люди определить происхождение текста в реальных сценариях повседневного общения: переписка, короткие сообщения, типичные бытовые реплики. Результат оказался весьма красноречивым – участники крайне редко подозревали, что читают текст, написанный искусственным интеллектом. Проще говоря, ИИ вписывается в обычный разговор почти незаметно.

При этом дело не в том, что люди невнимательны или некритичны. Скорее всего, проблема в другом: у нас просто нет устойчивого представления о том, как «выглядит» текст от ИИ. Мы ищем роботизированность там, где её уже нет.

Современные ИИ пишут как люди: в чем проблема

Современные модели пишут как люди – это и есть суть проблемы

Ещё несколько лет назад сгенерированный текст действительно выдавал себя: странные обороты, механические повторы, ощущение «переведено с инопланетного». Сегодня всё иначе. Современные языковые модели обучены на огромных массивах человеческой речи – и они воспроизводят её стиль, интонацию и даже мелкие неровности достаточно убедительно.

В бытовой переписке это особенно заметно. Когда сообщение короткое и нейтральное – «окей, договорились», «посмотрю завтра», «спасибо, понял» – у читателя просто нет зацепок. Текст не несёт ничего подозрительного, и мозг автоматически атрибутирует его человеку.

Это не баг и не случайность – это прямое следствие того, как работают современные системы генерации текста. Они оптимизированы под естественность. И они в этом преуспели.

Зачем различать текст ИИ и человека

Почему это важно за пределами лаборатории

Можно возразить: ну и что? Если текст по делу и никого не обидел – какая разница, кто его написал? Это разумный вопрос, и у него нет простого ответа.

С одной стороны, использование ИИ в переписке – уже обычная практика. Люди просят модели помочь сформулировать письмо, сгладить конфликтный тон или просто сэкономить время. В этом смысле ИИ становится чем-то вроде умного редактора – инструментом, а не подменой личности.

С другой стороны, если собеседник не может отличить живого человека от автоматического ответа, это меняет саму природу коммуникации. Доверие в переписке традиционно строилось на предположении, что за словами стоит конкретный человек с намерениями, настроением и ответственностью. Если это предположение больше нельзя считать надёжным – это уже не технический вопрос, а вполне человеческий.

Исследователи не утверждают, что ИИ в переписке – это однозначно плохо. Но они обращают внимание на то, что массовая незаметность таких текстов создаёт среду, в которой граница между «написал человек» и «написал алгоритм» постепенно стирается – и большинство людей этого просто не осознаёт.

Как понять, что написал ИИ: решения для распознавания

Что с этим делать – пока неясно

Одно из направлений, которое активно обсуждается в исследовательском сообществе, – это так называемая «разметка» контента, созданного ИИ: технические метки, watermark-сигналы, встроенные в текст незаметно для читателя, но различимые для специальных инструментов. Идея рабочая, но с существенными оговорками – такие метки можно обойти, а универсального стандарта пока нет.

Другой подход – повышение «ИИ-грамотности» пользователей: учить людей задавать себе вопрос о происхождении текста, обращать внимание на контекст, не принимать коммуникацию как само собой разумеющееся. Звучит разумно, но на практике работает хуже, чем хотелось бы, – особенно в ситуациях, когда человек устал, занят или просто не ожидает подвоха.

Пока что исследование фиксирует скорее диагноз, чем рецепт: мы живём в коммуникационной среде, где ИИ уже стал почти невидимым участником разговора. И большинство из нас об этом не подозревает – не потому что наивны, а потому что у нас пока нет инструментов, чтобы это замечать.

Ирония исследования об ИИ в тексте

Маленькая ирония напоследок

Авторы исследования сопроводили свою публикацию ироничной ремаркой: пресс-релиз был написан без использования искусственного интеллекта. И даже если бы это было не так – вы бы, скорее всего, не заподозрили.

Это, пожалуй, лучшая иллюстрация к самому исследованию.