Прекогниция по-цифровому: Как алгоритмы создают иллюзию предсказания преступлений

Представьте: утро понедельника, оперативное совещание в полицейском участке. Офицеры смотрят на экран, где карта города подсвечена красными зонами – «горячими точками», где в ближайшие 24 часа с наибольшей вероятностью произойдут преступления. Звучит как научная фантастика в духе «Особого мнения» Спилберга? Отнюдь. Это реальность 2025 года, где предиктивная полицейская аналитика становится обыденностью.

Но давайте задумаемся – действительно ли алгоритмы могут предсказывать преступления? И если да, то какую цену мы платим за эту технологическую «прекогницию»?

Эксперимент с предсказуемостью

Прошлой осенью я провел небольшой эксперимент со своими подписчиками. Предложил им псевдо-психологический тест, который якобы определяет их склонность к противоправным действиям в стрессовых ситуациях. Тест включал 20 вопросов, от безобидных («Как часто вы нарушаете правила дорожного движения?») до более серьезных («Считаете ли вы, что некоторые законы можно игнорировать, если они кажутся вам несправедливыми?»).

После ответов на все вопросы система выдавала участникам «оценку риска» – процент вероятности совершения правонарушения в течение следующего года. 73% участников оценили результат как «очень точный» или «скорее точный».

Вот только никакого настоящего алгоритма не было. Система генерировала случайное число от 12% до 37% для каждого участника, независимо от их ответов.

Этот простой эксперимент демонстрирует то, что я называю «эффектом цифрового оракула» – нашу удивительную готовность доверять компьютерным системам принимать решения и делать предсказания, особенно когда они облачены в наукообразную форму.

Как работают системы предсказания преступлений

Существует два основных подхода к алгоритмическому «предсказанию» преступлений:

1. Географическое прогнозирование

Эти системы анализируют исторические данные о преступлениях, выявляют закономерности и предсказывают, где и когда вероятно совершение новых правонарушений. Популярные программы вроде PredPol и HunchLab используют вариации этого подхода.

Звучит разумно, не так ли? Если в определенном районе по пятницам вечером регулярно происходят уличные грабежи, логично предположить, что эта тенденция продолжится.

Но мой любимый когнитивный психолог Даниэль Канеман напомнил бы нам, что люди (и программы, созданные людьми) склонны видеть закономерности там, где их нет. Мы плохо обрабатываем случайность. Если преступления кластеризуются в пространстве и времени, это может быть как настоящей закономерностью, так и проявлением случайности.

2. Оценка индивидуального риска

Более противоречивый подход – алгоритмы, оценивающие вероятность того, что конкретный человек совершит преступление. Такие системы используются в некоторых штатах США для определения условий освобождения под залог, досрочного освобождения и вынесения приговоров.

В основе таких алгоритмов лежит идея, что можно выявить «факторы риска», коррелирующие с вероятностью совершения преступления в будущем. Они могут включать:

• Криминальную историю
• Возраст первого ареста
• Семейное положение
• Образование и трудовую занятость
• Район проживания
• История употребления наркотиков
• И многие другие факторы

Когнитивные искажения, которые нас обманывают

Эффект черного ящика: непонятное = магическое

Большинство алгоритмов предсказания преступлений работают как «черные ящики» – мы видим входные данные и результат, но внутренний процесс принятия решений скрыт от нас. Эта непрозрачность парадоксальным образом повышает наше доверие к системе.

В одном исследовании психологи показывали участникам идентичные медицинские диагнозы, но одной группе говорили, что диагноз поставил врач, а другой – что его поставил алгоритм с «нейронными сетями и машинным обучением». Участники из второй группы оценивали точность диагноза выше, хотя не имели представления, что на самом деле означают эти термины.

То же самое происходит с алгоритмами предсказания преступлений. Полицейские, судьи и присяжные склонны переоценивать их точность просто потому, что они не понимают, как именно работает алгоритм.

Эффект подтверждения: самоисполняющиеся пророчества

Представьте, что алгоритм определил район как «горячую точку» потенциальных преступлений. Полиция направляет туда дополнительные патрули. Больше полицейских – больше выявленных правонарушений. В результате в базе данных появляется больше инцидентов, связанных с этим районом, что подтверждает первоначальный прогноз алгоритма.

Это классический пример самоисполняющегося пророчества. Алгоритм кажется точным не потому, что хорошо предсказывает будущее, а потому что его предсказания меняют поведение полиции, что, в свою очередь, влияет на регистрируемую статистику.

Я недавно беседовал с офицером полиции, который с энтузиазмом рассказывал о системе предсказания преступлений, внедренной в их департаменте. «Она работает как часы! – говорил он. – В 80% случаев, когда система предсказывает всплеск активности в районе, мы действительно фиксируем там больше арестов».

Я спросил его: «А вы отправляете больше патрулей в эти районы после получения прогноза?»

«Конечно, – ответил он. – Было бы глупо не использовать эту информацию».

Он не увидел логического круга в своем рассуждении.

Эффект очевидности задним числом: мы всегда «знали» это

Когда преступление происходит там, где предсказал алгоритм, мы говорим: «Система работает!» Когда преступление происходит в другом месте, мы быстро забываем о неточности прогноза.

Это когнитивное искажение называется «эффектом очевидности задним числом» или «я так и знал». После того как событие произошло, мы склонны переоценивать, насколько предсказуемым оно было. Успехи алгоритма запоминаются, а ошибки – забываются.

В одном эксперименте психологи показывали испытуемым описания реальных уголовных дел, не сообщая им исхода. Участники должны были предсказать, будет ли обвиняемый признан виновным. Точность предсказаний составила около 60%. Но когда их позже спрашивали, насколько уверенными они были в своих прогнозах, большинство значительно переоценивали свою точность, особенно для тех дел, где их прогноз оказался верным.

С алгоритмическими предсказаниями происходит то же самое – мы запоминаем попадания и забываем промахи.

Цена предсказания: этические дилеммы

Проблема предубеждений: алгоритмы впитывают наши предрассудки

В 2016 году журналисты ProPublica проанализировали данные системы COMPAS, используемой судами США для оценки риска рецидивизма. Они обнаружили, что алгоритм ошибочно помечал чернокожих преступников как «высокорисковых» почти в два раза чаще, чем белых.

Это не потому, что алгоритм был намеренно расистским. Проблема в данных, на которых он обучался. Если исторически полицейская система демонстрировала предвзятость (например, чаще останавливали и арестовывали представителей меньшинств за одинаковые правонарушения), то эти предубеждения становятся частью обучающих данных и воспроизводятся алгоритмом.

Недавно я провел небольшой эксперимент с группой программистов. Дал им одинаковые наборы данных о преступлениях и попросил создать алгоритм предсказания. Интересно, что все они объявили свои алгоритмы «объективными» и «свободными от предубеждений», но при этом получили совершенно разные результаты в зависимости от того, какие переменные они считали значимыми и как интерпретировали данные.

Урок прост: алгоритмы не нейтральны. Они всегда отражают ценности, приоритеты и предубеждения своих создателей.

Проблема презумпции: наказание за то, чего не было

Есть что-то глубоко тревожное в идее наказания людей за преступления, которые они еще не совершили. Это переворачивает фундаментальный юридический принцип «презумпции невиновности».

В некоторых юрисдикциях США информация из алгоритмов оценки риска используется при вынесении приговоров. Если система пометила вас как «высокорискового», вы можете получить более суровый приговор – не за то, что вы сделали, а за то, что, по мнению алгоритма, вы можете сделать в будущем.

Однажды я присутствовал на заседании, где судья, опираясь на балл риска из алгоритмической системы, отказал обвиняемому в освобождении под залог. Когда адвокат попытался оспорить это решение, судья развел руками: «Цифры не лгут».

Но цифры не лгут только если мы правильно их интерпретируем и понимаем их ограничения.

Реальность точности: что говорят исследования

Насколько на самом деле точны системы предсказания преступлений? Ответ сложнее, чем вы думаете.

Исследования показывают, что географические системы прогнозирования могут быть на 10-20% точнее случайного распределения полицейских ресурсов. Это заметное улучшение, но далеко от «прекогниции» из научной фантастики.

С индивидуальными оценками ситуация еще сложнее. Метаанализ 2018 года показал, что популярные алгоритмы оценки риска правильно идентифицируют будущих рецидивистов примерно в 65% случаев. Это лучше, чем случайное угадывание (50%), но означает, что система ошибается более чем в трети случаев.

Представьте, что вы садитесь в самолет, и пилот объявляет: «Добрый день! Вероятность того, что мы долетим до пункта назначения без катастрофы, составляет 65%». Вы бы остались на борту?

Разумный подход: как использовать алгоритмы без фанатизма

Я не предлагаю полностью отказаться от алгоритмического прогнозирования. Эти инструменты могут быть ценными, если мы используем их с пониманием их ограничений.

1. Прозрачность превыше всего

Алгоритмы, используемые в уголовном правосудии, должны быть открытыми для проверки. Никаких «черных ящиков» в системах, от которых зависят судьбы людей.

2. Алгоритмы как советники, а не судьи

Технология должна дополнять человеческое суждение, а не заменять его. Предсказания алгоритмов следует рассматривать как один из факторов при принятии решений, а не как окончательный вердикт.

3. Постоянный мониторинг на предвзятость

Системы должны регулярно проверяться на предмет скрытых предубеждений, особенно в отношении защищенных групп населения.

4. Информированное согласие

Общество должно быть в курсе, как и где используются такие технологии. Граждане имеют право знать, что алгоритм оценивает их поведение и потенциально влияет на решения правоохранительных органов.

5. Признание ограничений

Мы должны открыто признавать, что даже самые продвинутые алгоритмы имеют ограниченную точность и не способны учесть всю сложность человеческого поведения.

Смирение перед неопределенностью

Наш мозг жаждет определенности. Мы предпочитаем конкретный, пусть даже ошибочный ответ, неопределенности. Именно поэтому идея алгоритмического предсказания преступлений так привлекательна – она создает иллюзию контроля над хаотичным миром.

Но настоящая мудрость заключается в признании границ нашего знания. Человеческое поведение слишком сложно, чтобы его можно было полностью алгоритмизировать. Люди меняются, принимают неожиданные решения, преодолевают обстоятельства вопреки всем предсказаниям.

В одном из моих экспериментов я просил участников оценить – насколько предсказуемыми они считают собственные решения? В среднем люди оценивали предсказуемость своих действий на 81%. Но когда я просил их предсказать, как они поступят в конкретных ситуациях через неделю, а затем сравнивал с их реальными действиями, совпадение составляло лишь около 62%.

Мы часто переоцениваем предсказуемость даже собственного поведения, не говоря уже о поведении других людей.

Заключение: выбор общества, которое мы хотим построить

Может ли алгоритм предсказать преступление? В ограниченном смысле – да. Он может выявить закономерности и корреляции, которые повышают вероятность правильного прогноза. Но абсолютной уверенности он дать не может.

Более важный вопрос – хотим ли мы жить в обществе, где алгоритмы оценивают нашу склонность к преступлениям? Где система правосудия выносит приговоры на основании того, что мы можем (но не обязательно будем) делать в будущем?

Это не технологический вопрос. Это вопрос о том, какие ценности мы хотим положить в основу нашего общества – детерминизм или свободу воли, эффективность или справедливость, контроль или доверие.

Ваш мозг жаждет определенности и предсказуемости. Но иногда важнее признать границы нашего знания и сохранить пространство для человеческой неопределённости, спонтанности и возможности измениться.