Когда алгоритмы будут править миром?

Опубликовано: 16.11.2021

…Впрочем, процесс уже пошёл. Не заметили? Не совсем только ясно, много ли от этого мира останется нам, человекам.

Кажется, впервые это случилось в августе 2005-го, 4-го числа. Полиция Мемфиса, что в Теннесси (США), за три часа сделала столько арестов, что лишилась транспортных средств: всё было забито подозреваемыми в преступлениях, и на новые вызовы выезжать было не на чем. За три последующих дня было арестовано 1 200 человек… Это называется Crush (Criminal Reduction Utilising Statistical History, снижение уровня преступности с использованием статистической истории). Концепция очевидна: каждый зрячий участковый знает, что большинство рецидивистов, живущих на его территории, торгуют наркотиками, воруют, грабят и иными способами компенсируют отсутствие законных источников дохода. Однако когда статистику, показывающую те же очевидные факты, обрабатывают специально созданной для этого программой, вы внезапно прозреваете: ах, эти граждане в ближайшее время займутся неблаговидными делами. Причём статистика точно показывает даже то, в каких районах это произойдёт завтра, а в каких — послезавтра.

В Мемфисе использовали эту технику относительно успешно, и к 2011 году преступность в городе снизилась на четверть (всего за шесть лет!). С тех пор сходные методы предсказания пиков преступлений и групп, кои, скорее всего, склонны к их совершению, внедрили в Польше, Израиле, Великобритании и других странах. Изначальное же ПО для американского городка было создано «той самой» IBM — по алгоритмам, обкатанным в других отраслях и областях.

И сегодня таких «других отраслей и областей» довольно много. Скажем, однажды один отец пришел к разработчикам программы Target и заявил: «Моя дочь… ещё в средней школе, а вы посылаете ей скидочные купоны на ползунки и детские кроватки… Вы пытаетесь воодушевить её на беременность?!» Увы, воодушевлять было поздно. Target отслеживала покупки, сделанные по кредитной карточке, из чего следовало, что на третьем месяце беременности женщины обычно покупают неароматизированную парфюмерию в необычно больших количествах, а несколькими неделями позже — питание, богатое магнием, кальцием и цинком, а всего беременность выдаёт с головой потребление более чем двух дюжин товаров и продуктов, причём настолько точно, что можно предсказать даже дату родов.

Отец несовершеннолетней, понятное дело, ничего этого не знал. Но разговор с дочкой прояснил ему ситуацию, оттого впоследствии папаша даже поблагодарил менеджера за «предупреждение».

Этот пример из книги Виктора Майера-Шоненбергера (Viktor Mayer-Schönberger) показывает отрицательную сторону вмешательства алгоритмизированного массового анализа статистики в нашу жизнь. Но, увы, примерам таким несть числа. Часто можно услышать вопрос: чем PRISM и прочее опасно нормальному человеку, если известные мотто quis custodiet custodes и «Всех не перевешаете!» никто не отменял? Что толку «большим спецслужбам» собирать о нас данные, если их в таком объеме всё равно нельзя проанализировать?

Увы, автоматизированный анализ статистики по типу Crush позволяет довольно точно выбрать тех, за кем стóит следить, и даже примерно понять, когда именно такую слежку надо активизировать. Это не сработает, если вы террорист, ведь ваша психика неустойчива, а по вашим действиям нет массовых данных, — вспомните Бостон. Но вот если вы решили вступить в банду каких-нибудь викиликеров и прочих не шибко благонадёжных граждан мира, то вас уже можно «пасти» именно на этой основе.

Есть и другие примеры сомнительной моральной полезности массовой алгоритмизации земшара. Скажем, комиссии по условно-досрочному освобождению в большинстве штатов США используют предсказания склонности к преступлениям, основанные на Crush-технологиях, чтобы решить, выпускать человека или погодить. Если вы, к примеру, отпилили ручной пилой ногу сторожу магазина, а затем ограбили его, то вы вряд ли выйдете на свободу. Это скорее случится с человеком, сидящим за убийство по неосторожности.

Но всегда ли оправданы такие решения? Не ограничивают ли они свободу воли, человеческое достоинство и не отдают ли механистическим детерминизмом (простите за невольную марксистскую терминологию)? Не рановато ли человечеству писать вариации «Hello, World!», выводящие на экран «Мне отмщение» и «Аз воздам»?

Нет, уверяют нас некоторые. Человеческая деятельность часто более сводима к простым алгоритмам, чем вы думаете. В этом смысле примечательна история алгоритма Майка Маккриди (Mike McCready). Построенная на нём программа применяла продвинутую спектральную обратную свёртку для анализа того, насколько популярность поп-песни может быть связана с мелодией, темпом, гармонической прогрессией музыки и прочим. В итоге дебютные альбомы Норы Джонс и группы Maroon 5 ПО предсказало как «хитовые». Именно так и вышло, когда пластинки оказались в продаже.

Конечно, скажете вы, а как же иначе. Поп-музыка современности имеет примерно такое же отношение к творчеству, как выпуск сосисок, а потому предсказуема, словно «сюжет» порнофильма. Но проблема в том, что такими же нетворческими и механическими являются очень многие стороны нашей жизни. И прежде всего — экономика.

Общество, которое позволяет применять сходные алгоритмы для торговли на фондовом рынке и в развитии бизнеса, обречено на эффект св. Матфея: то есть верхний 1% станет ещё богаче, а нижние 90% ещё беднее, причём социальные лифты в такой схеме будут подавлены, ибо нижние проценты будут иметь почти нулевой доступ к эффективным алгоритмам и ПО a propos.

С другой стороны, бояться возвращения к социальной мобильности времён Карфагена не стоит. В случае действительно масштабных перемен статистика часто малоэффективна, а значит, полагающиеся на неё системы, включая спецгосструктуры и большой бизнес, будут менее устойчивы к кризисам, требующим принятия принципиально новых решений. Так не пора ли задуматься об ограничении и регулировании бесконтрольного внедрения подобных алгоритмизированных систем?