От рейтинга гражданина будет зависеть, сможет ли он получить работу или ипотеку, а также в какой школе смогут учиться его дети. В этом смысле рейтинг SCS напоминает один из самых ужасающих эпизодов третьего сезона «Черного зеркала». К слову, это сериал не славится жизнеутверждающим посылом. В нем зрителям показываются различные антиутопичные варианты того, как может развиться общество, однако проект SCS доказывает, что в этом отношении реальность уже обошла вымысел.

Эта «услуга» станет полностью доступна только в 2020 году, однако уже сейчас Китай начал добровольное внедрение рейтинга SCS: правительство сотрудничает с рядом частных компаний, чтобы отладить отдельные алгоритмы, необходимые для работы такой крупномасштабной системы обработки данных.

В работе над проектом задействованы такие компании, как China Rapid Finance, партнер сетевого гиганта Tencent, и Sesame Credit, дочерняя компания Ant Financial Services Group (AFSG), партнера Alibaba. Как China Rapid Finance, так и Sesame Credit имеют доступ к пугающе огромному массиву данных, первая компания — через приложение обмена сообщениями WeChat (в настоящее время с 850 миллионами активных пользователей), а вторая — через свою платежную систему AliPay.

По данным местных СМИ, Tencent внедряет рейтинг SCS в чат-приложение QQ, где рейтинг человека находится в диапазоне от 300 до 850 и разбивается на пять подкатегорий: социальные связи, потребительское поведение, безопасность, материальное состояние и законопослушность.

Положительное (и отрицательное) подкрепление

Сторонники рейтинга SCS считают, что с его помощью можно улучшить некоторые государственные услуги. Некоторые утверждают, что рейтинг предоставит китайским гражданам столь необходимый им доступ к финансовым услугам. Правительство также заявляет, что рейтинг «позволит благонадежным гражданам ходить там, где вздумается, и не даст дискредитированным ступить ни шагу», сообщается в The Wall Street Journal. В некоторых ситуациях это вполне может сработать. В конце концов, финансовые организации и банки уже составляют системы оценки кредитоспособности, которые помогают им не выдавать кредиты тем, кто не сможет их выплатить.

Утопическое стремление управлять финансами граждан посредством системы сдержек и противовесов может стать хорошо продуманным способом снизить государственный долг и побудить граждан своевременно выплачивать имеющиеся у них долги. Однако настолько вездесущее организованное управление личными финансами граждан переходит разумные границы.

Основная проблема заключается в том, что рейтинг SCS выходит далеко за рамки оценивания того, как граждане распоряжаются своими долгами. По своей сути, рейтинг выставляет оценку каждому жителю страны, определяя его ценность как человека. И вынуждает общество принимать эту оценку во внимание.

«Предложенный Китаем социальный рейтинг – только подтверждение тому, что Китай превращается в полностью полицейское государство», — утверждает Анураг Лал, бывший директор американской Национальной группы по исследованию широкополосной связи при администрации Обамы, а также президент и главный директор по решениям для мобильности фирмы Infinite Convergence.

«Китай делает еще один шаг к тому, чтобы стать тоталитарным полицейским государством, контролирующим своих граждан и плюющим на их конфиденциальность. Будут оцениваться все виды деятельности и межличностного взаимодействия, как в сети, так и в реальной жизни. Их будут хранить, как данные, доступные для просмотра».

Кажется, печально известный Великий китайский файрвол — лишь одно из следствий ухудшающегося социально-политического положения Китая.

Big Data для хорошего поведения

Такая система способна не только выступать в качестве социального посредника, но и жестко ограничивать граждан. В своем интервью WIRED технологический директор Sesame Credit Ли Инъюнь согласился с таким опасением, заявив, что с помощью SCS можно будет судить о человеке по его покупкам. «О том, кто играет в видеоигры по десять часов в день, например, подумают, что он безработный, — поясняет Ли. — А о том, кто часто покупает подгузники, подумают, что у него наверняка есть дети, значит, этот человек наверняка ответственен».

Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Китайский блоггер Расул Маджид поделился с WIRED, что всерьез считает инициативу полезной. Если человек знает, как именно за ним следят, то он сумеет и выкрутиться.

Лал, в свою очередь, не согласен с такой позицией. «Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей?

Вероятно, ничего хорошего.

В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу».

В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать.

С помощью SCS китайское правительство фактически убьет двух зайцев одним выстрелом: они смогут продвинуть и навязать обществу свое представление о «социально приемлемом поведении» и одновременно с этим получат возможность контролировать все аспекты жизни граждан.

Тем не менее, Лал сомневается в том, что эта система способна работать в долгосрочной перспективе. «Подобная инициатива не сможет прижиться в свободном мире. Если люди, сидящие в правительстве, действительно окажутся настолько наивны, то от этого Китай только потеряет свой авторитет в региональном и глобальном плане. Технические компании, работающие в Китае, уже выражают свое недовольство серьезными ограничениями техполитики и шифрования. Такие нововведения только усугубят возмущение».

Система представляет собой нечто гораздо более коварное, чем паноптикум, о котором говорил теоретик культуры Мишель Фуко. Поэтому давайте надеяться, что Лал прав.

Примечание редактора: Мы обновили статью, чтобы дать понять, что Лал только "бывший” директор при администрации Обамы, и прояснить характер компаний, работающих в этом направлении.

Оригинал: Futurism.