Докладу касперского социальный кредит и безопасность охват мира рейтингов
Ужас системы социального кредита - на пути в Великобританию
28 МАРТА 2022 Г.
Несколько лет назад в книге The Game's Afoot (опубликованной в 2018 году) я написал, что китайское правительство ставит людям оценки в зависимости от их поведения. Я написал, что это называется социальной инженерией, где граждане ранжируются и оцениваются в соответствии с их поведением.
Китай лидирует, потому что китайская система более безжалостно эффективна, чем все, что может предложить Запад. Китайское правительство имеет больший контроль над всеми, а люди почти ничего не контролируют.
Это работает очень просто.
Все начинаются со следующих шагов.
Смарт-приложение на каждом телефоне измеряет поведение и позволяет решать системе, являетесь ли вы хорошим гражданином.
Везде абсолютно установлены видеокамеры, отслеживающие за тем, не охватывающие ли вы дорогу в неподходящее время, курите ли вы в неположенных местах, бросаете мусор или реализуете что-то, считают, конечно, антиобщественным или неприемлемым. Если вы разговариваете с неподходящими людьми, вы обнаружите, что ваш кредитный рейтинг падает. Встань и поговори со мной, и ты получишь черные метки.
В Китае есть одна камера на каждых двух человек, и они обнаруживают наличие лиц, которые могут выделить человека из футбольной толпы за меньшее время, чем нужно, чтобы сказать: «Конечно, они не могут этого сделать!»
Компьютеры супермаркетов следят за тем, сколько вы тратите на алкоголь, сигареты, сладости и жирную пищу. Вы теряете очки, если потратите слишком много на неправильную пищу.
Местные измерения мощности, количество мусора выбрасывает, камеры в мусорных баках сообщают о компьютерах, количество выбросов или количество лишней упаковки вам пришлось выбросить.
Конечно, социальные рейтинги уже есть на Западе, они постепенно внедряются.
В Великобритании, например, водители более дорогих автомобилей должны платить особо повышенный налог за использование автомобиля на дорогах. Это вопиющее наказание за большие траты на машину.
С другой стороны, гражданам, которые ездят на электромобилях, ничего не нужно для строительства, содержание и ремонт дорог. Они освобождены от обвинения, потому что они «хорошие» граждане. Их автомобили используют дороги так же часто, как автомобили, работающие на бензине или дизельном топливе, но они освобождаются от налога. Водители автомобилей с бензиновым или дизельным двигателем подставляют за то, что они «плохие» граждане, и потому должны обеспечивать постоянно растущие ежегодные налоги для оплаты дорог. Система зачеркивает тот факт, что электрические автомобили не лучше для окружающей среды, чем автомобили с бензиновым или дизельным двигателем. Въезжайте на машине в город, и вам может понадобиться уплата нескольких штрафов.
Если вы живете в доме, который больше, чем вам нужно, вы будете уценены в рейтинге, а ваши налоги вырастут. Если у вас есть свободные комнаты, вы будете наказаны. Если вы делаете полезную работу и отдаете деньги на благотворительность, вы получаете дополнительные баллы. Если вы будете критиковать правительство, вы потеряете очки.
Когда вы находитесь вдали от дома, власти, конечно же, всегда будут знать, где вы находитесь.
Действительно, если ты будешь вести себя плохо, тебя не отпустят далеко от дома. Если вы не соблюдаете все санитарные нормы, вам не разрешат пользоваться общественным транспортом, летать куда-либо или выезжать за границу.
Если ваш социальный кредитный рейтинг упадет, вы не сможете занять деньги, купить дом или забронировать приличный номер в отеле.
Если ваш рейтинг упадет слишком низко, вас не пустят в больницу, а если вы попадете туда случайно, вам на шею наденут табличку «Не реанимировать», прежде чем вы успеете сказать: «Зачем это?»
Вы получите бонусные баллы, если будете жить в современной, плохо построенной квартирке и не иметь абсолютно никакой частной жизни, но вы потеряете эти баллы, если будете хранить лишнюю домашнюю принадлежность или жаловаться на что угодно.
Если вы потратите слишком много на одежду или обувь, рейтинг упадет, а сэкономленные деньги пометят вас как ответственного в том или ином деле, и вы не сможете взять напрокат машину, получить повышение на работе, пользоваться вашим тренажерным залом или получить для своих детей в школе учебники.
Если у вас много проблем, вы обнаружите, что скорость вашего интернета будет падать до минимума, а если у вас есть собственный бизнес и вы общаетесь с чиновниками совета, вы не получите никакой помощи в решении проблем с планированием или не сможете получить какой-либо официальный государственный контракт.
Если вы не оденетесь надлежащим образом на публике или вас заметят, когда вы переходите дорогу, нарушая правила, вас сфотографируют и покажут вашу фотографию. Если вы поссоритесь с соседом, ваши фотографии будут размещены на рекламном щите возле вашего дома, и вам будет стыдно. Если вы опоздаете с уплатой налогов, вам будут снижать рейтинг для регулярных проверок, ваш бизнес будет проверяться раз в неделю, а ваша фотография появится на доске позора в Интернете. Вы обнаружите, что невозможно получить лицензии, разрешения и кредиты, которые могут вам понадобиться.
В ресторанах камеры будут изучать ваши манеры, привычки в еде и количество еды, которое вы оставляете на тарелке — все это может повредить вашему социальному кредитному рейтингу.
Доносчики, проныры, полицейские и чрезмерно услужливые государственные служащие накажут вас за любой грех совершения или бездействия.
И теперь вы, наверное, думаете, что я это выдумываю, и мне бы хотелось, но это не так. Мы не говорим о далеком будущем. Мы говорим о самом новом будущем.
Вы получите баллы, если сдадите кровь, потеряете баллы, если будете общаться с людьми с низкими баллами, будете наказаны, если легкомысленно тратите деньги или не восхваляете правительство в социальных сетях.
Употребление мяса или занятие неподходящей деятельностью приведет к серьезной потере очков, равно как и выбрасывание слишком большого количества мусора в общественные мусорные баки. Камеры распознавания лиц в мусорных баках увидят и накажут вас, а также уменьшат кредит на еду.
Неправильное количество детей, избыточный вес и владение землей приведут к потере баллов социального кредита. В Великобритании Управление национальной статистики уже заявило, что бездетные женщины будут обузой для государства, потому что за ними некому будет присматривать).
Отсутствие интеллектуального счетчика приведет к потере баллов, как и любой пример гражданского неповиновения. Хронические заболевания, психические заболевания, старость и инвалидность лишат вас очков, как и арест (не имеет значения, признаны ли вы виновными).
Наличие слишком большого углеродного следа, принадлежность к среднему классу или белой расе, или задавание слишком большого количества вопросов приведет к потере баллов, как и чрезмерная защита вашей семьи.
Вы потеряете социальные кредитные баллы, если нанесете «вред идентичности», скажете что-то, что заставит кого-то чувствовать себя некомфортно из-за того, кто они, откуда они или как они выглядят, или не скажете что-то, что заставляет их чувствовать себя хорошо. .
Если вы проявите какую-либо микроагрессию, продемонстрируете белые привилегии или разожжете ненависть, вы будете наказаны. Если вы ведете себя угрожающе, или оскорбительно, у вас возникнут проблемы, как и в случае, если вы передадите угрожающие или оскорбительные материалы другому человеку.
Ваше намерение не будет иметь значения. Заявителю достаточно сказать, что он пострадал. Писателям, актерам, режиссерам фильмов или театральных постановок могут быть предъявлены обвинения, если кто-либо сочтет их материалы оскорбительными. В будущем шекспировские пьесы появятся нечасто.
Вы, наверное, думаете, что я действительно шучу сейчас. Если вы это сделаете, просто посмотрите, что происходит в Шотландии.
В Великобритании полиция теперь определяет преступление или инцидент как вызывающие ненависть, основываясь на восприятии жертвы (а не на намерениях преступника).
Естественно, полиция и политики поощряют граждан доносить на тех, кто нарушает законы.
У вас могут быть серьезные проблемы из-за громкой музыки или деревьев в саду. Деревья плохи тем, что могут мешать коммуникациям и не несут никакой практической пользы. В Новом Мировом Порядке не будет места ни эстетике, ни природе.
Что еще будет плохо?
Еда в общественном транспорте, пропуск визита к врачу, парковка в неположенном месте, пропуск собеседования и переход неположенной дороги – все это приведет к потере ваших очков и усложнит вашу жизнь.
Если вы думаете, что я сошел с ума, знайте, что эксперты по кибербезопасности обнаружили, что 32% взрослых в возрасте от 25 до 34 лет в 21 стране (всего 10 000 человек) уже испытывали трудности с получением ипотеки или кредита из-за своей активности в социальных сетях. .
На сегодняшний день Интернетом пользуются около 4,5 миллиардов человек во всем мире, и у большинства из них есть учетные записи в социальных сетях.
Довольно пугающий опрос показал, что две трети людей готовы поделиться информацией о себе или других, чтобы получить скидку на покупки, в то время как половина готова сделать это, если это поможет им избежать очередей в аэропортах. Каждый второй человек говорит, что он рад, что правительство следит за поведением каждого в социальных сетях, если это означает обеспечение безопасности общества.
Правительства, крупные компании и местные власти уже собирают информацию о вас с помощью камер распознавания лиц, биометрических исследований в аэропортах, дронов, самолетов наблюдения и социальных сетей. Это технократическое государство во всей красе. Использование глупого имени или аватара в социальных сетях не даст вам абсолютно никакой защиты. Они точно знают, кто такой на самом деле stinkyfeet of Weymouth, и они знают имя, адрес и длину внутренней стороны ноги bumfluff из Колорадо.
Вы можете забыть о конфиденциальности, свободе или правах.
Скоро мы все будем жить в Китае.
Если один человек в семье нарушает закон, вся семья будет наказана.
Каждый раз, когда вы даете информацию в Интернете, они накапливают информацию о вас, ваших взглядах, вашей личности и так далее.
И есть очень, очень много способов отрицательно повлиять на ваш социальный кредитный рейтинг.
Если вы бросите мусор в общественном месте, вас опозорят, и вы потеряете очки. В Таиланде туристы, которые бросают мусор в национальном парке, должны назвать свое имя и адрес. Если они оставляют после себя мусор, у них проблемы.
Все это называется социальной инженерией. Это то, что политики пытались сделать в течение многих лет, поскольку, когда это работает, а это происходит, это дает им полный контроль над населением. Больше не нужно беспокоиться об оппозиции или критике.
В Китае граждане, которые делают «хорошие» дела для государства и своего общества, вознаграждаются тем, что их фотографии и имена висят на местной стене. Это именно то, что я видел в Восточной Германии в 1970-х годах. А тогда люди соперничали друг с другом, чтобы угодить государству и завоевать себе место на стене.
Так что, опять же, если вы хотите знать, в каком обществе будете жить вы и ваши дети, посмотрите сейчас на Китай, где отслеживается то, что люди делают, говорят и думают.
Но наше будущее не будет таким свободным и легким, как сейчас жизнь в Китае.
Мы быстро движемся к антиутопической цифровой диктатуре.
Хорошее поведение вознаграждается, а плохое наказывается. Но кто определяет, что хорошо, а что плохо?
Геотрекинг — это новая норма. Ваши финансовые записи объединяются с вашей судимостью, академической записью, медицинской картой и моделями покупок. Они следят за тем, какие у вас друзья, какие видео вы смотрите, с какими людьми вы встречаетесь, женитесь или встречаетесь.
Это Большой Брат на скорости
В дивном новом мире те, у кого низкий кредитный рейтинг, не смогут сдвинуться ни на дюйм.
Люди, которые говорят о коррупции или ставят под сомнение пропаганду, будут наказаны. Если их оштрафуют, то их штраф будет выше, потому что они считаются плохими людьми.
И это уже все происходит.
Компьютерные игры готовят нас к будущему.
Меня забанили в Китае, потому что я написал колонку для китайской газеты, которую сочли неприемлемой. Мои книги на китайском мгновенно сняли с продажи.
Я оставляю вас с этим фактом.
В Китае есть общественные туалеты, в которые вас не пустят, не проверив ваше лицо и не опознав вас. Только тогда машина выдаст небольшое количество бумаги для туалета, которое вам разрешено.
Сколько листов вам будет позволено, если у вас низкий кредитный рейтинг? Два? Один? Вовсе нет?
Возможно, вы сейчас улыбаетесь.
Но посмотрите, будете ли вы все еще улыбаться через двенадцать месяцев.
Китайское государство развёртывает обширную систему ранжирования, которая будет отслеживать поведение его огромного населения и выставлять оценки жителям на основе их «социального кредита».
Система социального кредита, о которой впервые было объявлено в 2014, создана с целью укрепления идеи о том, что «сохранять доверие прекрасно, а разрушать его – отвратительно», как написано в правительственном пояснении к проекту. Программу планируется запустить полностью к 2020 году, но она уже сейчас проходит стадию обкатки на миллионах людей. И участие в ней обязательно.
На данный момент система работает по частям – за некоторые её части отвечает администрация города, за другие – частные технологические платформы, хранящие персональные данные.
Социальный кредит человека, как и личная кредитная история, может повышаться и понижаться в зависимости от его поведения. Точная методология держится в секрете – но среди примеров нарушений упоминается плохое вождение, курение в запрещённых местах, покупка слишком большого количества видеоигр и распространение лживых новостей.
Люди положительно отзываются о системе
Перекрёсток в Гуандуне
Несмотря на немного страшноватый имидж системы — организация Human Rights Watch высказала своё недовольство ею, а Ботсман назвала её «футуристической версией Старшего брата, вышедшего из-под контроля» – некоторые граждане считают, что эта система помогает им становиться лучше. 32-летний предприниматель, представившийся Foreign Policy, как Чен, сказал: «У меня такое ощущение, что за последние шесть месяцев поведение людей становилось всё лучше и лучше. К примеру, за рулём теперь мы всегда останавливаемся перед пешеходными переходами. Если не остановишься, потеряешь очки. Сначала мы волновались по поводу потери очков, но теперь уже привыкли к этому».
Система социального рейтинга (или «система социального кредита», Social Credit System) Китая последние годы активно обсуждается в западном мире, порождая все новые мифы и страхи, несмотря на то что пока она выглядит вполне благопристойно.
Компьютерная игра, перенесённая в реальность
Анна Шафран: – Юрий, давайте более детально расскажем нашим зрителям, в чём заключается суть этой китайской системы социального рейтинга.
Юрий Цветков: – В Китае, как вы уже отметили, эта концепция работает "в полный рост" и каждый год в неё добавляются новые элементы. Основа работы этой системы очень проста.
Технологии искусственного интеллекта, бурно развивающиеся в последнее время, позволяют обрабатывать большие массивы данных со скоростью, которая ещё недавно казалась невозможной. Для государства очень заманчиво иметь проанализированные сведения о жизнедеятельности граждан – это помогает понять, что происходит с обществом, какие у него потребности, что нужно поменять.
В принципе, это очень полезно для планирования, а как мы знаем, экономика в Китае плановая, поэтому властям надо понимать, как живёт население, какие у него есть проблемы и так далее. Однако эта система работает в две стороны. Собирая информацию о людях, об "объектах исследования", система может формировать и мнение о каждом из них и отражать картину поведенческого паттерна человека.
Поэтому и возникает большой соблазн разделить людей на некие категории: граждане, которые являются показательным примером, граждане, которые недотягивают до высшей планки, и дальше вниз по лестнице, вплоть до "проблемных граждан", которым надо исправляться.
Для восточной цивилизации, для Азии, этот путь социальной дифференциации в целом является понятным, потому что в этой парадигме общество там развивалось многие тысячелетия и гражданам достаточно ясны правила этой "игры". Но в других частях света применение системы социального рейтинга – решение неоднозначное, несущее множество скрытых рисков. И прежде всего это риск потери личной свободы и права выбора.
Система искусственного интеллекта, "зашитая" в социальный рейтинг, предполагает определённый алгоритм действий человека. То есть у человека теряется ощущение возможности что-то создавать, генерировать идеи и свободно распоряжаться своей судьбой. Он знает, что у него есть только два пути – правильный и неправильный.
Если человек хочет иметь определённый набор благ или пользоваться какими-то привилегиями, он должен следовать по пути благонадёжного гражданина, нравится ему это или нет. И, что самое важное, мы видим это по промежуточным результатам китайского опыта: человек может скатиться в самый низ социальной пирамиды, не совершив ни одного противоправного поступка.
Если раньше, что в Китае, что в России, что в других странах, критерии добропорядочности определялись законами, то при введении социального рейтинга можно оказаться на дне пирамиды, лишиться всех благ и оказаться на одной ступеньке с людьми, которые преступили закон. Это один из самых страшных рисков.
К разговору в студии подключилась по скайпу доктор медицинских наук, профессор кафедры неврологии РНИМУ им. Николая Пирогова, врач-невролог высшей категории Любовь Соколова.
За что отбирают баллы и снижают "сорт"
По началу всё вроде бы выглядит честно и благородно. Прямо-таки незамутнённый социализм: «каждому по способностям, от каждого по потребностям». В общем одна сплошная справедливость. Каждому гражданину Китая изначально начисляется 1000 баллов, что равно рейтингу A (не максимальному A+, чтобы его получить ещё придётся постараться). Выглядит достойно, почти сразу попадаешь в социальную элиту. Остаётся только не косячить и радоваться жизни. Тем более баллы вычитают за то, что вроде бы, итак, под запретом:
- нарушение правил ПДД водителями и пешеходами
- курение и распитие спиртных напитков в общественных местах
- неудовлетворительная помощь пожилым родителям или опекунам
- и т. п.
Существует и список хороших граждан
BBC утверждает, что крупнейший китайский сайт знакомств Baihe отдаёт предпочтение учётным записям хороших граждан.
Граждане также могут получать скидки на счета по электроэнергии, брать вещи в аренду без залога и получать пониженный процент по кредиту в банке
Байкшеринг в Китае
Такие преимущества были доступны людям из Жунчэна на востоке Китая. Городской совет запустил систему социального кредита для граждан, которую изучила Foreign Policy.
А ведь человечество предупреждали, куда двигаться нельзя
Завершая программу, Анна Шафран напомнила, что писатели прошлых лет в своих антиутопиях пытались предупредить человечество, в каком направлении двигаться нельзя. Но то ли адепты тотальной цифровой слежки за людьми не читали эти книги, то ли, наоборот, очень внимательно читали и сделали соответствующие выводы, как не допустить описанных в антиутопиях способов обойти систему.
Временами дело доходит до прямых заимствований даже не из антиутопий, а из Откровения Иоанна Богослова – я сейчас говорю о предложении сделать людям татуировки с куар-кодами, чтобы ходить по ресторанам. Региональные власти тогда очень быстро отменили эту систему – я надеюсь, в том числе и потому, что тоже заметили слишком явную аналогию между своими действиями и предсказаниями Апокалипсиса.
Система цифрового рейтинга заставляет вспомнить роман Евгения Замятина "Мы", написанный 100 лет назад. Там действие разворачивалось в 32 веке, похоже, что человечество справилось быстрее.
Унификация, отказ от индивидуальности и как закономерный итог – полный отказ от фантазии и творческой мысли, превращение, по сути, в биороботов, существующих по чётким правилам и неспособных отклониться ни на шаг от заданной программы, – вот о чём предупреждал Замятин, и ровно к этому ведут человечество сторонники системы социального рейтинга. Возможно, для кого-то это рай, но мне кажется, что именно так может выглядеть ад.
Свобода разума, свобода воли – это неотъемлемая часть человеческой личности. Отказываясь от свободы, человек отказывается от образа и подобия Божьего. Удивительно, что многие атеисты и трансгуманисты мнят себя поборниками абсолютной свободы, но что они в итоге предлагают людям? Цифровой концлагерь, тотальное подчинение бездушной машине, отсутствие самой идеи свободы.
Обратите внимание на ту спешку и торопливость, с какой нам предлагают цифровизировать всё и вся. Быстрее, а то отстанем, а то не успеем! По сути, люди даже не успевают задуматься, как оказываются винтиками огромной бездушной системы, которой неизвестно кто управляет.
Давайте не будем торопиться. Давайте обсуждать перспективы и проговаривать опасения. Ведь мы же свободные люди. Пока ещё свободные люди. Или уже нет?
За что ещё отбирают бал и снижают "сорт"
Но это ещё полбеды. Помимо справедливых оценок для снятия баллов и уменьшения социального рейтинга уже есть и очень сомнительные, на мой взгляд. По новым правилам в Китае могут отобрать баллы ещё и за:
- участие в протесте против властей
- неискренние извинения за совершённые нарушения (идею, видимо, позаимствовали у властей Чечни)
- антиправительственные посты в соцсетях
- публикацию слухов в Интернете
- покупку слишком большого количество компьютерных и мобильных игр
- общение с людьми с низким рейтингом
- и т.д. и т.п.
Почему попытка нас классифицировать вызывает тревожность
– Тем не менее в Китае уже есть исследования, которые говорят о том, что уровень тревожности граждан заметно повысился именно в связи с системой социального мониторинга. И это при том, что китайцы гораздо более подготовленные к такой системе.
Л.С.: – Это спорный вопрос. Действительно ли китайцы начали больше тревожиться из-за введения социального мониторинга? У них ведь и других поводов для этого немало.
С другой стороны, когда нас хотят как-то классифицировать, то поневоле начнёшь тревожиться. Но я не верю, что это станет возможным в России. Да и что значит – раздавать блага, исходя из того, в каком ты классе находишься? Какие блага? Возможность кредитования? А счастье можно измерить кредитованием? Счастье невозможно измерить количеством благ, которые получает человек в результате того, к какому классу его отнесли.
Те категории, которые ценны: счастье, здоровье – они действительно определяются классом, к которому меня отнесли? Никто нам не может дать благо быть здоровым или счастливым. И где мера того, что сделает нас счастливыми? Одному для этого надо много денег, другому – возможность принимать глобальные решения, а третьему для счастья нужно иметь возможность творить.
– Так вы какой из этого вывод делаете? Что система социального мониторинга, делящая людей на касты, которая вводится в Китае, в принципе не влияет на то, как человек ощущает себя в окружающем пространстве? Я правильно вас понимаю?
Л.С.: – Скажем так: в какой-то степени влияет, а в какой-то – нет. На людей, неуверенных в себе, наверное, влияет. Я бы даже сказала так: в той стране, где все блага раздаёт государство, наверное, это может повысить уровень тревожности. Потому что в этом случае всё будет зависеть от того, что человеку дадут или не дадут.
Но в той стране, где в большей степени всё зависит от самого человека, если многое в жизни человека определяется его собственными усилиями, тревожности будет меньше.
Что это?
Китайская система социального рейтинга - это масштабная амбициозная инициатива китайского правительства, основанная на Big data, с помощью которой должна осуществляться стандартизированная оценка экономической и социальной репутации граждан и юридических лиц и которая может использоваться для мониторинга и изменения поведения с помощью различных стимулов («кнутов и пряников»). План создания этой системы Госсовет КНР сформулировал еще в 2014 году и с тех пор активно работает над его реализацией.
В настоящее время система не является полностью централизованной и унифицированной. Свои подходы к оценке («рейтингу») и пилотные проекты существуют у частных организаций, а также у государственных и муниципальных органов власти, между которыми в то же время заключается все больше различных меморандумов и соглашений о раскрытии информации и передаче данных .
А если коррупция?
Ладно, если всё будет делаться автоматически, ошибки электроники можно опротестовать. Неприятно, мучительно, обидно, но всё-таки можно. А если в снятие и начисление баллов влезут люди? Ведь мошенничество, бюрократию и коррупцию никто не отменял.
6. Публичное порицание плохих граждан
Презрительный взгляд президента Китая Си Цзиньпиня в декабре 2017
Ещё одна доступная тактика – публичное порицание. Правительственная записка от 2016 года поощряет компании проверять чёрный список перед тем, как нанимать людей на службу и заключать с ними контракты. Однако перед добавлением в такой список человеку должно будет прийти судебное уведомление, и им разрешается подавать апелляцию на это решение в течение 10 дней после получения уведомления. Пока непонятно, когда этот список начнёт работать.
Прототип чёрного списка уже существует, и его уже используют для наказания
В списке слева указаны имена людей и заретушированные идентификационные номера, а справа – названия компаний.
Ли Сяолин, юрист, попавший в этот список в 2015, обнаружил, что не может купить билеты на самолёт, чтобы вернуться домой из рабочей поездки, как писала Human Rights Watch. У него также не принимали заявления на открытие кредитных карт.
2. Регулирование скорости интернета
Такой информацией поделилась Рэйчел Ботсман, автор, опубликовавший часть книги на тему техбезопасности на Wired в прошлом году. Точный механизм данного метода пока неизвестен.
Согласно Foreign Policy, кредитные системы отслеживают своевременную оплату людьми счетов, примерно как системы, отслеживающие кредитную историю – но они добавляют сюда и моральную сторону дела. Среди других спорных нарушений – слишком большая трата времени на видеоигры, траты денег на легкомысленные покупки и посты в соцсетях. Также, особенно после террористических атак на службу безопасности аэропортов, караться будет и распространение ложных новостей.
3. Запрет вам и вашим детям на обучение в лучших школах
Студенты исполняют гимн страны на игровой площадке во время поднятия флага в школе Шанхая, 27 сентября 2017
17 человек, отказавшихся в прошлом году от прохождения службы в армии, не смогут получить высшее образование, обучаться в старших классах или продолжить своё обучение, пишет Beijing News [трудности перевода: оригинальная статья написана по-китайски, но, судя по онлайн-переводчику, на самом деле этим людям аннулировали все достижения выше средней школы, и им предписано вернуться, и проходить обучение заново; также им запретили выезд за границу и покупку недвижимости / прим. перев.]
Гражданам с низким социальным кредитом будет запрещено отправлять своих детей в дорогие частные школы, сказала Ботсман. Неясно, действует ли уже этот запрет.
Система социального рейтинга по-китайски – это "чёрный ящик"
– Слова Любови Петровны для меня – это яркий пример того, что ни в коем случае нельзя смотреть на ту или иную проблему исключительно с одного ракурса. Если смотреть на проблему социального рейтинга с психологической точки зрения, то тут не всё так однозначно. Но когда всё это коснётся лично нас, когда нам будет предложена ситуация, в которой мы окажемся поделёнными на эти самые касты? Вот вам будет комфортно?
Ю.Ц.: – Совершенно некомфортно. Давайте посмотрим на этот вопрос с точки зрения демографии. Одна из проблем социального рейтинга состоит в том, что человек может даже не понять, в какой момент что-то пошло не так и это повлияло на его планы на дальнейшую жизнь.
К примеру, человек рассчитывал получить повышение по службе и соответствовал всем необходимым требованиям, но ему вдруг отказали, потому что система социального мониторинга решила, что этот человек неблагонадёжен. А причина может быть в том, что этот человек к определённому возрасту не выполнил программу по детям.
Система оценивает поведение человека и принятые им решения, даже если он не нарушал закон, в комплексе. После этого человеку выставляется оценка. И даже если на каком-то этапе он не чувствует дискомфорта, то это не означает, что он не поймёт это завтра, когда столкнётся с последствиями влияния социального рейтинга и его не выпустят за границу, он не получит повышения по службе и так далее.
И в этот момент человек начнёт задумываться: а как же так? У людей есть желание понимать природу вещей. И, упав в этом социальном рейтинге, человек попытается понять, что же с ним нет так. Законов он не нарушает, налоги исправно платит, никого не оскорбляет. Но почему-то он упирается в стеклянный потолок, потому что система считает, что он недотягивает до определённого уровня благонадёжности и образцовости. И это нарушает его планы на жизнь.
Ведь вроде бы мы вправе свободно распоряжаться своей жизнью. А тут получается – свободны, да не до конца. Потому что есть некие правила игры, которые нам даже не объяснили толком. Ведь система китайского социального рейтинга – это "чёрный ящик", который может породить всё что угодно. И люди не могут толком понять, по каким критериям системой принимаются те или иные решения. А отмотать цепочку назад и что-то выяснить невозможно.
Между тем человек, пытаясь выяснить, что с ним не так, может далеко зайти – до напряжения и даже депрессии. А пытаясь поднять свой рейтинг, человек станет искать какие-то пути, вплоть до неправовых. Любую идею можно довести до абсурда.
5. Запрет на заселение в лучшие отели
Государственный пятизвёздочный отель Пекин
Людям, отказавшимся служить в армии, также запретили отдыхать в определённых местах и отелях. При этом государство как награждает людей, так и наказывает. Люди с высоким социальным рейтингом будут быстрее получать разрешение на посещение таких мест, как Европа.
В 2015 году неизвестная женщина в Пекине также сообщила BBC, что ей разрешили забронировать в отеле номер без залога наличными, потому что у неё был высокий социальный кредит.
Вроде всё правильно.
Как определяется социальный рейтинг человека?
На социальный рейтинг влияют практически все сферы общественной и частной жизни:
- Платежная дисциплина (оценивается и по кредитной истории в банках, и по своевременности оплаты коммунальных и арендных платежей, и даже по покупкам в магазинах)
- Поведение в обществе (здесь имеет значение не только совершение преступлений, но и даже малейших проступков: переход дороги на красный свет, нарушение ПДД, раздельный сбор мусора, уход за пожилыми родственниками, еда в общественном транспорте, слишком громкая музыка, рейтинги в сервисах такси и каршеринге; волонтерская деятельность или благородные поступки приносят дополнительные баллы и т.п.)
- Поведение в Интернете (да-да, и это тоже: записи в социальных сетях, время, затрачиваемое на видеоигры)
- Круг друзей (тоже имеет значение для многих рейтингов: с кем вы поддерживаете отношения, кому платите или от кого получаете переводы и т.д.)
- Личная информация (образование, собственность, место жительства и т.д.)
Исходя из набора различных параметров и их весов рассчитываются персональные рейтинги для тех или иных нужд и проектов и составляются «черные списки» из людей с низким рейтингом либо предлагаются различные бонусы для тех, чей рейтинг достаточно высок.
Например, высокий рейтинг от Zhima credit (Sesame рейтинг) в Alipay позволит получить купоны и скидки на покупки, взять напрокат велосипед или самокат без предоплаты. Банки, изучив Zhima credit, определят, выдавать ли кредит и по какой ставке. Даже на сайте знакомств Baihe можно посмотреть рейтинг Sesame credit потенциального партнера. Приоритет в медицинском обслуживании, налоговые льготы, бесплатный фитнес также становятся доступны людям с высоким рейтингом во многих регионах Китая, пилотирующих такие проекты.
А вот низкий рейтинг и попадание в «черные списки» повлечет серьезные ограничения для человека:
- отказ в работе
- невозможность купить билет на самолет или в комфортное купе поезда
- отказ в кредите и даже в аренде квартиры
- невозможность учиться детям родителей с низким рейтингом в хороших частных школах и национальных университетах
- публичное порицание на билбордах или в TikTok
Чтобы выйти из такого «черного списка», может потребоваться от двух до пяти лет.
Получается, что пока вы находитесь «по эту сторону» рейтинга (то есть в «красном» или «белом» списке), можно только радоваться таким проектам. Ведь вы получаете различные скидки, бонусы, преференции при приеме на работу, легко узнаете, насколько благонадежен ваш потенциальный арендатор, или достаточно ли «хороши» родители друзей вашего ребенка. Но вот что произойдет с вашей жизнью, если рейтинг вдруг опустится в «черную» зону? Получится ли выбраться оттуда вам или вашим детям, для которых (причем не по их вине) будет закрыт доступ к хорошему образованию и определенному кругу друзей? Или уже вся семья станет «людьми второго сорта»?
Целями создания этой системы правительство Китая определило следующее:
- укрепить доверие к государственным, социальным, судебным и корпоративным институтам
- стимулировать развитие «социальной рыночной экономики»
- построить социально-ориентированную систему управления и общественную гармонию
Тотальный контроль без свобод и конфиденциальности
И полный перечень неправильных поступков (около 160 000 параметров) совершенно необходимо знать наизусть, ведь понижение рейтинга будет мгновенным. Для «Системы социального кредита» нет конфиденциальной информации или личных данных. Она имеет доступ к финансовой и кредитной информации, к данным соцсетей и даже Интернет соединению, скорость которого, кстати, тоже могут понизить в связи с уменьшением рейтинга. Система точно знает куда ты ходил, что покупал, с кем общался, кого лайкал в сети, когда последний раз, не дай бог, заходил на сайт оппозиции. Она знает всё!
В чьих руках находятся рычаги системы мониторинга?
– То есть это всё иллюзии, когда нам говорят, что социальный рейтинг позволит иметь полную прозрачность и в перспективе полностью искоренить коррупцию? На самом же деле это система, у которой тоже есть рычаги, и они находятся в руках у определённых людей, с которыми можно попытаться договориться.
– Совершенно верно. Если мы представим, что эта система полностью автономна и существует сама по себе, то это будет реализованный сценарий очередного фильма про Терминатора и человечеству уже пора закачивать своё существование.
Но, к счастью, интеллектуальные системы ещё не настолько умны и в ближайшие 50-100 лет не поумнеют. Поэтому контроль за ними осуществляют люди, которые тренируют и вкладывают определённые алгоритмы в эту интеллектуальную систему.
Искусственный интеллект – это машина, работающая на данных. И чем больше данных она получила, тем лучше она ориентируется. Соответственно, как машина данные обрабатывает и какой логикой принятия решений она пользуется, зависит от людей, которые её программировали.
И тут возникает вопрос: а кто дал право этой группе программистов и разработчиков определять, что такое хорошо, а что такое плохо? Почему их мнение должно считаться особенным? И тут мы из области психологии переходим в область права.
С одной точки зрения, хорошо, когда государство понимает, чем живёт общество, и ему намного проще решить, где лучше построить больницу, куда провести дорогу или разбить парк. Но это только верхушка айсберга. А в глубине скрывается возможность заниматься социальной инженерией и задавать векторы поведения общества. О развитии общества здесь говорить невозможно.
У человека должно быть право выбора, и его нельзя нарушать. Можно поступиться какими-то свободами, скажем, ради всеобщей безопасности, но нельзя лишать людей права выбора. Это очень важный психологический момент. И по опыту Китая мы видим, как система социального мониторинга сводит это право на нет.
С рейтингом D
вы превращаетесь в социального отброса (что-то типа «бомжа») никакая работа (ну, разве что самая тяжёлая и низкооплачиваемая) вам не светит, кредиты не дают, в госслужбах не обслуживают. Об образовании и льготах можно забыть.
Насколько опасен социальный мониторинг?
– Любовь Петровна, к вам вопрос: насколько эта система социального рейтинга способствует или нет психологическому комфорту в обществе? И насколько эта система применима к нам?
Любовь Соколова: – Внедрение любых, даже самых прогрессивных нововведений всегда вызывает разные мнения. И всегда появляются опасения, будь то новый вид транспорта или полёты в космос. Это касается и введения социального мониторинга – есть и плюсы, есть и минусы.
Но когда мы слишком углубляемся в вопрос "А чем нам это угрожает?", переживая о том, что будут ограничены какие-то наши свободы, – это уже проявление повышенной тревожности. Как врач я вам скажу: тревожиться мы всегда будем.
Если рассматривать этот социальный мониторинг с точки зрения положительного эффекта, то это хорошо для планирования. Кстати, это может быть хорошо и для диагностики заболеваний. Социальный мониторинг может пригодиться как при профилактике правонарушений, так и для выявления различных психоаффективных расстройств, всплеск которых мы наблюдаем в последнее время.
Что касается ограничений выбора и личных свобод. Когда люди начинают говорить об этом, многие забывают, что возможность выбора у нас есть каждую секунду, каждый миг. Решение о том, сделать сегодня утром зарядку или нет, человек принимает сам, и никто не сможет его в этом ограничить. А от этого может зависеть, к примеру, придётся ли ему завтра менять тазобедренный сустав или не придётся. Это связанные вещи. Но это как-то никого не волнует.
Но когда люди начинают говорить: "Ой, меня сняли на камеру, опять какой-то QR-код придумали. " – они не вспоминают, сколько уже этих кодов было в нашей жизни, ИНН или тех же номеров мобильных телефонов. Насколько всё это реально влияет на нашу жизнь?
Я не верю, что этот социальный мониторинг сможет существенно повлиять на наши свободы, если его попытаются внедрить у нас.
1. Запрет на полёты и поездки на поезде
Зал ожидания на вокзале Ханчжоу, февраль 2016
Китай уже начал наказывать людей ограничениями на поездки. Девяти миллионам людей запретили покупать билеты на местные авиалинии, как сообщила в марте Channel News Asia, цитирующая официальную статистику. Также им придётся распрощаться с комфортом –трём миллионам людей запретили покупать билеты бизнес-класса на поезда.
Итоговая система будет наказывать ещё и плохих пассажиров. Потенциальные нарушения – поездка без билета, праздношатание перед посадочными воротами, курение в запрещённых местах.
Но может всё, всё ещё не так страшно и поднять рейтинг так же просто, как его потерять?
Баллы зачисляются за:
- участие в благотворительности
- заботу о пожилых родственниках
- хорошую кредитную историю
Вот, правда, сделать это с низким рейтингом, без нормальной работы и, соответственно, денег — довольно затруднительно.
Ещё баллы зачисляются за:
- поддержку правительства в соцсетях
- доносы на тех кто нарушает правила
Но даже таким образом обелиться будет непросто. Ведь с низким рейтингом доступ к соцсетям и Интернету будет сильно ограничен. Но это ничего! Ведь ещё баллы зачисляются за:
А что в России?
Хотя в России система социального ранжирования не провозглашается в качестве национального проекта, определенные составляющие постепенно внедряются в жизнь:
- Бюро кредитных историй - сюда стекается информация обо всех ваших кредитах и кредитных картах, имеющихся просрочках, а вам присваивается определенный рейтинг по вашей платежеспособности
- Рейтинг в такси и каршеринге - вы знаете, что не только пассажиры оценивают водителей, но и таксисты ставят баллы пассажирам, а каршеринговые компании присваивают рейтинг, исходя из показателей качества вашего вождения?
- Наличие задолженности в базе Федеральной службы судебных приставов - влечет не только запрет на выезд заграницу (от определенной суммы), но и ограничения на сделки с недвижимостью и автомобилями
- Маркетплейсы, сервисы доставки еды и т.д. - также работают над системой рейтинга своих покупателей..
Так что введение единой системы социального рейтинга в России является, по сути, уже только вопросом времени и политической воли.
Для тех кто не верит во всякие «золотые миллиарды» и глобальные заговоры новость особенно интересная. Ведь то, во что они не верят в начале 2021 года узаконили в Китае. А именно «Систему социального кредита», которая каждому человеку присваивает рейтинг (или сорт) от А+ самого высокого до D (про более низкий пока не слышал).
Плохой рейтинг — попробуйте стать суперменом!
Не получается? Оставайтесь третьесортным и живите на дне. Общество в вас больше не нуждается.
Чем это нововведение обернётся для Китая пока непонятно, но то, что современный мир упорно лишает людей всяческой свободы не только действий, но и мыслей — уже становится очевидным для многих. Если нет, почаще смотрите на себя в отражающие поверхности в транспорте и общественных местах.
Введение системы социального рейтинга или, как её ещё называют, системы социального кредита в Китае – вопрос практически решённый. Возможно ли введение аналогичной системы у нас, в России? Об этом в студии "Первого русского" ведущая Анна Шафран беседовала с советником президента "Сколтеха", экспертом в области международного регулирования искусственного интеллекта и сквозных технологий Юрием Цветковым.
Интересно, что большинство жителей Поднебесной против системы социального кредита не возражают. Более того, если судить по социологическим исследованиям, они считают, что общество, основанное на чётких и однозначных правилах, будет более справедливым.
Но удивляться тут нечему, считает Анна Шафран, – к такой системе китайцев подготовила конфуцианская мораль, по которой страна жила тысячелетиями. А вопросы справедливости очень важны для китайцев после "столетия унижения" – так в Поднебесной именуют период между 1839-м и 1949 годом, когда древнейшая страна, по сути, утратила субъектность и суверенитет и превратилась в лоскутное одеяло, которое делили между собой англичане, французы, японцы и Российская Империя.
Социальный рейтинг делит всех жителей Китая на четыре неравные касты. Первая – граждане класса А – обладают всем комплексом прав. У категории B прав поменьше. С – ещё меньше. И наконец, D – это абсолютные парии, аналог неприкасаемых в индийской кастовой системе.
Граждан низших категорий могут всячески воспитывать: запретить покупку билетов на поезд и самолёт, ограничить бронирование отелей, а если, скажем, человек с невысокой категорией пришёл в кино – его лицо могут показать на экране перед началом сеанса и рассказать, что это злостный неплательщик налогов или алиментов.
Свой рейтинг можно повысить: для этого надо сдавать кровь, заниматься волонтёрством, раздельно собирать мусор – ну и совершать прочие социально одобряемые поступки. Но, разумеется, путь вверх гораздо труднее, чем путь вниз. Потерять баллы рейтинга гораздо проще, чем приобрести.
Система социального рейтинга держится на двух китах. Во-первых, это повсеместное проникновение системы распознавания лиц, причём маски для этой системы не помеха. И во-вторых, это присутствие человека в многочисленных базах данных – банковских, медицинских, полицейских, которые обмениваются между собой информацией в режиме реального времени.
Возникает вопрос: возможна ли подобная система в нашей стране? К примеру, в Москве уже установлено более 200 тысяч камер видеонаблюдения с системой распознавания лиц, и их число неуклонно растёт, как и количество электронных баз, в которых есть информация о большинстве из нас, начиная с самой большой базы – "Госуслуги" – и кончая компактными базами по месту работы.
Какие страны хотят сортировать людей?
Звучит жутковато, но после нескольких лет «обкатки», с 2021 года «Систему социального кредита» официально, на законодательном уровне вводят по всему Китаю. Другие страны тоже хотят ставить соцопыты. Интересуются подобной штукой в Венесуэле, Монголии, Эквадоре, Зимбабве и многих других странах, в том числе в России. В сентябре 2020 года наш Сбыр анонсировал систему оценки граждан при приёме на работу и выдаче кредита. В Китае, к слову, всё тоже с этого начиналось. Всем известная Баба Али придумала ШимакредиТ и почти добровольно отдала его народному банку страны потому, что системой заинтересовалось правительство, и пошло — поехало.
Но может быть, я просто сгущаю краски, и в цифровом тоталитаризме нет ничего страшного? Ну будет рейтинг и будет, подумаешь. Чего бояться обычным законопослушным гражданам? Давайте разберёмся за что китайская система снимает и начисляет баллы.
Ничего не забудется: система запомнит любой "хайп" и будет учитывать его постоянно
– Но ведь если подумать и примерить на себя эту систему социального рейтинга, всё видится совсем не радужно. Возьмём Александра Пушкина. С точки зрения этой системы, он был бы абсолютный маргинал: человек скандальный, вечно в какие-то истории попадал, даже на дуэлях дрался, постоянно жил в долг, даже Царь за него некоторые долги платил. Сидел, писал себе какие-то стишки, только бумагу тратил, на которой можно было бы бухгалтерский отчёт написать…
– А всё потому, что машина оценивает бездушно. По сути, она чуть сложнее шахматного компьютера и действует, исходя из данных, которые были в неё заложены. И пример с Александром Сергеевичем очень показателен. На самом деле, при внедрении социального рейтинга нет гарантии того, что система на вас не "набросится" и не сожрёт.
Мы говорим, что интернет помнит всё. Да, но каждое скандальное событие довольно быстро перекрывается следующим "хайпом". Однако система мониторинга действует иначе: она не только запоминает негативные события, но и постоянно учитывает их при каждом анализе, срезая рейтинг этому человеку.
Представьте, что этот социальный рейтинг был бы введён в России лет двадцать назад. И наши некоторые политики за свои высказывания или поступки в прошлом сейчас не просто в Думу не смогли бы избираться – их бы давно уже не было на политическом ландшафте.
В системе социального рейтинга есть психологические риски, есть огромные технологические риски, потому что система несовершенна, а система права задвигается на второй план. Готово ли к этому человечество?
Да! НО…
Нарушение ПДД и курение фиксируются с помощью камер наружного наблюдения с распознаванием лиц. В Китае таких гигантское количество, по последним данным по 4 камеры на каждого гражданина страны, и объёмы видеонаблюдения продолжают расти. Вот только у всех этих систем есть погрешность, баги и различные технические неполадки. В том же Китае уже выписывали штраф рекламной модели за нарушения правил перехода улицы потому, что система распознала её изображение на рекламе борта автобуса. А одного бизнесмена не зарегистрировали на авиарейс из-за того, что система не нашла уже оплаченный им штраф. Вроде бы мелочь?! А если такие баги мгновенно отражаются на рейтинге и вас, скажем выгоняют с работы или отказывают в продлении аренды квартиры?
4. Запрет на получение лучших рабочих мест
«Дом народных собраний», здание парламента в Пекине, одно из крупнейших государственных зданий Китая
«Нарушающие доверие» индивидуумы не смогут заниматься управленческими работами в государственных учреждениях и крупных банках. Некоторые преступления, вроде мошенничества и хищений, также сильно повлияют на социальный кредит.
Так вот с рейтингом A+
перед вами открыты все дороги: лучшие учебные заведения, госслужба, социальные льготы и даже особые плюшки в виде бесплатной аренды транспортных средств и прохождения в муниципальные заведения без очереди.
Читайте также: