Дія роману Ґері Штейнґарта «Дуже сумна історія справжнього кохання» («Super Sad True Love Story», 2010) відбувається в недалекому майбутньому, де китайський юань став світовою валютою, а всі люди носять на шиї «апарат» із технологією RateMe Plus. Особисті дані виставляються у відкритий доступ на всюдисущих Кредитних Палях — стовпах на кожному розі, на яких «невеличкі лічильники на рівні очей показують твій Рейтинг довіри, коли проходиш повз них». Рейтинг головного героя має такий вигляд: «ЛЕННІ АБРАМОВ. Середній дохід за п’ять років $289 420 із прив’язкою до юаня… Тиск 120/70. Група крові І… 39 років, очікувана тривалість життя — 83… Портрет споживача: гетеросексуальний, неспортивний, без автомобіля, нерелігійний… Сексуальні вподобання: пасивні азійки/кореянки… Насильство в дитинстві: так… Останні придбання: друкований непотоковий медійний артефакт у палітурці [тобто книжка]».
Цей роман — художня антиутопія про руйнування приватності. Комуністична партія Китаю, цілком можливо, уже рухається до відтворення її в реальності. Вона планує так звану систему соціальної довіри, котра має оцінювати не лише фінансову надійність громадян (як це робиться скрізь), а й їхню соціальну, а можливо, і політичну поведінку. Поки що не зрозумілі ані масштаб цієї системи, ані її ефективність, ані те, наскільки вона витримає критику державних ЗМІ. Але вона вже набрала обрисів, і кілька перших цеглин закладено. З’являються ознаки того, що в Китаї стартує один із найсміливіших у світі експериментів цифрового соціального контролю.
Пілотний проект у повіті Суйнін (провінція Цзянсу) на північ від Шанхая підказує, який вигляд така система може мати на практиці. Починаючи із 2010 року місцева влада нараховувала громадянам бали за добру поведінку (наприклад, здобуття якоїсь національної відзнаки) і знімала за всі проступки: від незначних порушень правил вуличного руху до «незаконних петицій до національної влади з проханнями про допомогу». Громадяни, що набирали найбільшу кількість балів, могли претендувати на винагороду, наприклад підвищення по службі або державне житло позачергово.
Читайте також: The Economist: Імперія хань
Проект виявився невдалим. Дані, на яких він базувався, були неповними. На хвилі суспільного невдоволення цю систему розкритикувала китайська офіційна щоденна молодіжна газета «Чжунґо ціннянь бао». На думку автора, до системи не слід було включати «політичні» дані (як-от про підписання петицій): «люди мали б оцінювати державних службовців, а натомість держслужбовці оцінюють людей». Ще одна державна газета — «Сіньхуа жибао» — навіть прирівняла проект до сертифікатів «благонадійних громадян», які видавала Японія під час воєнної окупації Китаю.
Але партія та уряд не здаються: раніше вони в загальному окреслили плани запровадження системи соціальної довіри у 2014-му, а цього року анонсували детальніші директиви. Дані для системи збирають близько 30 органів місцевої влади. План здається дуже амбітним і відкрито спрямованим на те, аби впливати на поведінку цілого суспільства. За словами китайських чиновників, до 2020 року він «дасть можливість благонадійним мандрувати куди заманеться, а скомпрометованим буде важко зробити навіть один-єдиний крок».
Цей проект — реакція на найбільші проблеми партії: колапс довіри до державних інститутів і потребу стежити за змінами в поглядах та інтересах китайського населення (не дозволяючи висловлювати ці зміни через голосування). Він має збирати інформацію про чесність як рядових громадян, так і державних службовців та компаній.
Питання довіри
Попри роки економічного зростання Китаю, серед його населення поглиблюється обурення всюдисущою корупцією. Низка скандалів із найрізноманітніших приводів — через неякісне житло чи протерміновані вакцини — сформувала в суспільстві цинічне ставлення до компаній і здатності уряду наглядати за дотриманням правил. Рейтинг соціальної довіри має на меті змінити це, серйозно притиснувши корумповане чиновництво й компанії, які псують життя китайцям. Але він збирається відстежувати громадську думку ще ретельніше. У суспільстві, де не так багато майданчиків для вільного висловлення думок, великі масиви інформації (хоч як це парадоксально звучить) здатні допомогти зробити державні інститути більш підконтрольними.
Водночас така система може зробити нагляд за громадянами значно масштабнішим. В інших країнах було вже чимало страшилок про те, як через великі дані до людей приглядався Великий Брат. Більшість із них виявилися фейковими. У Китаї все інакше. Це держава однієї партії, де мало механізмів стримування влади, традиція контролю над суспільством і лідер Сі Цзіньпін, схильний до авторитаризму навіть більше за своїх недавніх попередників. Масштаб оцінювання соціальної благонадійності залежатиме від намірів уряду, від ефективності технології та реакції КПК на занепокоєння суспільства. Почнімо з намірів. У «принципах планування», опублікованих 2014 року, йдеться про те, що уряд «уважно ставиться до побудови системи суспільної довіри», а отже, проект схвалили Сі Цзіньпін і прем’єр-міністр Лі Кецян. Соціальна довіра, як сказано далі, це «важлива складова […] системи суспільного врядування». Інакше кажучи, елемент управління країною.
У документі не сказано, як працюватиме система, але чітко заявлено про її цілі: зміцнення довіри до уряду через підвищення його ефективності за допомогою великих даних; каральні заходи щодо підприємств, які фальшують і продають небезпечний товар; «заохочення довіри і покара за зловживання довірою […] серед усього суспільства». І як висновок — соціальна довіра буде «важливою основою для […] побудови гармонійного соціалістичного суспільства».
Пізнати тебе
Така логіка відповідає давній партійній практиці використання бюрократичних інструментів для обмеження свободи і приватності в ім’я громадського порядку. Майже в усіх громадян є документ «хукоу» (еквівалент прописки), який визначає, де особа отримує державні послуги. Більшість китайців колись мали «дан’ань» (особову справу), де було зазначено дані про освіту й роботу, а також зарплату. Обидва ці механізми контролю, особливо останній, сьогодні послаблено. Але вони все-таки існують.
Дедалі більше людей у владі, на державних підприємствах і в університетах зобов’язані передавати свої паспорти на «зберігання». Власникам паспортів у неспокійних регіонах Сіньцзяну й Тибету теж кажуть передавати їх у руки поліції. Покарання та винагорода за соціальну поведінку прив’язуються до ініціатив уряду. Екстремальним прикладом того, як нібито загальне благо шкодить приватним інтересам, залишається політика однієї дитини (тепер двох). Закон про опіку над літніми людьми від 2013 року вимагає, аби всі дорослі діти «часто» відвідували батьків, яким за 60 («частоту» визначає суд, а в разі невиконання штраф або в’язниця). За ним уже оштрафовано кілька людей, а один чиновник повідомив, що їхні порушення можуть бути внесені до «дан’ань» (хоча ознак того, що це справді зроблено, наразі немає).
Читайте також: Директор нацрозвідки США звинуватив Китай у кібершпигунстві
У Китаї існує «система адміністративних винагород»: вона передбачає пошану й титули на кшталт «заслужений працівник», «духовно прогресивна особа» або «цивілізований селянин» для сотень тисяч людей. Відзначені отримують гроші, вищу пенсію, кращу медичну страховку і право на державне житло без черги. Керівництво країни цінує систему таких відзнак. Торік усі семеро членів найвищого політичного органу країни — постійного комітету політбюро ЦК КПК — були присутні на церемонії нагородження «національного зразкового робітника».
Комплексний нагляд, що дедалі більше переходить у цифрове поле, є центральною опорою для китайської комуністичної влади. Зараз у різних частинах країни встановлюється система поблокового нагляду, відома як «мережеве управління»: поліція і добровольці ведуть списки за групами людей (по кількасот у кожній), нібито щоб забезпечити збір сміття й вирішення спорів. Це частина традиції «самоконтролю», яка тягнеться з часів династії Сун, XI століття.
Серед сучасніших форм моніторингу — всюдисущі камери нагляду. У 2009 році в Китаї їх було 2,7 млн (чи не більше, ніж у США, які лідирують за кількістю пристроїв CCTV). За словами очільника найбільшого в Китаї майданчика електронної комерції Alibaba Джека Ма, у місті Ганьчжоу камер спостереження більше, ніж у дещо люднішому Нью-Йорку.
Що більше в Китаї користувачів інтернету (див. «Вперед до всевидящої держави»), то більш усеохопний контроль за кіберпростором. Китайські кіберцензори можуть тимчасово вимикати інтернет або акаунти в соцмережах, якщо їхні користувачі надсилають повідомлення з контентом на кшталт «незалежність Тибету» або «інцидент на площі Тяньаньмень».
Розмах збору даних дає змогу припустити, що в довгостроковій перспективі їх використовуватимуть для відстежування проведених транзакцій, відвідуваних сайтів і пересланих повідомлень усіх 700 млн користувачів інтернету в Китаї. Це дуже амбітно, але реально. Злиті в мережу документи свідчать, що Агентство національної безпеки США може збирати 42 млрд інтернет-записів щомісяця і 5 млрд записів про місце перебування мобільних телефонів щодня.
Аби така система нагляду працювала, владі треба звіряти власників девайсів із цифровими відбитками, які вони залишають. Отже, закони, ухвалені у 2012 та 2016 роках, вимагають від інтернет-компаній запитувати у своїх користувачів справжні імена та інші особисті дані. Але все-таки залишається чимало фейкових реєстрацій. І не зрозуміло, як цензори планують працювати з приватними віртуальними мережами, які приховують IP-адресу користувача.
Хто чемний, а хто ні
Система соціальної довіри вибудовується на цій традиції стеження та контролю за приватним життям людей. У центрі проекту списки: аби впорядкувати зібрані дані, потрібні реєстри осіб. А в них Китай експерт. Туристичне бюро Піднебесної укладає переліки невихованих подорожніх, яким можуть на 10 років забороняти виїжджати за кордон. Адміністрація з кіберпростору веде «білий список» лояльних медіа-компаній, яким дозволено продавати свої статті іншим виданням. І так далі.
Реєстри, на яких будується система соціальної довіри, відомі як «списки порушників рішення суду». До них вносять осіб, що ослухалися судового вердикту. Якщо двоє осіб або компаній мають спір стосовно контракту або коли пари сваряться з приводу умов розлучення чи аліментів на дитину, сторони можуть звернутися до суду, що займається цивільними питаннями. Якщо тоді сторона, яка програла, не здійснює належних виплат, її заносять до списку. Імена порушників висвітлюються на електронному табло перед судами. За статистикою Верховного суду, до кінця 2015 року список порушників налічував 3,1 млн порушників.
Читайте також: У Китаї оголосили найвищий рівень небезпеки через густий смог
Із забезпеченням виконання вироків стосовно фінансових питань у цивільних справах проблеми є в усіх країнах. Тож китайський список не мав би надто дивувати. Але ж дивує. Він винятково довгий; доступ до нього мають десятки урядових департаментів та партійних організацій, і всі вони можуть застосовувати до порушників власні санкції. Особи, названі у списку, можуть стикатися з проблемами під час купівлі квитків на літак, швидкісні потяги чи першого або бізнес-класу на залізницю; купівлі-продажу житла; записі дітей до дорогих платних шкіл. Є обмеження на прийом і просування таких порушників кар’єрною драбиною в партії чи армії, отримання почесних нагород і титулів. Якщо порушник — компанія, то їй можуть заборонити випускати акції або облігації, приймати закордонні інвестиції чи працювати над державними проектами. До серпня 2016 року порушникам зі списку заборонили купити квиток на літак приблизно у 5 млн випадків. Це більше ніж просто правозастосування.
Гріх по-китайськи
Систему можна дещо розширити від нинішнього запису «злісних неплатників» до відстежування компаній, що продають отруєне молоко чи абияк будують житло. Утім, якщо судити з рекомендацій, оприлюднених у травні та вересні, моніторинг може виявитися значно масштабнішим. У них списки порушників названо «важливим компонентом інформації про соціальну благонадійність»; мається на увазі, що вони є елементом більшої системи і що порушення фінансових зобов’язань — тільки одна з категорій злодіяння. Серед інших цікавих видів «поведінки, що не викликає довіри», — «поведінка, що серйозно підриває […] нормальний громадський порядок, порядок трансмісій у кіберпросторі», а також «зібрання з метою підриву громадського порядку [та] створення загрози національним оборонним інтересам». Такий широкий діапазон категорій означає, що систему можуть використовувати для обліку й покарання тих, хто висловлює незгоду, власну думку і в кому вбачають загрозу безпеці.
Рекомендації, хоч і не прописані чітко, можуть дати владі інструмент для інтеграції численних баз даних: «хукоу» і «дан’ань» усіх громадян, інформації, зібраної під час електронного стеження, чорних списків неввічливих туристів, національної програми «зразкового робітника» тощо. Навіть оприлюднені у грудні правила, що регулюють сферу відеоігор, передбачають створення чорних списків геймерів-порушників — таку інформацію теж можна вносити до бази даних соціальної довіри. У гіршому разі цей проект може перетворитися на всеосяжний паноптикум цифрового нагляду.
Читачеві це, не виключено, видасться просто страшилкою. Зрештою, Google, Facebook, брокери даних і маркетингові компанії в західних країнах (ба навіть команди, що проводять президентські кампанії у США) мають у розпорядженні масиви особистої інформації, але це не завдає (або принаймні не завдавало досі) серйозної шкоди громадянським свободам.
Читайте також: Китай пригрозив постачати зброю ворогам США – ЗМІ
Утім, в Китаї особисту інформацію сприймають по-іншому, ніж на Заході. У демократичних країнах компанії та уряди обмежені в її використанні та доступі до неї законом. Такі захисні заходи ніде не ідеальні. Але в КНР їх просто не існує. Тамтешні закони про національну безпеку та новий про кібербезпеку дають уряду необмежений доступ практично до всієї персональної інформації. Захисники громадянських свобод, які можуть виступати проти таких практик, дедалі частіше опиняються за ґратами. А за інформацією Аналітичної служби Конгресу США, компанії, які мають такі дані (як-от Alibaba, найбільший у Китаї пошуковик Baidu, популярна платформа обміну повідомленнями Tencent), регулярно виконують вимоги влади про представлення їй даних.
Системи великих даних у демократичних країнах не заточені під соціальний контроль. У Китаї буде все навпаки. А оскільки лідери Піднебесної ототожнюють інтереси партії та суспільства, інструменти соціального контролю може бути використано з політичною метою. Цього року, наприклад, представники КПК попросили одне з найбільших оборонних підприємств Китаю China Electronics Technology Group розробити програмне забезпечення, яке прогнозувало б ризики виникнення тероризму на базі даних про стаж роботи громадян, фінансову історію, споживчі звички, хобі та записів із камер спостереження. А від просіювання інформації в пошуках терористів недалеко до аналогічного пошуку дисидентів. Західні розвідки намагалися через інструменти просіювання масивів даних ідентифікувати окремих бойовиків. Але в них не вийшло, адже було забагато «помилкових зачіпок».
Чи можуть системи соціальної довіри запрацювати? Китайські зіткнулися з двома серйозними технічними проблемами: якістю даних і чутливістю інструментів їх аналізу. Проекти з великими даними (як-от спроба Національної служби охорони здоров’я Великої Британії створити національну медичну базу даних) повсюдно наштовхуються на проблему: як запобігти потраплянню до системи некоректної інформації (котре нашкодило й експерименту в Суйніні)? А в країні з 1,3 млрд населення проблеми хибних даних набувають величезних масштабів. Крім того, до великих покладів інформації ласі кіберзлочинці, які її крадуть чи змінюють.
Спосіб аналізу даних — не менш проблематичне завдання. Компонент системи соціальної довіри, що привернув найпильнішу увагу і спричинив найбільше неспокою, — це приписування «кредитів» (балів) за соціальну та політичну активність. Тут модель схожа на ту, що працює в американській індустрії маркетингу. Компанії формують власну шкалу кредитів, яка допомагає їм передбачати споживчі уподобання клієнтів. Вона ґрунтується на даних про стабільність роботи споживача, ризики, пов’язані зі станом здоров’я, схильність до підліткової злочинності. Але й у ній безліч неточностей. У неприбутковій організації World Privacy Forum стверджують, що кредити вибудовуються за сотнями пунктів даних без будь-яких стандартів правильності, прозорості чи повноти. Висновок у звіті організації звучить так: «частота помилок і неправильних трактувань даних стає серйозним питанням». Тобто купа непотребу на вході й так само на виході.
Що може піти не так?
Китайська влада свідома цих складнощів. Вона вже допустила нетипово активні дискусії про таку практику навколо інформації в державних ЗМІ. А отже, як можна припустити, випробовує ґрунт, перш ніж зробити крок. Нещодавній «саміт соціальної довіри», що відбувався на високому рівні в Шанхаї, зосереджувався на тому, як перевіряти бали, виправляти помилки. Багато хто стверджував, що треба вдосконалювати механізми правового захисту даних. Чжан Чжен, керівник Центру досліджень китайської системи оцінювання при Пекінському університеті, стверджує, що наразі в цьому полі багато невирішених проблем, а втручання влади треба обмежувати.
Видання Beijing Times у коментарі скаржилося про плани карати людей, які не сплачують за світло, обмеженнями закордонних поїздок і кредитування в банках. «Я ніколи не виступав проти істеблішменту чи поліпшення системи оцінювання, — писав автор Ян Женшень. — Я просто проти використання балів для поширення влади сильних і дальшого зменшення поля для громадянських свобод».
У системі соціальної довіри залишається багато незрозумілого. Китайська влада поки що не визначилася, чи збирається головно використовувати її для переслідування злочинців, а чи перетворитися на повноцінного Великого Брата. Вона ще не певна, яку частку наявної в неї інформації слід вводити в систему. Технологія спостереження здебільшого не апробована в масштабах Китаю. Крім того, для ефективної її роботи слід подолати фрагментованість тамтешніх спецслужб.
Але уряд створює спроможності для масштабного режиму соціального контролю. І багато елементів цієї системи вже готові: бази даних, цифрове стеження, система нагород та покарань і патерналізм у стилі «ми знаємо краще». Залишається тільки скласти шматки пазлу докупи. Якщо і коли це буде зроблено, Китай побудує першу цифрову тоталітарну державу. Як писав другові інший герой «Дуже сумної історії справжнього кохання», «ось так трапляється, коли існує єдина партія, а ми живемо в поліцейській державі».
© 2011 The Economist Newspaper Limited. All rights reserved
Переклад з оригіналу здійснено «Українським тижнем», оригінал статті опубліковано на www.economist.com