Нещодавно уряд Індії розпочав роботу над створенням гігантської бази даних, яка міститиме відбитки пальців, райдужну оболонку та фото всього населення країни. Однозначне підтвердження права на отримання соціальної допомоги на основі біометричного розпізнавання має запобігти зловживанням.
Система соціального кредиту, яку розробляють у Китаї, має охопити соціальну, економічну та політичну поведінку громадян, щоб винагороджувати «добрих» і карати «поганих». Негативні бали можуть вилитися в більшу заставу у випадку оренди авто або в неможливість купити квитки на певні авіарейси.
За допомогою цієї системи уряд Піднебесної, за його твердженням, хоче винагороджувати чемність своїх громадян і карати непорядність, а в підсумку засобами тотального соціального контролю створити соціальну довіру. Індія та Китай, напевно, є найекстремальнішими прикладами просування нових технологій стеження та керування на базі Big Data. Однак цифрові системи оцінювання наступають і на Заході.
Так, деякі підприємства на основі даних своїх клієнтів вираховують їхню цінність з погляду користування товаром чи послугою (Customer Lifetime Value). Цей показник дає змогу оцінити прибутки, які їм забезпечить клієнт у майбутньому. Ті, хто часто телефонує на гарячі лінії з метою поскаржитися, ймовірно, матимуть нижчу цінність.
Читайте також: Ціна зазирання у старість
У США рейтинги вже використовують, коли призначають соціальну допомогу. Нідерланди й Австрія планують запровадити систему балів на ринку праці, щоб за допомогою індивідуальної класифікації надавати одні можливості та відмовляти в інших. Ці країни посилено інтегрують дані в муніципальних адміністраціях та сфері публічних послуг, щоб визначати претензії, шукати «ризиковані сім’ї» чи виявляти соціальні зловживання.
У поліції випробовують «оцінки ризиків», щоб підвищити ефективність роботи правоохоронців. Уже є проекти віртуальних прикордонних постів, які за допомогою штучного інтелекту мають проводити опитування й з’ясовувати, чи мігранти мають намір увести в оману.
Дані як частина нашого повсякдення
Радикальні перетворення суспільства у зв’язку з використанням даних важко переоцінити. Можливості фіксування рівня активності та життєдіяльності стрімко зростають: звички у споживанні, фінансові транзакції, профілі, друзі, стан здоров’я, освітня активність, результати праці — усе це можна охопити цифровими мережами, сенсорами, інструментами оцінки та мобільними пристроями.
Дані завжди були важливою складовою самовизначення, організації суспільства та інструментом здійснення влади, однак сьогодні це повсякденна практика, частина наших соціальних буднів, нашого співіснування. Дані, які ми залишаємо та які зберігаються, створюють дедалі більшу цифрову тінь кожного з нас. У світі Big Data інформація про користувачів чи просто громадян врешті стає сировиною, з якої можна отримати прибуток. Однак інтерпретувати цей процес тільки як технологічний недостатньо, оскільки для розвитку загальної культури використання даних він потребує активної співучасті численних суб’єктів.
Читайте також: Штучний інтелект: заявки на лідерство
Зрештою, відомо, що люди дуже щедро діляться особистими даними. До цього їх підштовхують потреба в спілкуванні, недбалість, а також інтерес до нових можливостей споживання інформації та комунікації. Крім того, зростає попит на самоквантифікацію, яку здійснюють індивіди, стаючи таким чином добровільними постачальниками даних.
Такий культ даних має далекосяжні наслідки: він впливає на формування та розуміння суспільством цінностей. Ми називаємо це валоризацією. Індикатори, дані та алгоритми представляють специфічні концепти соціальної цінності як з огляду на те, що може вважатися релевантним, так і на те, що є значущим із погляду суспільства. Використання даних, або ж даталізація суспільства, поєднується зі зміною у визначенні цінності. У результаті продукування даних виникає суспільство, у якому за нами не лише спостерігають, а й оцінюють, класифікують та порівнюють нас одне з одним. Цифрові статусні дані стають «знаками розрізнення» (П’єр Бордьє), які роблять людей кращими або гіршими, більш чи менш цінними.
І тут я хочу виокремити дві проблеми, які, на мою думку, є особливо значущими: дедалі більша асиметрія прозорості суспільних відносин і поштовх до індивідуалізації, зумовлений поступом цифрових технологій.
Асиметрія прозорості: завдяки прогресу цифрових технологій та дедалі більшому значенню Big Data алгоритми стали ключовими інструментами суспільного маркування. Можливість суспільного маркування — це здатність встановлювати певні категорії чи класифікації й таким чином впливати на наше сприйняття та тлумачення. Кому ж належать ці повноваження, хто їх інсценує?
З одного боку, це програмісти, які прописують синтаксис, з другого — ті, хто дає їм доручення. А ще ті, хто використовує ці алгоритми. Вони вирішують, що релевантне, а що ні, і подають картину світу, яка відповідає їхньому відбору й обробці та яку ми охоче розуміємо як відображення реальності.
Обмеження знищуються
Алгоритми в принципі є таємними практиками, які можуть не відповідати вимогам прозорості та зрозумілості. Такий висновок можна зробити вже з того, що багато підприємств відверто робить свої алгоритми комерційною таємницею. Щоб впливати на ринок, вправно ховаються за завісою. Тобто держава і бізнес встановлюють новий режим видимості для громадян, але самі лишаються невидимими. Формуються асиметричні відносини відкритості між нами та тими, хто збирає ці дані та володіє ними.
Читайте також: Штучний інтелект: загроза чи незріла технологія
Здатність дивитися крізь стіни та досі зачинені двері, а також можливість спостерігати незалежно від місцезнаходження підривають встановлені суспільні обмеження, які раніше були наслідком поділу на публічне та приватне. Не посилаючись на теорію змов, цілком тверезо можна стверджувати, що сьогодні ми мало контролюємо збір та використання наших даних. Ініціативи захистити їх видаються безпорадними. Громадяни, споживачі чи клієнти часто не можуть однозначно сказати, що таке особисті дані та які дані насправді необхідні компанії чи організації для надання послуг.
Багато алгоритмів перетворення інформації на дані мають на меті контроль, зокрема винагородження за бажані форми поведінки та покарання за небажані. Компанії, які збирають Big Data, намагаються цілеспрямовано впливати на рішення людей — чи то у споживанні, чи то на виборах. Це може мати токсичні наслідки, якщо, наприклад, ідеться про маніпулювання демократичним волевиявленням.
Маємо усвідомити, що прогресуюче переведення інформації в дані та дедалі більше соціальне стеження — це феномен дволикого Януса. З одного боку, зростають шанси для самокерованості та прозорості, а з другого — з’являються ризики нагляду й часто непомітного маніпулювання публічним життям. Big Data може зробити людей здоровішими, але ціною втрати їхнього інформаційного самовизначення та всеохопного технологічного контролю.
Кожен наш крок, кожен наш показник аж до артеріального тиску, розпорядку дня та фізичних навантажень збирається в цифровому вигляді й використовується для керування, прогнозування та класифікації. Вже навіть технологічні гуру з Кремнієвої долини заговорили про потребу в більшому регулюванні та глобальних стандартах захисту даних, а отже, декого з них уже непокоїть пов’язане з такими масивами даних та новими способами їх аналізу колосальне зростання впливу алгоритмів.
Розщеплення суспільства (поштовх до індивідуалізації): розвиток цифрових технологій призводить до «революції відмінності» (Крістоф Куклік), у ході якої великі колективні категорії розділяються на підставі здобутої інформації на основі дрібних відмінностей. Це можна уявити собі як збільшення, завдяки якому окрему людину на великому груповому фото стає легше впізнати й відповідно знайти шлях до контакту з нею.
Страхові компанії вже давно орієнтовані на індивідуалізовані тарифи й системи бонусів, пов’язані з певними моделями поведінки. Під гаслом «Повертаємо гроші в обмін на дані» вони намагаються переконати клієнтів долучитися до відстежування даних. І тоді крокоміри контролюють пройдену щодня дистанцію й за необхідного балансу повертають кошти. Таке спостереження дає змогу відмовлятися від загальних тарифних планів, основаних на небагатьох категоріях ризику, підточує солідарне суспільство, видаючи його за старомодне.
Автоматичним наслідком відмови страхувальника від надання доступу до даних стає підвищення вартості послуги. Що більше людей, готових перейти до орієнтованих на конкретні моделі поведінки тарифів (можна припустити, що це передусім молоде, здорове й технічно просунуте покоління), то менш вигідними будуть тарифи групові.
Людина як матриця даних
Цей процес форсують не лише комерційні підприємства. Зрештою, клієнти теж хочуть індивідуального підходу. Багатьом здається справедливим, коли людям, які дбають про здоров’я та займаються спортом, пропонуються кращі умови страхування. Хто ж не хоче винагороди за здоровий спосіб життя? Яка страхова компанія відмовиться від того, щоб дедалі більше диференціювати групи ризику й спонукати до поведінки, яка заощаджує кошти?
Як можна охарактеризувати увесь цей процес перетворень? Чи переходимо ми до «цифрового класового суспільства», як дехто вважає? Однозначно ні, бо в такому суспільстві даних імовірність утворення класів у традиційному розумінні наближається до нуля. Нас, швидше за все, очікує гіперіндивідуалізація, що ґрунтуватиметься на безмежних диференційованих спостереженнях із нескінченною кількістю можливих комбінацій. Даталізація суспільства означає водночас і його розщеплення.
Це означає також, що цифрова індивідуалізація — це не звільнення та емансипація, а сепарація окремих осіб на підставі цифрового розпізнавання. На передній план виходить людина як матриця даних, як індивідуальний профіль, як носій придатної для використання інформації, а не спільнота. Відтак капіталізм даних є всеохопною, орієнтованою на використання машиною, яка не спиняється навіть перед нашими прихильностями та найсокровеннішими прагненнями.
Окрім того, ми спостерігаємо — я навмисне акцентую на цьому — перемикання суспільного режиму нерівності з конфлікту класів на конкуренцію індивідів. Конфлікт означає безпосередню суперечку між сторонами, конкуренція — індивідуальне протистояння в досягненні специфічних цілей.
Читайте також: Надійний фундамент
Табелі про ранги, показники здоров’я в балах, фітнес-рейтинги, оцінки, лайки підсилюють соціальне порівняння, безпосереднім наслідком якого є змагання чи конкуренція. У конкурентному суспільстві тривають індивідуальні змагання за місця, визнання чи кращі результати в роботі, а також боротьба за владу або справедливий розподіл, яка тепер уже перестала бути колективною.
Отже, що далі? Нині відбувається протистояння між тими, хто таврує всіх критиків оцифрування як ворогів інновацій, і тими, хто в кожному такому кроці вбачає змову темних сил. Проте, напевно, не все так просто.
Йдеться не про вибір між «цифровим раєм» і «хитромудрою диктатурою», а про варіанти у творенні суспільства цифрового майбутнього. Однак для цього потрібні потужні творчі ідеї та відкритий дискурс про право на дані, демократизацію роботи алгоритмів та межі приватного. Як щодо регулярної цифрової виписки з особистого рахунку?
Варіанти рішень стосовно суспільного співіснування видаються ще складнішими. Нам слід обміркувати, як у нових умовах набувати навички взаємності, емпатії та толерантності. Тими, ким ми є сьогодні, нас зробило не те, що розділяє, а те, що об’єднує.
Відтак запрошення формулювати ідеї щодо суспільного договору в цифрову епоху стосується всіх нас. Інакше є ризик, що оцифрування обернеться проти нас самих, а суспільний дохід від нього залишиться в руках небагатьох бенефіціарів.
——–
Штеффен Мау — професор макросоціології Гумбольдтського університету Берліна. Цей текст був виголошений як доповідь на організованому Ґете-Інститутом симпозіумі культури у Ваймарі