Коли Apple у серпні опублікувала план протидії зображенням насильства над дітьми на своїх пристроях, компанія очевидно, не очікувала на значний опір. На перший погляд, ідея здавалася корисною справою: розробники Apple хотіли запобігти поширенню зображень і відео, що демонструють насильство над дітьми, але водночас зберегти необмежене шифрування чатів і файлів своїх користувачів.
Таке рішення Apple назвала ССК — «Скануванням на стороні клієнта» (Client Side Scanning, СSS). Себто зображення і зміст чатів мали збирати й перевіряти на пристроях користувачів ще до шифрування даних для передачі.
Тим приголомшеніша була Apple, коли захисники даних і дослідники безпеки вибухнули обуренням. Бо, як казали критики, наприклад, відомі дослідники з Массачусетського технологічного інституту й Кембриджського університету, за допомогою цієї технології розробник установить програмне забезпечення для стеження промислового масштабу на пристроях усіх користувачів.
За словами критиків, те, що вони шукатимуть, перебуватиме лише в руках Apple і національних законодавців та органів безпеки, які можуть тиснути на компанію. Тому через критику техногігант поки що відкликав цей проєкт.
Однак попри це, принаймні в Європейському Союзі, технологія моніторингу ССК може невдовзі з’явитися на пристроях користувачів, попереджають парламентарі ЄС, наприклад депутат від Піратської партії Німеччини Патрік Бреєр. Адже держави — члени ЄС воліють якомога швидше контролювати чати й медіаконтент у мережах великих інтернет-концернів. Відповідний законопроєкт зараз розглядає комісарка з внутрішніх справ ЄС Ілва Йоганссон.
Читайте також: Глобальні й небезпечні
«Американські концерни, як-от Facebook, роками таємно практикували контроль чатів на своїх серверах», — каже Бреєр у розмові з Die Welt. Водночас майже всі служби повідомлень ґрунтуються на наскрізному шифруванні. Тому, наприклад, у вотсапп і сіґнал контроль більше неможливий. До того ж тепер інтернет-сервіси підпадають під таємницю телекомунікацій, тому насправді виробники більше не можуть сканувати інформацію.
Контроль чатів має стати обов’язковим
Але це дратує політиків, які займаються питаннями безпеки ЄС. Концерни також хотіли б і далі контролювати, для чого використовують їхні послуги. «Американські провайдери звернулися до Єврокомісії у 2020 році з проханням легалізувати такі дії. У результаті минулої осені запровадили спеціальний дозвіл на сканування змісту особистих чатів», — каже Бреєр.
Тимчасовий спецдозвіл вийшов з повідомленням для всіх операторів: ЄС має намір розробити постійне законодавство, яке зробить контроль чатів обов’язковим.
Згідно з поточним проєктом, у майбутньому всім постачальникам чат-програм доведеться вже на самому пристрої інсталювати контрольне програмне забезпечення, яке за допомогою штучного інтелекту визначатиме, чи обмінюються співрозмовники забороненими зображеннями. Розрізняти мають також так званий кібергрумінг, себто незаконне спокушання дітей дорослими.
Приблизно торік схожа пропозиція, яка передбачала пом’якшення шифрування, викликала хвилювання на рівні ЄС. Причиною став проєкт резолюції від Німеччини, що тоді головувала, скерований делегаціям держав-членів у Європейській раді.
Приводом була не боротьба проти насильства над дітьми, а теракт у Відні. Хоча із зашифрованими повідомленнями, якими терористи обмінюються на на сервісах, як-от «Вотсапп», «Сіґнал» і «Телеґрам», теракт спершу не мав нічого спільного, однак дискутували саме про це.
У документі йшлося про те, що ЄС і далі підтримує надійне шифрування. Та про необхідність створити «кращий баланс» між захистом приватності, з одного боку, й боротьбою проти організованої злочинності та тероризму — з другого.
Згідно з документом, правоохоронні органи також повинні мати доступ до даних. Технічні рішення для цього мають «відповідати принципам законності, прозорості, необхідності та співмірності». «Щоб стратегічно встановити цей баланс» слід співпрацювати урядам, промисловості, дослідженням і науці.
Інструментом легко зловживати
Як саме це має працювати, не визначено й у поточному законопроєкті. Але ССК — єдина технологія, яка відповідає вимозі, з одного боку, не порушувати шифрування, з другого — забезпечувати контроль.
На те, що так ЄС упроваджує технологію на всіх смартфонах, яку згодом можуть використати авторитарні держави для контролю над дисидентами чи переслідування релігійних меншин, очевидно, не зважають. Проте протистояти наміру Євросоюзу надзвичайно складно, коментує Бреєр: «Кожного, хто каже, що це небезпечно й контрпродуктивно, вважають захисником злочинців».
Читайте також: Кіберпартнерство: об’єднання держави та бізнесу заради спільної безпеки
«Автоматичне сканування щодо інкримінованого контенту приватним бізнесом і дуже важке для контролю органами безпеки зобов’язання про інформування створює ризик того, що, з одного боку, у фокус розслідувань потраплять звичайні люди, а з другого — компанії обиратимуть для звітів незрозумілі повідомлення». Водночас приватизація таких ініціативних розслідувань означає «залежність карного переслідування від певних компаній, хоча насправді це суверенне й державне завдання».
Критично налаштований до плану ЄС і Томас-Ґабріель Рюдіґер, голова Інституту кіберкримінології у Вищій школі поліції в Бранденбурзі. «Врешті це, напевно, знову торкнеться передовсім неповнолітніх», — каже він у розмові з Die Welt. Рюдіґер посилається на цифри кримінальної статистики, згідно з якими 43% зареєстрованих злочинів, пов’язаних із дитячим порнографічним контентом, припадають на самих дітей і підлітків.
Справжніх злочинців, імовірно, не схоплять
Приблизно така ситуація з «секстингом» і «порнографією у шкільному дворі», коли 13-ти й 14-річні обмінюються непристойними фото. Себто якщо 13-річна надішле відверті кадри своєму 14-річному хлопцеві, це вважатимуть дитячою порнографією.
Ще одна проблема — групові чати «Вотсапп»: якщо хтось відправить туди проблемне зображення, а учасники чату ввімкнуть автоматичне завантаження, усі вони можуть підпасти під покарання.
Читайте також: PEN America: Цифровий суверенітет може бути зброєю масового контролю
До того ж проблематично, що кожна країна має власні правила, а тому поки що неясно, як штучний інтелект їх розпізнаватиме й диференціюватиме. Рюдіґер натомість виступає за підвищення обізнаності неповнолітніх шляхом тренінгів з медіакомпетентності, а під час аналізу закликає фокусуватися лише на так званих хеш-таблицях, себто порівнювати дані з відомими зображеннями дитячої порнографії.
Натомість інакше на це дивляться ті, чию увагу зосереджено на захисті дітей від насильства. Як-от Райнер Бекер, почесний голова Німецького товариства допомоги дітям. За його словами, загалом він розуміє застереження щодо захисту даних у планах ЄС. «Але критики таких планів уникають наголошувати на тому, що йдеться про сотні тисяч зображень насильства й сотні тисяч дітей, що постраждали від сексуального насильства, які завдяки цьому принаймні мають шанси уникнути небезпек, що й далі їм загрожують».
Якщо протиставити захист цих дітей і приватність у службах повідомлень, рішення має бути ухвалено лише на користь захисту дітей.
Єврокомісія хотіла представити закон 1 грудня, такий план уже був у календарі комісарки з внутрішніх справ Йоганссон. Але зважаючи на спротив, цього не відбудеться — тепер мають внести чергові покращення.