Брутальні, почасти відверто жорстокі, суперечливі та малозрозумілі відео заполонили інтернет, зокрема соціальні медіа, після подій в Ізраїлі. Тіло молодої жінки на пікапі в оточенні чоловіків з автоматами. Дитина з прапором Палестини, яку дорослий чоловік відправляє до машини із солдатами Ізраїлю. Зруйновані будинки в Секторі Гази. Люди, які оплакують жертв обстрілів. Діти в клітках. Схожі фото й відео стали занадто швидко поширюватися соцмережами, ускладнюючи роботу модераторів контенту — фахівців, які перевіряють правдивість контенту. Ці співробітники соціальних платформ не встигали реагувати на потоки фейків і жорстокості.
Такий контент не лише ускладнює розуміння, що відбувається в регіоні. Потоки фейків і жорстокого контенту стали новим вироком для соціальних платформ, які вкотре потрапили в пастку дезінформації, алгоритмічного відбору та швидкості, з якою користувачі розносять цей вміст. Проблеми з воєнним контентом і дописами граничного характеру активізувалися на початку повномасштабного вторгнення, стали проблемою українців, які намагалися використовувати соціальні платформи для поширення інформації про воєнні злочини росіян. Українці потрапляли під санкції модераторів соціальних платформ, часто занадто вимогливих до допустимого на платформах контенту. Саме тому нині нам дивно спостерігати за тим, як ці платформи використовують для поширення суперечливого контенту (того, який містить сцени жорстокості чи знімки мертвих людей, що прямо заборонено правилами сайтів), а ще за надто повільною реакцією адміністрації цих онлайн-сервісів на такий вміст і нездатність справитися з потоком відвертих фейків. Ця ситуація викликала реакцію європейських чиновників, які пригадали, що відповідно до недавно ухвалених законів ЄС, які стосуються цифрових платформ, ці компанії мають забезпечити оперативне видалення дезінформації зі своїх сайтів. Інакше їх чекатимуть великі штрафи або й заборона на території ЄС.
Поля бою інформаційних воєн
Після шоку перших годин і днів подій в Ізраїлі стало зрозуміло, що обидві сторони протистояння використовують соціальні платформи в інформаційній війні. Вочевидь, серед дописів, які стосувалися конфлікту, було багато фейкових. Точкові зусилля соціальних медіа щодо блокування такого контенту особливого успіху не досягали. На тлі спроб хоч якось приборкати поширення фейків і забороненого контенту виділилася платформа X (Twitter) — і не лише ексцентричною поведінкою свого нового власника.
Протягом години після початку атаки у Twitter стали масово публікувати фотографії з ознаками насилля. Ці фото були часто або старі, або відверто фейкові, а іноді вони були результатом роботи штучного інтелекту або невмілим застосуванням фотошопу до скриншотів з комп’ютерних ігор. Але найцікавіше, що поширенням цих знімків часто займалися верифіковані акаунти (із синьою галочкою). Ця ситуація стала ще одним доказом провалу ідеї платної верифікації, яка з’явилася за Ілона Маска. А загалом ситуацію з поширенням контенту в перші дні конфлікту експерти назвали повним провалом тесту, який не пройшла компанія.
Це стало прямим результатом політики Ілона Маска стосовно боротьби з дезінформацією на платформі, точніше нівелюванням створених раніше інструментів такої боротьби. До прикладу, Ілон Маск нещодавно скоротив команду, яка займалася боротьбою з фейками. Та й сам новий очільник X (Twitter) у своєму профілі посилався на акаунти, які поширювали дезінформацію.
Така політика керівництва Twitter викликала реакцію в європейських чиновників, адже це пряме невиконання європейських законів — Закону про цифрові ринки (DMA) та Закону про цифрові послуги (DSA). Єврокомісар Тьєрі Брентон попередив керівництво Twitter про недопустимість поширення фейків і порадив почати співпрацю з Європолом. В офіційній відповіді платформа запевнила, що видаляє фейки й акаунти, які їх поширюють. Вочевидь, ця відповідь не задовольнила керівництво ЄС, тож Єврокомісія розпочала розслідування діяльності компанії та перевірку, чи дійсно соціальний мікроблогінговий сервіс блокує поширення фейків. До 18 жовтня компанія має розповісти про протоколи дій у кризових ситуаціях. Якщо цей аналіз покаже, що компанія не здатна боротися з онлайн-брехнею, їй загрожує штраф до 6 % річного доходу або й повна заборона на території ЄС.
Попередження щодо поширення фейків ЄС винесли компанії Meta та закликали протягом доби розповісти, які заходи платформа вживає для боротьби з дезінформацією. У Meta повідомили, що компанія створила «Центр спеціальних операцій», до якого долучила експертів, що володіють івритом та арабською мовою, і почала співпрацювати з місцевими фактчекерами.
Дозволяти не варто забороняти? Як соціальні платформи розділилися щодо підтримки ХАМАС
Іще одним суперечливим моментом стосовно політик соціальних платформ став допуск на їхніх сторінках контенту, який підтримує угрупування ХАМАС. Цікаво, що платформи розділилися в цьому питанні. На сторінках YouTube від Google чи в дописах на Facebook та Instagram від Meta користувачі можуть підтримувати Ізраїль, закликати до миру чи оплакувати тяжке становище палестинців. Але підтримка ХАМАСу тут заборонена. У політиках спільнот цих платформ (правилах, які описують, що можна публікувати на платформах) сказано, що ХАМАС є екстремістською організацією і контент, дотичний до цієї структури, на платформах заборонено. Попри це, Meta отримала попередження від комісара ЄС щодо контенту про ХАМАС і термін 24 години, протягом якого організація має видалити вміст, що підтримує організацію. Схоже попередження озвучили й китайській відеоплатформі TikTok. Хоча цей сервіс спершу відмовлявся коментувати допустимість матеріалів щодо ХАМАС, проте згодом очільники компанії повідомили про заборону такого контенту на своїй платформі. Отримала свою порцію застережень і компанія Google щодо її відеохостингу YouTube.
Платформа Telegram, яка завжди не приділяла особливої уваги модеруванню матеріалів, вирішила не блокувати контент угрупування ХАМАС та не видаляти Telegram-канал, за допомогою якого платформа розповідає про свою діяльність. У своїй заяві Дуров розповів, що модератори Telegram видаляють суперечливий контент, проте розв’язання проблеми висвітлення воєнних дій рідко буває очевидним, і додав, що закриття каналу ХАМАС не допоможе врятувати життя людей. Окрім того, Дуров додав, що такі складні ситуації «вимагають ретельного опрацювання, яке має враховувати й різницю між соціальними платформами». Також він підкреслив, що користувачі Telegram не можуть випадково зустріти шокувальний контент: вони отримують лише те, на що підписались, і такий підхід перетворює платформу на «унікальне джерело інформації з перших рук для дослідників, журналістів і фактчекерів». Офіційний обліковий запис ХАМАС у Telegram має понад 120 тис. підписників. Там регулярно публікують жахливі відео атак на Ізраїль.
Часто контент, який уперше з’явився в Telegram, дублювався на інші платформи, передусім на X (Twitter). Завдяки цьому платформа стала однією з найбільших соціальних сервісів, який поширює жорстокий контент про події в Ізраїлі. Хоча номінально платформа забороняє контент ХАМАС, її модератори, вочевидь, не справляються з видаленням контенту. І завдяки популярності та величезній аудиторії, яка неспівмірна з кількістю користувачів Telegram, саме Twitter сприяє розповсюдженню суперечливих і жорстоких відео по всьому світу. Тому експерти назвали X центром для публікацій і відео, видалених іншими платформами за порушення їхніх правил щодо шокувального контенту й мови ненависті.
Потоки фейків
Шквал неправдивих зображень, мемів, відео та публікацій, які заповнили соціальні мережі, ускладнює саму спробу зрозуміти, що ж саме відбувається в регіоні.
Фейки, створені фахівцями спецслужб іноземних держав, стали ознакою гібридного протистояння між Росією та Україною. Потоки цих фейків лише посилилися з початком повномасштабного вторгнення. Натомість під час подій на Близькому Сході дослідники знаходять лише мінімальні докази дезінформації, що походить з-за кордону. Натомість інтернет заповнений контентом із зображеннями насилля, мовою ненависті та з погрозами, причому з обох боків. Саме цей контент разом із фейками спричинив занепокоєння представників ЄС, які вимагали від соціальних платформ швидше реагувати на такі дописи.
Ізраїльська команда протидії поширенню фейків FakeReporter, у якій працюють понад 2500 волонтерів, намагається повідомляти про підозрілий контент і розвінчувати брехливі наративи в соціальних мережах. Проте часто команда не справляється із фейками, наприклад тими, які поширюються у WhatsApp у вигляді голосових повідомлень і швидко розповсюджуються по групових чатах.
Додатковим викликом в інформаційному протистоянні на Близькому Сході стали ШІ-інструменти, причому зовсім не генератори зображень, як можна було б сподіватися. Детектори ШІ-зображень, які вміють визначити, чи була картинка або відео створені штучно, також використовуються, щоб знайти правду. Проте часто такі інструменти помиляються й ідентифікують абсолютно легітимні знімки як штучно згенеровані, тобто фейкові. Експерти назвали цей парадокс другим рівнем дезінформації та зазначили, що нині протидії таким дезінформаційними викликами не існує.
Уроки для соціальних медіа
Соціальні мережі мимоволі стають учасниками геополітичних конфліктів. Так було під час гібридної війни між Росією та Україною з 2014 року, і ця ситуація посилилися після повномасштабного нападу 2022 року. Натомість під час конфлікту на Близькому Сході соціальні мережі стали платформами, що поширювали і фейки, і жорстокий контент. Часто це старі фото та відео, до прикладу, із Сирії чи Лівії, з яких змахнули цифровий пил, до яких додали правильний підпис і які представили як, скажімо, результати звірств ізраїльтян проти жителів Сектора Гази. Через ці оцифровані прояви жорстокості, що мимоволі можуть потрапити на очі будь-кому, ізраїльським батькам порадили видалити додатки соціальних медіа з гаджетів своїх дітей, щоб ті випадково не зустрілися з граничним контентом.
Ситуація навколо соціальних платформ під час події в Ізраїлі — поширення фейків і жорстокості — стала доказом потреби змін їхніх політик і процесів модерування контенту.
Вирок, який можна винести соціальним платформам, прозвучить однозначно: попри всі зусилля та спроби вгамувати ситуацію, платформи не справилися з контентом, що стосується цього конфлікту.
Вочевидь, схожі конфлікти ще відбуватимуться у світі, а дотичні до них люди намагатимуться просувати свою версію правди, випадково чи навмисно розповсюджувати фейки й намагатися «донести правду» до світу. Соціальні платформи вимушені будуть реагувати на це. І напевно ще не раз соцмережі блокуватимуть не лише фейки й жорстокий контент, а й навіть просто згадку ворога. Усе це знайомо українцям, які знають, як Meta може карати просто за слова «Азов», «москаль» чи «русня».
Тож соціальним платформам потрібні чіткіші правила й політики щодо того, як їм діяти в умовах конфліктів. Війна в Україні та ситуація на Близькому Сході можуть стати тестовим майданчиком для запровадження глобальних змін і, можливо, для пошуку кращих механізмів, які б завадили перетворити соцмережі на сміттярки з неперевіреним і жорстоким контентом. Розв’язувати проблему варто вже сьогодні, інакше завтра, під час нового конфлікту, ми побачимо ще більш приголомшливі кадри та більш досконалі фейки.