Медіа-активіст Уба Батлер вирішив перевірити, чи можна довіряти відгукам у популярних рекомендаційних сервісах. Він створив сторінку ресторану в сервісі TripAdvisor. Заклад із назвою The Shed at Dulwich нібито працював лише за попередньою домовленістю. На його сторінці були фотографії страв (як згодом виявилося, їх зробили з підручних матеріалів: піни для гоління чи ватних дисків) і знімки заднього двору автора цієї ідеї.
Щоб просунути свій ресторан у TripAdvisor, Уба звернувся до друзів, які почали писати схвальні відгуки про його фейковий заклад. Ресторан почав підніматися в рейтингу на TripAdvisor. А охочі забронювати столик отримували стандартну відповідь, що на найближчі тижні в закладі все зайнято. За півроку ресторан став найкращим у Лондоні за версією TripAdvisor.
Перед завершенням експерименту Уба Батлер на один вечір відкрив свій ресторан для відвідувачів, запросив професійного шеф-кухаря й діджея. Проте особливого задоволення від візиту гості не отримали і штучний рейтинг псевдоресторану обвалився. А результатом експерименту став висновок про те, що онлайн-рейтинги дуже легко обманути. І не лише рейтинги, а й будь-які онлайн-сервіси та їхніх користувачів, якщо поставити собі таке за мету.
Читайте також: Не боятися змін
Хто такі цифрові самозванці й чому вони небезпечні
Активність онлайн-взаємодій у повсякденному житті породила нове явище: цифрових самозванців і фейкових особистостей. Цифрові самозванці бувають у різних виявах: від простих «віртуалів» (копій) неіснуючих людей до акаунтів, створених програмами та алгоритмами.
До них належать, по-перше, акаунти тих, хто намагається заробити на недостовірній інформації про себе, свою діяльність чи свій бізнес; по-друге, це профайли людей, яких не існує в реальному житті, чи акаунти-підробки, які можуть видавати себе за відомих людей або компанії; по-третє, це профайли, створені автоматично з різною метою: від «накруток» показників соцмереж до здійснення різноманітних експериментів.
Такі профайли небезпечні і для окремих користувачів, і для розвитку соцмереж загалом. Споживачі онлайн-послуг чи покупці товарів в інтернеті можуть легко стати їхніми жертвами. Отримати неякісний товар як мінімум неприємно, а неможливість його повернути означає фінансові втрати. Але значно дорожче може обійтися замовлення послуг у фейкового фахівця.
Фейкові акаунти оригінальних профайлів можуть уводити в оману користувачів, які швидше повірять у те, що пише нібито відома людина чи компанія. Бувають випадки, коли користувачі сприймали фейковий профайл як оригінальний і зверталися до нього за допомогою у розв’язанні проблем. Наприклад, у Twitter колись був підробний акаунт авіакомпанії EasyJet, із яким комунікували клієнти компанії.
Читайте також: Штучний інтелект: заявки на лідерство
У 2018 році журналісти видання New York Times виявили понад 250 акаунтів, які видавали себе за топ-менеджерів компанії Facebook: Марка Цукерберга й Шеріл Сандберг (такі сторінки були і у Facebook, і в Instagram, і в Twitter). Насправді це були підробні акаунти, проте вони провадили активну діяльність і взаємодіяли зі своїми підписниками. А їхніх читачів не насторожив факт, що навряд чи керівник Facebook організовуватиме розіграш серед своїх підписників, у якому для отримання призу проситиме перерахувати йому $200.
Утрати для бізнесу
Утрати для бізнесу від фейкових онлайн-акаунтів оцінити складно, бо таке шахрайство не виділяють в окремий вид, а статистику збитків, спричинених лише підробними акаунтами, не фіксують. Проте для загального розуміння масштабу проблеми можна пригадати такі відомості:
— компанія YouTube у IV кварталі 2019 року видалила близько 3 млн відеороликів і заблокувала близько 1,8 млн акаунтів через порушення, пов’язані з шахрайством;
— 16% усіх акаунтів у Facebook є фейковими або дублікатами;
— у I кварталі 2020 року Facebook виявила понад 1,7 млрд фальшивих акаунтів (див. 16% привидів).
Прикладом реальних утрат для бізнесу від цифрових самозванців є історія засновника компанії Ripple і криптовалюти XRP Бреда Ґарлінґхауса.
На сторінках різних соціальних сервісів час від часу з’являлися акаунти-підробки профайлу керівника Ripple Бреда Ґарлінґхауса. Зловмисники пропонували користувачам перераховувати їм свої цифрові гроші у криптовалюті XRP, щоб натомість отримати ще більші кошти. Незважаючи на те, що такий вид шахрайства досить відомий у криптовалютній індустрії, дехто вірить у реальність таких схем. І важливим чинником довіри є особистість керівника криптовалютної компанії: директора Ripple Бреда Ґарлінґхауса. Особливо активними зловмисники були на сторінках YouTube.
Боротьба самого Ґарлінґхауса проти шахраїв виявилася неуспішною, а адміністрація YouTube не надто активно реагувала на діяльність злочинців, тому цьогоріч у квітні компанія Ripple подала в суд на YouTube із вимогою активніше видаляти шахрайські схеми після їх виявлення. Ґарлінґхаус у позовній заяві стверджував, що така злочинна бездіяльність YouTube призвела до фінансових утрат власників криптовалюти XRP та падіння її вартості.
Які бувають цифрові самозванці
Різноманіття цифрових самозванців дуже велике. Проте ми спробували з’ясувати, якими бувають ці цифрові брехуни.
Фейкові фахівці й експерти
Такі цифрові самозванці навчились успішно обманювати свою аудиторію й заробляти на її довірі. У їхніх профайлах можна виявити відгуки про успішну роботу, побачити їхні фейкові дипломи й сертифікати, знайти фейкове підтвердження їхніх експертиз і успішності. Мистецтво обману людей у їхньому виконанні досягло найвищого рівня, і часто навіть обдурені ними жертви не підозрюють, що вони мали справу з шахраями.
Підробний фахівець чи експерт пропонуватиме свої послуги без відповідного професійного досвіду чи ліцензії, продаватиме підробні товари, які насправді мають не такий вигляд, як на фотографіях. Журналісти можуть стати жертвами таких фейкових експертів, коли беруть у них коментарі чи запрошують на інтерв’ю.
Один із найвідоміших прикладів фейкового Twitter-експерта — акаунт американки Дженні Абрамс, який цитували відомі медіа, зокрема BuzzFeed, The Telegraph, The Washington Post, The Independent і The New York Times. Нібито Дженна писала про різні речі, але ближче до виборів 2016 року вона зосередилася на політиці. Проте згодом виявилося, що її акаунт — продукт російської фабрики тролів, тому його було заблоковано.
Instagram в Україні став чи не найпопулярнішою онлайн-платформою для малого бізнесу, то ж саме тут ризик натрапити на фейкового фахівця доволі високий. Instagram буквально заполонили доморощені дієтологи, фітнес-тренери без освіти й викладачі чого завгодно: від іноземних мов до онлайн-просування. Тут можна знайти навіть такі екзотичні послуги, як юридичні консультації через Instagram чи навчання музики на цій платформі.
Найвідоміший приклад викриття такого фейкового Instagram-експерта здійснили журналісти кількох російських медіа щодо популярної Instagram-блогерки Єлєни Корнілової. Публікація на сайті «РБК Стиль» статті про її «унікальну методику» привернула до неї увагу російських учених, які засумнівались у компетентності фахівчині. Подальше розслідування журналістів засвідчило, що насправді жінка, яка рекомендує купувати БАДи (деякі її схеми передбачали прийом понад 20 пігулок на день) і продає вебінари з оздоровлення, не має відповідної освіти: ні в Мюнхенскому технічному університеті, де вона ніби отримала диплом магістра, ні в Національному університеті Сингапура, де вона наче навчається в аспірантурі, про неї не чули, листи від адміністрації цих університетів підтвердили цей факт. Про Корнілову та її шкідливу діяльність написали одразу кілька видань.
Читайте також: Чи мають діти вчитися людських цінностей на алгоритмах?
На момент розслідування в Корнілової було 280 тис. підписників в Instagram. Нині її акаунт не видалено, він досі успішно працює, як і її сайт. За рік, що минув від часу викривальних публікацій, кількість підписників її сторінки вже перевищила 480 тис., неіснуючих дипломів на видному місці немає, зате на сайті з’явився розділ «Обмеження відповідальності», у якому вказано, що всю інформацію подано для ознайомлення, а приймати рішення користувачі повинні після консультації з лікарем.
Фейкові благодійники
Один із найбільш ницих видів діяльності цифрових самозванців — фейкові благодійники. Це справжні шахраї, які різними способами звертаються до всіх користувачів інтернету чи до конкретних осіб із проханням фінансової допомоги нібито на лікування хворих дітей. Зважаючи на велику кількість таких прохань у мережі, робота фейкових благодійників не викликає особливих труднощів. Їм нескладно створити сторінку з історією хвороби чи з відкритих джерел зібрати інформацію про нібито хвору дитину. Є випадки, коли такі шахраї створювали фіктивний «благодійний фонд», працівники якого отримували відсоток від платежів від обдурених благодійників.
Боти й віртуальні акаунти
Ботом ми назвемо акаунт людини, якої не існує в реальному житті. Це повністю вигадана особистість, присутня лише у віртуальному просторі, тобто якій немає відповідника в реальності. Бота створюють і з певною метою, і задля розваги.
Ботів можна вважати найменш шкідливими «віртуалами». Утрата для пересічного користувача від їхньої діяльності мінімальна, але це лише на перший погляд. Найнебезпечнішими для існування соцмереж як платформ для поширення контенту й комунікації користувачів становлять боти, яких використовують для коментування постів і того, щоб публікувати в соцмережах фейки та коментарі певного спрямування. Діяльність таких ботів часто пов’язують із політичними замовленнями.
Про небезпеку діяльності ботів журналісти «Слідство.інфо» при підтримці «Громадського ТБ» зняли документальний фільм «Я — бот», у якому показали, як на останніх виборах до парламенту такі фейкові акаунти на замовлення політиків «розганяли» в соцмережах потрібні точки зору. Найвідоміший приклад деструктивного впливу ботів — діяльність російської «фабрики тролів», яка приховувалася під назвою «Агенція інтернет-досліжень». Ця структура використовувала фейкові акаунти в соцмережах для просування власних інтересів. Зокрема намагалася вплинути на результати виборів президента США у 2016-му й виборів у Сенат США у 2018 році.
Розслідування діяльності цієї мережі призвело до жорсткішої модерації контенту з боку Facebook і до новин про блокування мережі акаунтів, дотичних до її діяльності. Через це компанія Facebook оголосила, що планує перевіряти замовників популярної в американських користувачів реклами.
За останні роки компанія Facebook кілька разів звітувала про видалення мережі ботів, учасники якої займалися деструктивною діяльністю і в Україні, зокрема поширювали фейки. Найвідоміші випадки, які стосуються України, — це видалення 72 українських акаунтів і 35 сторінок «за неналежну активність під час президентських виборів 2019 року» (новина від липня 2020-го) і видалення 168 акаунтів, 149 сторінок, 79 груп (що разом мали 4,2 млн підписників), які «провадили скоординовані кампанії з дезінформації» (вересень 2019-го).
Діяльністю ботів досі послуговуються всі зацікавлені в поширенні фейків. До прикладу, дослідження вчених з Університету Карнеґі — Мелона на основі аналізу 200 млн твітів про коронавірусну хворобу засвідчило, що 45% — це публікації ботів, а основні теми їхніх дописів стосуються того, що хвороби немає, що її небезпеку перебільшено, що хвороба пов’язана з поширенням технології 5G.
Читайте також: Штучний інтелект: загроза чи незріла технологія
Нещодавнє дослідження, яке здійснила компанія PlusOne щодо активності українців у соціальних мережах, засвідчило, що у віковій групі 19–26 років проникнення сервісу Instagram становить майже 100%. Це означає, що кожен житель нашої країни з цієї вікової групи має акаунт у цій соцмережі. Або, що реалістичніше: у деяких молодих людей є по декілька профайлів в Instagram. У такому разі додаткові до основного акаунти можна назвати ботами.
Аналітики маркетингової агенції Mediakix вирішили перевірити, чи можна створити ефективного бота. Мета їхнього експерименту полягала у створенні акаунта віртуального персонажа й розкрутці його до таких показників, які давали б йому змогу заробляти на рекламі. Агенція створила два фейкові акаунти в Instagram. Її віртуальними персонажами стали модель Алекса Рей із ніком calibeachgirl310, яка цікавилася модою, та фотографиня-мандрівниця Аманда Сміт із ніком wanderingggirl (обидва акаунти нині недоступні). У першому профайлі автори експерименту поступово розміщували фотографії, що були результатом фотосесії найнятої моделі, а в другому використовували стокові фотографії з блондинками, які не дивляться в камеру. Наступним кроком експериментаторів стала покупка підписників. Почали з тисячі на день, а якось купили й 15 тис. підписників. Це обійшлося в кілька доларів за тисячу підписників. Потім так само купували лайки й коментарі. Коментар обходився у близько $0,12, лайки коштували так само, як підписники. Коли обидва акаунти перейшли межу в 10 тис. підписників, автори експерименту почали шукати рекламні контракти. І пошуки виявились успішними: виробники алкоголю, місцевої їжі та купальників стали першими рекламодавцями.
Результат експерименту такий: мінімальні зусилля з боку авторів ідеї та затрати в $1 тис. на два акаунти втілились у рекламні контракти. Зважаючи на силу Instagram-маркетингу або маркетингу інфлюенсерів, порівняно з іншими видами реклами, можна сказати, що ці віртуальні самозванці займалися таким самим обманом своїх підписників, яким займаються інші фейкові онлайн-втілення. Лише в цьому випадку на кону була довіра аудиторії.
Крадіжка особистості
Відносно новим методом створення підробних акаунтів стала крадіжка цифрової особистості. Він полягає в повному або частковому клонуванні сторінки жертви. У першому випадку в реальної людини з’являється повний віртуальний клон: копія її акаунта, який може діяти від її імені. Наприклад, писати друзям повідомлення з проханням позичити грошей, як варіант — такий акаунт-клон може бути ботом, що поширює потрібну замовникам інформацію або подає неправдиві відомості про інших користувачів і компанії чи займається політичною пропагандою в мережі. Частковий клон — це профайл, який вибірково копіює контент із сторінки користувача. Наприклад, зловмисники можуть використовувати фотографії жертви, у кращому разі, на іншому акаунті, у гіршому — для створення рекламних оголошень.
Віртуальні особистості та deepfake
Іще один вид «новітнього» цифрового самозванця — повністю віртуальна особистість. Наприклад, робота алгоритмів і графічних редакторів втілилась у віртуального інфлюенсера Ліл Мікаелу, яка є результатом діяльності стартапу Brud із Каліфорнії. Сторінка Ліл в Instagram має 2,5 млн підписників, «дівчина-робот» публікує фото та відео, й інтерес до них величезний, якщо оцінювати його за кількістю соціальних реакцій і коментарів, до того ж не зважаючи на те, що в описі профайлу написано: Lil Miquela — Change-seeking robot (робот, що шукає зміни). Її YouTube-акаунт має понад 200 тис. підписників, а деякі музичні відео, де Ліл співає й танцює, набирають мільйонні перегляди. Реалістичність персонажа в соцмережах така висока, що поява історії Ліл про те, як вона нібито зазнала сексуального домагання, викликала спочатку ажіотаж у медіа й соцмережах, а потім шквал засуджень і звинувачень у намаганні авторів віртуального персонажа експлуатувати популярні в суспільстві теми для привернення уваги.
Технології глибинних фейків (deepfake) теж використовують для створення цифрових самозванців і високоякісних підробок. Найнебезпечніше те, що такі deepfake-інструменти вже стали доступними всім охочим. Один із результатів роботи таких сервісів — акаунт «Ілона Нейро ТП», автор якого розміщує в Instagram фотографії дівчат-блогерок з обличчям Ілона Маска. У поясненні до профайлу сказано, що акаунт веде нейромережа, навчена на тисячах Instagram-акаунтів реальних користувачів. Профайл існує для реклами мобільного додатку reflect.tech, призначеного для створення deepfake-фото й відео.
Довіряти, але перевіряти
Довіра до цифрових підробок пояснюється величезною кількістю причин: починаючи з традиції довіряти медіа (для користувачів старшого покоління) і закінчуючи формуванням довіри на тлі ілюзії знайомства з блогером чи фахівцем, яка виникає, якщо довго спостерігати за профайлом.
Instagram — це майже неконтрольована платформа для продажу товарів і послуг, учасники якої живуть за своїми законами й нормами, саме тому соцмережа стала буквально розсадником пропозицій тренерів, дієтологів і вчителів без дипломів та досвіду.
Як засвідчили неодноразові експерименти, навіть велика кількість підписників не є гарантією надійності профайлу, а цей фактор часто використовують користувачі для самозаспокоєння й самопереконання в надійності та якості профайлу: нібито в магазині зі 100 тис. підписників точно не надурять. Насправді такі цифри нічого не означають, особливо зараз. Instagram як контент-платформа не передбачає розміщення посилань, що також сприяє більшому рівню довіри і знімає певну відповідальність із користувача, якому часто просто не хочеться перевіряти, чи справді пропонований товар ефективний, система харчування корисна, а вправи результативні.
Часто пропозиції товарів і послуг подають у максимально простій і категоричній манері, яка не передбачає жодних сумнівів в ефективності того, що продає власник акаунта. Водночас коментатори є «живими» свідками ефективності пропозиції, особливо якщо не думати про те, що серед них також багато цифрових самозванців. А справжніх жертв шахрайства власник акаунта вніс до чорного списку й вони більше не можуть писати коментарі.
Уберегти себе від їхніх пропозицій може людина із розвиненим критичним мисленням і високим рівнем недовіри до навколишнього світу. Тож довіряти, але дуже уважно перевіряти — це чи не єдиний спосіб захистити себе й інших від послуг псевдофахівців. Певну допомогу можуть надати групи в соцмережах, у яких публікують скарги на продавців і шахраїв.
Наразі відповідальність за взаємодію з цифровими самозванцями перебуває лише на кінцевих користувачах: на споживачах їхніх послуг і тих, хто береться відповідати на коментарі ботів. Проте активність таких профайлів, поява нових технологій у створенні підробок і фейків, deepfake і соцмережі засвідчують, що без втручання платформ, де «пасуться» цифрові самозвані, ця проблема з року в рік лише посилюватиметься.