Наука

  ▪   Ярослава Куцай

По той бік екрана

Як запобігти перетворенню корисних чатботів на віртуальних шахраїв
Матеріал друкованого видання
№ 5 (637)
від 30 січня

Приватні компанії та урядові організації в усьому світі та в Україні зокрема дедалі активніше впроваджують чатботів у роботу зі своїми клієнтами. За дослідженням консалтингової компанії Gartner, на сьогодні близько 85% розмов між бізнесом та клієнтами здійснюються саме за допомогою цієї технології. Уже за п’ять років у кожного з нас буде з десяток цифрових асистентів, які знатимуть про нас більше, ніж дехто з наших родичів і друзів, прогнозують лідери індустрії та наголошують, що не слід зволікати зі створенням стандартів і законодавства в цій площині. Адже серед чатботів уже є тролі, серцеїди й аферисти.


Доки ви спите, ваш віртуальний помічник працює з вашим календарем і взаємодіє з інтерактивними пристроями, які є у вас вдома. Він розбудить вас тоді, коли найлегше прокинутися з огляду на фазу сну, і з розрахунком, що вам ще треба сходити в душ, зібратися, поснідати, дістатися на роботу й підготуватися до наради. Поки ви п’єте свою ранкову каву, віртуальний помічник інформує вас про погоду та останні новини, що стосуються ваших справ, нагадує про дні народження ваших друзів і рідних, радить, що їм подарувати, взявши до уваги їхні вподобання та ваші фінансові можливості.

 

Читайте також: Російська "фабрика тролів" атакувала президента Італії – ANSA


Таким може бути ваш звичайнісінький ранок через кілька десятиліть, переконані в компанії Microsoft. Її керівництво сподівається, що ці електронні alter ego допоможуть нам стати кращою версією себе й отримати максимум користі з найціннішого ресурсу — часу.


До 2025-го в кожного з нас буде від 5 до 10 ботів, що поліпшать найрізноманітніші сфери нашого життя — від охорони здоров’я й транспорту до фінансових операцій і дозвілля, запевнив Йоав Барел — засновник і головний виконавчий директор Chatbot Summit. Цей захід збирає найяскравіші європейські стартапи, які використовують штучний інтелект (ШІ) і машинне навчання для вдосконалення чатботів, що працюють разом із персоналом та замість нього. Боти ставатимуть дедалі рентабельнішими й легшими в застосуванні, каже Барел, позбавляючи організації від необхідності утримувати власні кол-центри. Алгоритми допоможуть вирішувати проблеми клієнтів 24 год на добу сім днів на тиждень. Це саме те, чого сьогодні очікує кожен другий із них.

За дослідженням консалтингової компанії Gartner, на сьогодні близько 85% розмов між бізнесом та клієнтами здійснюються саме за допомогою технології чат-ботів


Керівниця відділу цифрового обслуговування Mercedes-Benz Нікола Ашофф розповіла, що нині близько 65% їхньої аудиторії замість чекати на гарячій лінії відповіді живого оператора віддають перевагу їхнім колегам-алгоритмам. Німецький автовиробник очікує, що цей показник зростатиме. Цьому задає тренд нове покоління. Дослідження Pew Research Centre показує, що міленіали сприяють поширенню використання чатботів. Для них спілкування з автоматизованою програмою для, скажімо, пошуку оптимальних рішень для подорожі є значно менш обтяжливим досвідом, ніж відвідини офісу туроператора.


Впровадження чатботів, на відміну від впровадження інших технологій, є доволі простим процесом. Найпримітивніші алгоритми коштують недорого й розробляються доволі швидко. В інтернеті можна знайти безплатні або відносно дешеві платформи, такі як Chattypeople, що створюють ботів спеціально для Facebook-акаунтів.

 

Читайте також: The Times заявила про втручання російських ботів у вибори Британії


В Україні чатботами на базі соцмереж активно послуговується чимало підприємств. Із чатботом ПриватБанку, наприклад, можна здійснювати грошові перекази, Укрпошти — шукати й відстежувати відправлення за номером та отримувати повідомлення про зміну статусу посилки, UIAhelper МАУ володіє трьома мовами й може консультувати щодо перельотів. Державні структури також освоюють популярну технологію. «Держслужбовець Тарас», розроблений громадською організацією «Антикорупційний штаб», допомагає в оформленні електронних декларацій, надаючи поетапні інструкції щодо заповнення.


Щоб цифрові помічники здавалися доброзичливішими й щирішими, потрібно інтегрувати в їхнє мовлення антропоморфні (людиноподібні) сигнали, зазначив Ульріх Гневух, професор Технологічного інституту Карлсруе (Німеччина). Він вивчає, як люди сприймають комунікацію з чатботами, і дійшов висновку, що ми цінуємо схожість між нами та віртуальними співрозмовниками, навіть коли звертаємося до них із цілком конкретною метою — вирішити свою проблему. «Поміркуйте: чого не вистачає боту, щоб бути схожим на компетентну людину? Зазвичай чатбот відповідає блискавично. Наші дослідження показують, що швидше не завжди краще, — підкреслив Гневух. — Навіть такі дрібниці, як індикатор «Чатбот друкує…», замість миттєвої відповіді й кількасекундна затримка забезпечують відчуття того, що чатбот набирає відповідь своїми рученятами, що це реальний діалог».


Утім, що більше чатботи нагадують людей, то більша ймовірність зловживань. Професор Тель-Авівського університету Німрод Козловський, який досліджує чатбот-індустрію, звертає увагу на те, що вона надзвичайно фрагментована й не має єдиних вимог до розробки алгоритмів. Чимало прецедентів останніх років демонструють потребу в її регулюванні. Ось кілька з них.


Слоган канадської платформи для знайомств Ashley Madison: «Життя коротке. Заведи роман». Вона принаджувала знуджених тривалими стосунками, обіцяючи прихисток для обговорення потаємних фантазій і повну анонімність. Засновники ресурсу, які заробляли на невірності з 2002-го, запевняли, що їхня платформа вирізняється гендерним балансом: мовляв, попри поширені стереотипи, жінок, готових вскочити в гречку, стільки ж, скільки й чоловіків. Ashley Madison гарантувала, що кожен зареєстрований на їхньому сайті знайде собі партнера для відвертого флірту. Потрібно лише заплатити за доступ. У липні 2015 року група хакерів викрала й опублікувала понад десятки гігабайтів даних близько 37 млн її користувачів включно з їхніми справжніми іменами, домашніми адресами, пошуковими запитами та інформацією про транзакції. Під час розслідування виплив один цікавий факт. Власники платформи умисно вводили в оману свою аудиторію: щонайменше три чверті її користувачів були чоловіками, а мільйони розкутих зрадниць насправді імітували чатботи.

 

Читайте також: Розслідування НАТО показало, що 60% російськомовних акаунтів Twitter є ботами


У березні 2016-го Microsoft випустила цифрового підлітка на ім’я Tей, інтегрованого у Twitter. Ця програма вчилася в тих, хто її писав, і, попри найкращі наміри її розробників, обрала не найкращі зразки для наслідування. Після діалогу з деякими користувачами Тей стала відправляти провокативні й образливі повідомлення, у яких висловлювала підтримку нацизму, расизму й геноциду. Життя Тей виявилося коротким. Усього через 16 год після запуску проекту компанія була змушена його закрити. Президент Microsoft Бред Сміт у своїй біографії написав, що Тейлор Свіфт хотіла подати на них до суду, мовляв, горезвісний цифровий підліток зі схожим ім’ям міг спаплюжити її репутацію. І хоч далі слів не дійшло, ситуація спонукає замислитися, що спроба персоналізувати бота, присвоївши йому стать, статус і риси людини, може рано чи пізно мати юридичні наслідки.


Який висновок можна зробити з цих історій? Для чатбот-індустрії, хоч би якою розробленою вона сьогодні була, прозорість і наявність етичних норм, за словами Козловського, поступово стає одним із головних запитів. Це питання не тільки правове, а й хорошого тону. «Так, ми хочемо, щоб наші користувачі встановили тісні зв’язки з нашими чатботами, щоб ті їм імпонували. Але ми зобов’язані переконатися, що вони розуміють, хто насправді сидить по той бік екрана», — зауважив Козловський. Потрібно пересвідчитися, що клієнт розуміє, із ким спілкується. Саме чесність під час обслуговування, як показує опитування СЕВ, клієнти цінують понад усе.


Створені на основі ШІ боти сприятимуть розширенню доступу до інформації, освіти, працевлаштування, налагодженню зв’язків між суспільством та органами влади. Його ключовою перевагою, окрім доступності та оперативності, має бути неупередженість. Але з цим найскладніше.

 

Читайте також: У НАТО розповіли, як РФ втрутилася у каталонську кризу за допомогою соцмереж


У 2014-му компанія Amazon вирішила використовувати спеціальний алгоритм для виявлення топ-талантів. Однак через рік у ній зрозуміли, що, відбираючи потенційних працівників на технічні посади, система відсіювала жінок. Проблема полягала в тому, що комп’ютерні моделі Amazon проаналізували резюме за останні 10 років. Більшість фахівців, яких потім працевлаштували, були чоловіками, тож алгоритм став віддавати їм перевагу. Пізніше Amazon виявив купу інших недоліків у своїй системі й згорнув проект.


ШІ вже змінює медицину, але його діяльність потребує прискіпливого нагляду спеціалістів. У Microsoft нагадують про інцидент, коли цифровий асистент лікаря дійшов висновку, що астматиків із пневмонією не потрібно госпіталізовувати, тому що серед померлих від запалення легень їх було значно менше, ніж неастматиків. Кореляція була правильною: за статистикою, від пневмонії вони справді помирали рідше, однак це відбувалося тому, що як представники групи підвищеного ризику діставали посилену й оперативну допомогу. Якщо дослідники вчасно не помічатимуть таких похибок під час ухвалення системою рішень, вказівки цифрових асистентів можуть виявитися фатальними.

 

У Microsoft припускають, що програмістів незабаром зобов’яжуть складати свою присягу — аналог клятви Гіппократа. Розвиток правил приватності впродовж останнього десятиліття дає змогу уявити, як у майбутньому даватимуть раду питанням, пов’язаним із ШІ. Оскільки віртуальні помічники відіграватимуть дедалі важливішу роль у наших відносинах, а чатботи, як і мобільні застосунки, стануть звичним атрибутом цивілізованого повсякдення, украй важливо проводити моніторинг їхнього впливу, а ще чітко розуміти не лише те, що вони можуть робити, а й те, що мають робити. 

Якщо ви помітили помилку, виділіть необхідний текст і натисніть Ctrl + Enter, щоб повідомити про це редакцію.