Економіка

  ▪   Юрій Лапаєв

Андрій Бурлуцький: «Етика застосування штучного інтелекту — це серйозна нова сфера, яку в Україні поки що обговорюють мало»

Фото з архіву Андрія Бурлуцького
Український ІТ-спеціаліст про майбутнє співіснування людини та роботів.
Матеріал друкованого видання
№ 23 (603)
від 6 червня

Тиждень зустрівся з менеджером зі стратегічного маркетингу компанії SMART business Андрієм Бурлуцьким, щоб обговорити наслідки впровадження штучного інтелекту (ШІ), його можливі сфери застосування та міфи довкола цього явища.

 

Якщо говорити про впровадження штучного інтелекту, то про які часові рамки йдеться — це вчора, зараз чи навпаки, далеке майбутнє?

— Перше, що треба зауважити — штучного інтелекту не існує, ідеться радше про методи ШІ, такі як «глибоке навчання» (deep learning) та «машинне навчання» (machine learning). Щодо термінів, то я завжди послуговуюся такою тезою: сьогодні використовувати ШІ скрізь, в усіх сферах людської діяльності, ще зарано, але вже запізно в окремих напрямках не використовувати його взагалі. Причина дуже проста — для цього з’явилися можливості. Уже навіть заснували нову релігію — датаїзм, послідовники якої вважають, що функції мислення та ухвалення рішень замість людини, яка вже не може впоратися з величезним обсягом інформації, сьогодні варто передати ШІ, адже він може обробити дані швидше та якісніше.

 

Щороку дослідницька компанія Gartner презентує звіт Hype Cycle, в якому детально розписує, на якому етапі розвитку перебувають ті чи інші технології. Є зародження, розвиток, пік, спад і вихід у певний продукт. За цим зазвичай слідують розчарування, доопрацювання і, нарешті, масове використання. Так ось, згідно зі звітом Gartner, кілька технологій виходять на етап продуктивності: зв’язок 5G, віртуальні асистенти й нейронні мережі. План надходжень цих технологій у масштабне виробництво й застосування — 2-3 роки з дати оприлюднення звіту 2018-го. Отже, говоримо про 2020–2022 роки, коли ми вийдемо на практичне застосування або випробування цих технологій майже всіма компаніями. Це відбудеться тому, що ці технології стають доступними, і насамперед з огляду на вартість продукту. Тоді ми отримуємо багато інформації, досвіду й зможемо зробити висновки щодо доцільності впровадження цих технологій, вигоди для бізнесу. 

 

Читайте також: Штучний інтелект: загроза чи незріла технологія

 

Які існують соціальні аспекти впровадження ШІ? Що зміниться й до чого треба готуватися людям, щоб не постраждати від технореволюції? 


— Нещодавно я дивився серіал «Мільярди». Там в одному з епізодів керівник відділу біржових аналітиків пропонує замість людей упровадити ШІ для кращого та швидшого аналізу даних ринку. В серіалі яскраво показують хаос, який почався після цього, адже всі працівники в паніці побігли до психологів, скаржилися на те, що їх ось-ось замінять роботами. Але це один із міфів. Є різні оцінки від різних компаній стосовно того, який відсоток людської діяльності можна замінити ШІ чи автоматизувати. Й оцінювання коливаються від 9% до 57%. Це нормально, це відбувається вже зараз і посилюватиметься надалі. Алгоритми ШІ опрацьовуватимуть рутинні завдання швидше та якісніше. ШІ буде більш точним порівняно з людським оком, він швидше рахуватиме, він оперативніше знаходитиме певні закономірності в даних і підказуватиме можливі рішення. Але фінальне рішення на цьому етапі все одно ухвалюватиме людина. Скрізь використовувати ШІ поки що неможливо, однак застосувати його для вдосконалення рішень людини просто необхідно. Крім того, нині в західних компаніях, та й у наших українських теж, працівники дедалі більше скаржаться на зростання навантаження. Людей накриває хвиля операційних завдань, як-от заповнення форм, вилучення чи введення даних. Якщо цю дрібну операційну роботу вдасться автоматизувати, доручити ШІ, то в працівників з’явиться час і енергія для роздумів і пошуку нестандартних рішень у межах своїх функціональних обов’язків. У них буде більше часу на креативність, хтось зможе нарешті подумати про майбутнє розвитку свого бізнесу. Впровадження ШІ також допоможе мінімізувати помилки, так званий людський фактор. 


Слід мати на увазі, що тотальна й інтенсивна автоматизація почалася із середини 1980-х років минулого століття. Однак на сьогодні, наскільки мені відомо, повністю автоматизувати вдалося лише професію ліфтера. Чи вийдемо ми на рівень, коли людину замінять на інших робочих місцях? Так, колись це станеться. Насамперед, як я зазначав, це стосуватиметься осіб, до чиїх обов’язків входить щоденне виконання схожих рутинних операцій. Наприклад, професія водія теж незабаром стане об’єктом автоматизації. Але йдеться не про всіх водіїв. Хтось із них має залишитися й займатися «навчанням» безпілотних автівок, як поводитися на дорозі. Тобто такі водії перетворяться на вчителів і тренерів. Відбудеться цікава зміна, коли ці люди отримають нові завдання, нові функції зі «спілкування» з роботизованими системами автопілоту. Водії своїм прикладом, досвідом, своєю поведінкою вчитимуть ШІ, бо він тренується на даних, наче дитина: бачить і повторює. 

технології, роботизація, алгоритми розвиваються значно швидше, ніж людина за останні дві тисячі років своєї історії. Темпи просто колосальні. До якого рівня зможуть дійти роботи, важко визначити, однак вони напевне зможуть бути рівними людині


Упровадження нових технологій, чи то нейронні мережі, чи то віртуальні асистенти, приводить до появи нових професій або до певного оновлення існуючих. Щоб керувати безпілотним дроном в агросекторі, потрібно від дев’яти до двадцяти фахівців. Це програмісти, пілот, особа, яка завантажує польотне завдання, яка розшифровує отримані дані, техніки... У Китаї «пілот дрона», «дизайнер доповненої реальності» чи «тренер ШІ» — це вже нові офіційні професії, вони внесені у відповідні державні реєстри. І це треба вміти робити, а отже, пройти відповідне навчання чи перекваліфікацію. Викладачі зі шкіл чи вишів цілком зможуть стати наставниками для ШІ, адже вони мають необхідні педагогічні навички.

 

Як роботизація вплине на економіку та ринок праці? Де роботи замінять людей?


— Якщо уявити собі ШІ як механізм, робот, то він справді може, наприклад, щось переставляти на складі. Цілодобово, без вихідних, лікарняних і відпусток. Але людська сила досі коштує дешевше, ніж роботи. І тільки людина вміє використовувати для прийняття рішень не лише аналітичні фактори й цифри, а і якісь зовнішні особливості, які неможливо оцифрувати. Інтуїції у ШІ ще дуже довго не буде, до рівня героїв фантастичних фільмів сучасні роботи зможуть дійти нескоро. 2016 року на Всесвітньому економічному форумі в Давосі було презентовано дослідження «Майбутнє праці» («Future of Jobs»), у якому аналізувалися ключові навички, необхідні працівникам у майбутньому (тоді йшлося про 2020-й). Сьогодні можна перевірити, наскільки точно був зроблений прогноз.

 

Основними навичками були названі вміння комплексно вирішувати завдання, критичне мислення і креативність. Вони стають суттєвими саме тоді, коли в людини через автоматизацію вивільняється певний час, а завдяки застосуванню ШІ надходить зовсім нова аналітична інформація. При цьому завдання людини залишається вкрай важливим — ухвалювати рішення та інтерпретувати отримані дані. Це те, чого поки що машини не вміють. Наприклад, можна створити алгоритм, який аналізуватиме й розраховуватиме продажі для точки роздрібної торгівлі таким чином, щоб продавати всі запаси без залишків. У цьому разі ШІ може підказати, де в ланцюгу виникла критична ланка, але вирішити, що з нею робити, повинна людина. Хоча є вже приклади іншої поведінки. Команда Renault у своїх гоночних болідів «Формули-1» застосовує складну систему сенсорів, інтернету речей та машинного навчання для прогнозування виходу з ладу певних агрегатів і вузлів. При цьому дані автоматично передаються на завод-виробник, щоб там завчасно виготовлялася заміна й передавалася в потрібне місце.

 

Читайте також:  Як штучний інтелект піклується про здоров’я людей

 

На ваш погляд, базовий дохід для працівників, яких замінюють роботи, — це панацея чи утопія?


— Усі розмови про небезпечні наслідки масового впровадження ШІ небезпідставні, однак значно перебільшені. І тотальна заміна працівників, і перехоплення на себе функцій ухвалення життєво важливих рішень — усе це реально, але навряд чи так фатально. Адаптація до технологічного прогресу в суспільстві вже має багатовіковий досвід. Упораємося і з цими викликами з боку ШІ. Але водночас є проблема. Слабким місцем системи постіндустріального суспільства, яка надто ускладнилася останнім часом, є не так вразливість до загроз ШІ, як реакція самої спільноти на ризики їх поширення.


Тема базового доходу не утопічна. Адже треба ж буде якось вирішувати проблему змін на ринку праці. Можливо, не сьогодні, однак років через 30 значна частка праці буде автоматизована, звільняться люди, яким треба буде чимось займатися і на якісь кошти жити. Ураховуючи, що використання ШІ сприяє отриманню компаніями додаткового доходу, ми можемо стверджувати, що з позицій економіки такий вихід існує. Тобто держави або компанії, які використовують ШІ, зможуть виділяти кошти людям, яких було звільнено в результаті тотальної автоматизації.

 

Податок на роботизацію, якщо спрощено?


— Так. Водночас із боку держави мають бути створені якісь контролюючі органи, які визначатимуть ступінь автоматизації й оцінювати додатковий прибуток, щоб на основі цих даних розраховувати суму внесків до фонду, схожого на пенсійний. В Україні поки що претендентів на такий орган немає. 


Однак універсальний базовий дохід не зможе стабільно вирішити ці проблеми. Майбутнє, в якому 99% живуть на рівні прожиткового мінімуму за рахунок використання роботизованої праці, а 1% еліти (вищий клас, який контролює роботів) будує свої імперії та заробляє небачені багатства, — хитке й вибухонебезпечне, а тому не протримається довго. 

 

Читайте також: Співбесіда з роботом

 

Що можна доручити роботам, а що варто залишити людям? Де ми не маємо права застосовувати алгоритми?


— Із великими можливостями приходить і велика відповідальність. Тому такий аспект, як етика застосування ШІ, — це серйозна нова сфера, яку в Україні поки що обговорюють мало. Попри те, етичний аспект відіграватиме ключову роль, адже той, хто створює код, програмує робота чи алгоритм, закладає в нього й певні характеристики, у тому числі й поведінку. Давайте спробуємо уявити собі робота, який робить медичну операцію (а вони справді вже існують). Залежно від принципів, які заклав у нього програміст, ми отримаємо на виході відповідний результат. Якщо дуже спростити — робот у якийсь момент може й нашкодити, якщо це не враховано у програмі. Що стосується біржової торгівлі, то в алгоритмі можуть з’явитися такі елементи, як спекуляція, отримання інсайдерської інформації, корупція. І це буде порушенням закону, принципів бізнесу та, звичайно ж, етичних норм. 

 

Однак він краще виконає свою основну функцію — заробить більше грошей порівняно з «чесним» алгоритмом…


— Так, але поміркуйте, до чого призводить корупція: вона руйнує державу й створює хаос. У такому разі ми мусимо вирішувати одночасно дві проблеми: долати наслідки автоматизації та боротися з нечесними роботами. Однак ШІ — це не обов’язково зло. Якщо алгоритм налаштований правильно, то він зможе краще, ніж людина, працювати в тих сферах, де йдеться про обробку великих масивів даних, як-от CRM, ERP та BigData, моделювання й прогнозування. І тоді заводи не вироблятимуть надлишковий товар, сховища не будуть переповнені, мінімально необхідна кількість транспорту розвезе оптимальну кількість товару по магазинах, де товар куплять і не виникне потреби в утилізації. Це, зрештою, вплине й на екологію. Тобто застосування ШІ може мати позитивний вплив і на глобальні проблеми. Наприклад, у Microsoft існує окрема програма AI for Earth, яка спрямована на вирішення глобальних проблем людства за допомогою ШІ.
Інший сфера — медицина. Тут поки що є питання в ефективності ШІ, результати надто коливаються. Адже людина може помітити якісь додаткові фактори й ухвалити правильний діагноз, Тож доцільність застосування роботів у медицині сприймається неоднозначно. Однак із допомогою доповненої реальності лікарі можуть потренуватися перед реальною операцією, відпрацювавши всі можливі варіанти й ускладнення. Тому до застосування ШІ треба підходити виважено.

 

У військовій сфері дві наддержави, КНР та США, ведуть божевільну гонку за першість у розробках ШІ. Йдеться про застосування його технологій для шпіонажу, кібератак та криптозахисту. У Китаї ухвалена на найвищому рівні стратегія застосування ШІ передбачає всі сфери діяльності, у тому числі й військову. І в цьому Пекін поки що значно випереджає Вашингтон. Китай розгортає в безпрецедентних масштабах широку мережу стеження, яка використовує досягнення ШІ та машинного навчання, для усунення внутрішньополітичного інакомислення та для оптимізації політичного контролю з боку Комуністичної партії. Якщо говорити про цифри, то Пекін інвестує понад $6 млрд у розвиток ШІ, тоді як США витрачають утричі менше. А сама національна стратегія Штатів стосовно ШІ була представлена тільки на початку цього року.

 

Чи варто остерігатися «повстання термінаторів», адже це є однією з головних доводів у противників ШІ? 


— Звичайно, чимало подейкують про найгірший сценарій — війну бойових роботів, на кшталт тих, що вже виробляє Boston Dynamics. Однак нині це малоймовірно, що зумовлено обмеженими можливостями ШІ. Поки алгоритми, які створює людина, не дійдуть до рівня, на якому вони самі зможуть ухвалювати рішення щодо тих чи інших дій, нам немає чого боятися. Учений Боріс Катц, який долучився до розробки віртуальних асистентів, упевнений, що сучасний підхід до ШІ не здатний зробити Siri чи Alexa по-справжньому розумними. Треба йти іншим шляхом: спочатку досконало зрозуміти принципи роботи інтелекту людини, а потім уже використати це для створення розумних машин. 


Однак є й інша думка: поява нових інструментів зламу може дати змогу втрутитися в керування підрозділами роботів, а це вже може призвести до негативних наслідків. Ми стаємо вразливими. І тому питання безпеки постає не менш актуально, ніж етика. Системи, в яких працюють алгоритми ШІ, повинні бути безпечними й захищеними, доступ до об’єктів, які контролюються цими системами, має бути обмежений. Це стосується не тільки військових об’єктів із бойовими роботами, а й цивільних, що належать до критичної інфраструктури. На щастя, ми поки що не бачили прикладів зламу та перехоплення керування бойовими роботами.


Однак уже є приклади, коли безпілотна автівка вбила пішохода. І це питання потребує врегулювання. Недарма після першого такого інциденту збиралося засідання в ООН, щоб вирішити питання, як на це реагувати. Необхідні детальні консультації та обговорення юристів, щоб виробити спільні рекомендації для всіх держав.

 

Чи вдасться комп’ютерам підкорити людство?


— У теорії це цілком можливо. На мій погляд, технології, роботизація, алгоритми розвиваються значно швидше, ніж людина за останні дві тисячі років своєї історії. Темпи просто колосальні. До якого рівня зможуть дійти роботи, важко визначити, однак вони напевне зможуть бути рівними людині. Сьогодні штучному інтелекту бракує інтуїції, здатності до асоціацій. Але варто враховувати темпи й новітні технології, як-от квантові обчислення, які в майбутньому значно розширять його можливості. До того ж є організації, які працюють саме над розвитком таких алгоритмів й намагаються наділити машини властивостями реального інтелекту, однак поки що дуже далекі від успіху. До речі, мені подобається творчість фантастів, адже більшість із того, про що писали кілька десятків років тому, у тій чи іншій формі сьогодні стає реальністю. 
Серед найсерйозніших та найнебезпечніших перспектив я бачу зовсім не робоапокаліпсис чи повстання машин, а поступову деградацію в людей здатності до альтруїзму, любові, дружби та кооперації, спричинену поширенням ШІ-кентаврів (так інколи називають гібридну взаємодію справжньої людини зі штучним інтелектом машини). 

 

-------------------------

Андрій Бурлуцький 2005 року закінчив Таврійський національний університет імені В. І. Вернадського за фахом «Комп’ютерні науки та математика», 2015-го — курс з маркетингу при Києво-Могилянській бізнес-школі та курс з упровадження інновацій у бізнесі при бізнес-школі INSEAD. Працює в ІТ-сфері 15 років, із яких 10 — у компанії Microsoft як керівник маркетинг-групи Microsoft Office. Спеціалізація — цифрова трансформація й предиктивний маркетинг. Працює на посаді менеджера зі стратегічного маркетингу в компанії SMART business.