Цей виступ можна розцінювати і як жест поваги: Сундар Пічаї, керівник Alphabet, материнської компанії Google, лише зрідка говорить публічно, інтерв’ю практично не дає. Днями в Брюсселі американець зробив виняток. На заході аналітичного центру Bruegel менеджер розповів про штучний інтелект (ШІ), технологію, яка посідає центральне місце в стратегії зростання Google на найближчі роки. Головна думка Пічаї така: невдовзі розумні машини й програми покращать світ, якщо їм дадуть це зробити.
«Я переконаний, що ШІ потрібно регулювати», — каже він. І кожному в приміщенні зрозуміло, кому адресована ця фраза — Марґрете Вестаґер, могутній віце-президентці Єврокомісії, із якою він зустрівся пізніше того самого дня. Вона є страшним сном для американських технологічних гігантів. Минулі п’ять років данка була комісаром із питань конкуренції й за цей час зажила слави рішучої борчині з антиконкурентними практиками й схемами економії податків американських концернів. Протягом попередніх двох років вона тільки Google оштрафувала на суму близько $8 млрд.
У новій Єврокомісії під керівництвом Урсули фон дер Ляєн Вестаґер не лише зберегла важливу посаду, а й має готувати Європу до діджиталізації. До цього завдання належить також створення нових правил для відповідального застосування ШІ — технології, від якої політики очікують надзвичайних стимулів розвитку, але яка водночас є дуже суперечливою. Правові межі для технології майбутнього — один із головних планів фон дер Ляєн. Google, Amazon, IBM та інші провідні концерни в галузі ШІ ретельно стежать за обговоренням у Брюсселі. Не тільки тому, що ЄС із 512 млн мешканців є одним із найбільших і найзаможніших ринків, а й тому, що правила, встановлені Брюсселем, імовірно, матимуть сигнальний характер для всього світу. Якщо вони наберуть чинності, це може стати прикладом для інших економік.
Читайте також: Штучний інтелект проти коронавірусу
Штучний інтелект — ключова технологія
Програми й алгоритми стають «розумними», оцінюючи надзвичайні обсяги даних, вони саморозвиваються через машинне навчання і якоїсь миті набувають здатності розпізнавати повторювані шаблони. Такі програми, наприклад, можуть швидше й точніше за лікарів розпізнавати в мамографіях рак грудей, виявляти грабіжників на камерах спостереження і бити на сполох або в майбутньому управляти самокерованими автомобілями. Утім, ця технологія суперечлива, адже для навчання програми мають оцінювати величезні обсяги даних. Китай лідирує в розвитку ШІ тому, що авторитарна держава значно менше, ніж Європа, зважає на захист даних. Окрім того, розумні програми повинні ухвалювати рішення. Непосвяченим людям часто незрозуміло, як алгоритми це роблять, до того ж є ризик помилкових рішень і дискримінації.
Тому для нової технології й вимагають чітких правил. Але цей план ризикований: ШІ вважають ключовою технологією ХХІ століття, Китай і США в цій сфері далеко попереду Європи. «Тут ЄС має знайти правильний баланс між сильними рамковими умовами й необхідною відкритістю для інновацій, — вважає Маркус Фербер, член групи ХСС у Європарламенті. — Європейські правила для штучного інтелекту не повинні врешті закінчитися реєстром заборон».
Те, наскільки далеко просунулася Європейська комісія у своїх роздумах про регулювання самонавчальних машин і розумних програм, демонструє внутрішній документ організації, який має Die Welt. «Структура порадника щодо штучного інтелекту: європейський погляд» — так називається 18-сторінковий документ, у якому службовці Єврокомісії висловлюють свої думки про можливе врегулювання ШІ в Європі. І ці міркування слушні. Автори пишуть, що ШІ вже принципово врегульований цілою низкою різних європейських і національних приписів. Але наявні правила мають значні прогалини. Скажімо, закони регулюють безпеку таких виробів, як мікрохвильові пічки та серцеві катетери, але в них не йдеться про послуги, які частково надають розумні машини. Прикладів із практики вистачає: досі не зрозуміло, хто має відповідати за аварію, спричинену самокерованим автомобілем.
Суворі приписи для держави й ризиковане застосування
Як застерігають автори порадника, саме питання відповідальності надзвичайно складне, коли йдеться про застосування розумних програм. Наприклад, хто має відповідати: розробник програми чи виробник товару, куди цю програму інтегровано? Чи припиняється відповідальність після зміни функції готового продукту через оновлення? Що робити, коли оновлення зумовлює нові ризики? Тому нинішні правила ЄС для внутрішнього ринку потребують доповнень задля розв’язання цих проблем. Особливо суворі приписи застосування ШІ повинні бути для державних органів, а також галузей, що мають високі ступені ризику. Зокрема, у сфері охорони здоров’я, де ШІ вже тепер може оцінювати рентгенівські знімки, або в галузі права. «Програмами високого ризику» чиновники вважають такі, дія яких, наприклад у сфері юстиції, може мати правові наслідки для людей, або ті, від яких люди можуть зазнати значних втрат, поранень чи навіть загинути.
Читайте також: Нейронні імплантати: можливості та недоліки
Окрім того, автори пропонують запровадити певний знак якості для «етичного (вартого довіри) ШІ». Він може стати важливим маркером для користувачів, допомогти їм вирішити, чи варто дозволяти компанії аналізувати їхні дані. Окрім того, суворіше, ніж тепер, має регулюватися розпізнавання облич у публічному просторі, що застосовується, наприклад, у системі, яку нині випробовує Deutsche Bahn (німецька залізниця) на вокзалі Südkreuz у Берліні. У документі також обговорюють багаторічний мораторій на розпізнавання облич у громадському просторі, доки відповідні правила не будуть ухвалені й не наберуть чинності. У документі, однак, зазначено, що це не пріоритетне рішення Єврокомісії.
Порадник, який є в розпорядженні Die Welt, — це проект дорожньої карти регулювання. До офіційного оприлюднення, яке заплановане на лютий, деякі положення можуть зазнати змін. Адже не тільки керівник Google Пічаї намагається донести свою позицію до Вестаґер та її колег. Його ставка висока, оскільки Google — один із найбільших у світі розробників ШІ та машинного навчання. До Вестаґер у нього передовсім одне прохання: над правилами щодо застосування нових технологій працюють і у Вашингтоні, тому вирішальним є узгодження норм ЄС з аналогічним регулюванням у США.