Світ

  ▪   Генрі Кіссінджер
  ▪   © 2018 Axel Springer SE. Alle Rechte vorbehalten

Чи мають діти вчитися людських цінностей на алгоритмах?

Великому геостратегові та зовнішньому політикові Генрі Кіссінджеру вже 95 років. Але він роздумує над сучасною технікою й загрозами для демократій. Кіссінджер побоюється, що машини маніпулюють людьми

Три роки тому на порядку денному конференції на трансатлантичні теми було питання штучного інтелекту. Я вже думав пропустити засідання, бо тема була поза моїми звичними інтересами, але початок презентації затримав мене.

 

Референт описував комп’ютерну програму, яка незабаром стане викликом для міжнародних чемпіонів із ґо. Для мене це було неочікувано. Комп’ютер опановує ґо — гру, що складніша за шахи? Машина, казав референт, тренує сама себе: програє незчисленні партії, розуміє власні помилки й відповідно покращує свої алгоритми. І справді, незабаром після цієї презентації програма штучного інтелекту під назвою AlphaGo обіграла найпотужнішого у світі гравця ґо.

 

Під час презентації мій досвід історика й принагідно практикуючого державного діяча спонукав мене вдатися до роздумів. Який вплив на історію можуть мати самонавчальні машини, що здобувають знання через власні процеси та використовують їх для цілей, де відсутня категорія людського розуміння? Чи навчаться вони комунікувати між собою? Як оцінюватимуть новопізнані опції? Чи можуть люди піти шляхом інків, які раптово зіткнулися з незбагненною для них іспанською культурою, що переважала? Щоб заповнити прогалини в знаннях техніки, я організував низку неформальних зустрічей. І вони лише посилили мої побоювання.

 

Читайте також: Штучний інтелект в очікуванні нового лідера

 

Винаходом, який найпомітніше змінив сучасну історію, було друкарство. Через нього пошук емпіричного знання витіснив літургічне вчення. Індивідуальне пізнання та наукові відкриття прийшли на зміну вірі як головному критерію людської свідомості. Інформацію систематизували в бібліотеки. Епоха розуму привела до сьогоднішнього укладу світу.

 

Тепер у цей уклад втручається ще значніша революція техніки. Її результатом може стати комп’ютеризований світ, що тримається на даних та алгоритмах, а не на етичних і філософських нормах. Уже сьогодні початки цього помітні в інтернеті.

 

Просвітництво намагалося підпорядкувати істини, що передавалися з покоління в покоління, вільному аналітичному розуму. Мета інтернету — кодифікувати знання збором та обробкою дедалі більших масивів інформації. Людське пізнання втрачає індивідуальний характер. Індивіди стають даними, дані — масштабом.

 

Користувачі інтернету віддають перевагу простому отриманню інформації та маніпулюванню нею замість розуміння її значення у взаємозв’язках чи структурах. Запити з історії та філософії трапляються рідко. Зазвичай шукають щось для безпосередніх практичних потреб. Пошукові алгоритми можуть передбачати преференції окремих клієнтів і робити їх доступними для третіх осіб та їхніх політичних чи комерційних цілей. Правда стає відносною. Мудрість ризикує втопитися в інформації.  

 

Читайте також: Якою буде зброя майбутнього?

 

У соціальних медіа користувачів від роздумів стримує незчисленна кількість думок. Багато технофілів навіть хоче втекти в інтернеті від самотності, якої вони так бояться. Це послаблює силу волі, що необхідна для формування стійких переконань. Формування таких переконань — самотнє сміливе починання, але воно є есенцією креативності. 

 

Особливо виразний такий вплив інтернету на політику. Здатність завдяки алгоритмам тримати в полі зору найменші групи витісняє дотеперішнє зосередження на загальних політичних пріоритетах та вузькоокреслених цілях і недоліках. Політики, цілковито сфокусовані на таких нішевих вимогах, більше не мають часу для напрацювання візії суспільства.

 

Орієнтація цифрового світу лише на темп гальмує рефлексію, заохочує радикальне замість обдуманого. Його цінності творяться консенсусом дрібних груп, а не самоконтролем і пізнанням. Акумулювання та аналіз величезних обсягів інформації відкривають небачені можливості. Ймовірно, найважливішою з них є штучний інтелект, який може вирішувати складні, позірно абстрактні проблеми через процеси, схожі на людський розум.  

 

Читайте також: Майбутнє війн: від «Залізної людини» до біологічного комп’ютера

 

Це виходить далеко за межі звичайної автоматизації. Раціоналізацією та механізацією вона досягає чітко заданих цілей. Натомість штучний інтелект виходить із кінця, ставить власні цілі. Оскільки їх реалізація залежить від факторів, які штучний інтелект спершу сам має створити, його системи неминуче нестабільні. Вони постійно в русі, оскільки весь час реєструють нові дані, аналізують їх, а тоді на основі цього намагаються самовдосконалитися.  

 

Таким чином штучний інтелект розвиває здатність, яка досі була характерна лише для людей. Він приймає стратегічні рішення про майбутнє частково на основі наперед установлених даних (наприклад, комп’ютерного коду гри), частково на основі самоотриманих (штучний інтелект сам мільйони разів грає в гру й при цьому вчиться). 

 

Автопілотована машина унаочнює різницю між керованими людьми комп’ютерами та універсумом, у якому панує штучний інтелект. Застосуймо часто вживану гіпотезу: що станеться, якщо така машина буде змушена обирати між смертю старої людини та дитини? Кому вона збереже життя? Чому? І чи зможе обґрунтувати своє рішення?

 

Автопілотовані машини домінуватимуть на вулицях

 

Якби такий автомобіль міг говорити, його правдивою відповіддю, можливо, було б: «Не знаю, бо я дотримую математичних, а не людських принципів» або «Ви не можете зрозуміти це, бо мене запрограмували їздити відповідним чином, а не пояснювати це». І, попри все, здається, що автопілотовані машини вже в найближче десятиліття домінуватимуть на вулицях.

 

Читайте також: ЗD-друк чи законодавство - що вбиває смарт-зброю?

 

Досі дослідження штучного інтелекту обмежувалося вузьким колом застосувань. Тепер розробники намагаються створити «універсально розумний» штучний інтелект, який зможе впоратися з численними завданнями. У найближчому майбутньому його алгоритми керуватимуть щоразу більшою людською активністю. Але ті алгоритми є лише математичними інтерпретаціями даних. Вони не пояснюють реальності, у якій ці дані виникають. 

 

Світ ставатиме дедалі передбачуванішим і водночас дедалі загадковішим. Як ми в ньому житимемо? Чи зможемо ми керувати штучним інтелектом, покращувати його або хоча б стримувати його від заподіяння шкоди? Лякає сценарій, за якого штучний інтелект, оскільки він краще й швидше за людей набуває тих чи інших здатностей, поступово звузить нашу свободу дій та навіть людську природу до залишкової величини даних. 

 

Для медицини чи екологічного енергетичного сектору штучний інтелект відкриває неймовірні шанси. Але саме через те, що він приймає рішення про створюване, ще непевне майбутнє, можуть посилитися невизначеність і непевність. Важливими є три фактори.

 

По-перше, штучний інтелект може мати небажані наслідки. Автори наукової фантастики придумують сценарії катастроф, коли він обертається проти свого творця. Щоправда, ймовірнішою є небезпека, що штучний інтелект через системно зумовлене нерозуміння загальних людських ситуацій хибно інтерпретує інструкції. Найсвіжіший приклад — чат-бот на ім’я Тей, що мовою 19-річної мав вести дружні розмови з клієнтами онлайн. Однак машина виявилася нездатною в загальноприйнятий спосіб зрозуміти задані вимоги «дружньо» та «розумно». Натомість її висловлювання часом сприймалися як расистські й сексистські. Дехто каже, що експеримент був просто неправильно проведений, але він унаочнює принципову дилему: наскільки штучний інтелект можна наділити здатністю розуміти контекст меж його дії? Як чат-бот Тей міг зрозуміти, що означає «обурливий», якщо люди самі не можуть дійти згоди щодо змісту цього поняття? Чи під силу нам вчасно скоригувати програму з штучним інтелектом, яка діє поза межами наших очікувань? І чи не вдаватиметься штучний інтелект, покинутий сам на себе, до невеликих порушень норм, які з часом призведуть до катастрофи?

 

По-друге, штучний інтелект може досягати бажаних цілей, але змінювати при цьому мислення та цінності людей. AlphaGo перемогла чемпіона світу завдяки ходам, яких людина ще не придумала й проти яких ще не існує стратегії. Чи це ознаки інтелекту поза межами можливостей людського розуму? Чи здатна людина інтелектуально дотягтися до цього нового рівня після того, як програма показала їй, що є можливим?

 

Перед тим як штучний інтелект почав грати в ґо, гра мала різнопланові цілі. Людина хотіла не лише виграти, а й опанувати стратегії, які можна буде застосувати й в інших сферах життя. Натомість штучний інтелект знає тільки одну мету — виграти. Він вчиться не для життя, а лише для перемоги в грі й застосовує для цього маргінальні підлаштовування своїх алгоритмів. Коли штучний інтелект зрозумів, що переможе в ґо, якщо гратиме не так, як людина, змінив природу гри та її ціль. Чи є це одновимірне прагнення перемоги характеристикою всіх штучних інтелектів?

 

Читайте також: Винищувачі п’ятого покоління — гра на випередження

 

Існують проекти штучного інтелекту, мета яких — модифікувати людське мислення в такий спосіб, що прилади генеруватимуть відповіді на людські запитання. Зараз це лише предметні речі (наприклад, «яка сьогодні температура?»). А що буде, коли йтиметься про суть реальності чи сенс життя? Чи хочемо ми, щоб діти пізнавали цінності через дискурс з алгоритмами? Чи треба нам захищати приватну сферу, обмежуючи можливість штучного інтелекту дізнаватися щось про того, хто запитує? Якщо так, то як це зробити?

 

Якщо штучний інтелект через усе нові й нові спроби експоненційно швидше, ніж людина, навчається, то слід припустити, що він також швидше й у більших масштабах, ніж ми, помилятиметься. Ідея дослідника штучного інтелекту, що в його алгоритми можна прописати «етичні» чи «розумні» результати, може бути ілюзорною. Цілі академічні дисципліни постали з нездатності людства дійти згоди у визначенні цих понять. Невже штучний інтелект має тут стати суддею? 

 

По-третє, штучний інтелект хоча й міг би досягти поставлених цілей, але був би нездатним пояснити причини цього. У певних сегментах, як-от розпізнання поведінкових моделей людини, він уже сьогодні може показати кращі результати, ніж людина. А зі зростанням обчислювальної потужності зможе оцінювати складніші ситуації та оптимізувати опції, що їх допускають. Штучний інтелект, можливо, робитиме це в такий спосіб, який незначно або й, не виключено, дуже відчутно відрізнятиметься від дій людини. Чи зможе він пояснити, чому його висновки кращі? Чи його рішення будуть поза межами людського розуміння? Протягом історії людства цивілізації завжди хотіли пояснити світ довкола себе: у Середньовіччі релігією, в епоху Просвітництва розумом, у ХІХ столітті писанням історії, у ХХ столітті ідеологією. Що станеться з нашою свідомістю, якщо машини перевершать здатність людини розуміти й вона більше не розумітиме створеного таким чином світу, бо не зможе інтерпретувати його своїми поняттями?  

 

Як визначити свідомість у світі, у якому машини редукують людський досвід до даних і вимірюють їх параметрами їхньої автоматичної пам’яті даних? Хто відповідальний за діяльність штучного інтелекту та за його помилки? Чи зможе створена людиною правова система йти в ногу зі штучним інтелектом, якщо йому вдастья загнати людину в кут і навіть перехитрити її? 

 

Врешті, поняття «штучний інтелект» може вводити в оману. Звісно, цим системам під силу вирішувати складні проблеми, які досі були сферою лише людського сприйняття. Унікальним штучний інтелект робить не його здатність мислити так само, як людина, а здатність мислити швидше. Окрім того, він унікальний своєю безпрецедентною спроможністю запам’ятовувати та рахувати. Через цю свою перевагу штучний інтелект виграє будь-яку гру.

 

Для людей мова не про виграш, а про роздуми та життєву мудрість. Якщо ми зараз суто математичні процеси штучного інтелекту також класифікуємо як мислення й спробуємо скопіювати штучний інтелект чи просто акцептуємо його результати без перевірки, ризикуємо втратити здатність, яка й була суттю людського пізнання.

 

Читайте також: The Economist: Через 15 років роботи замінять працівників роздрібної торгівлі

 

Імплікації цього розвитку нещодавно унаочнилися в програмі AlphaZero. Вона грає в шахи на досі недосяжному рівні. Зорієнтована сама на себе, AlphaZero лише за кілька годин самоекспериментів набула такої майстерності, для досягнення якої шахістам знадобилося б півтори тисячі років. У ній були запрограмовані лише базові правила гри. Ані втручання людини, ані згенеровані людиною дані не були частиною процесу її самонавчання. Якщо програма змогла так швидко досягти такого рівня, де опиниться штучний інтелект за п’ять років? Який це матиме вплив на наше сприйняття та нашу картину світу? Яку роль відіграватиме етика в розвитку, який полягає переважно в пришвидшенні рішень?   

 

Наразі ці питання залишені на IT-фахівців і споріднені галузі знань. Філософи, які раніше докладалися до формування світопорядку, витіснені з поля через брак фахових знань. Світ комп’ютерних спеціалістів зачарований технічними можливостями, а розробники одурманені казковими комерційними перспективами. І ті, і ті прагнуть радше розширити межі досяжного, аніж їх зрозуміти.

 

Політика, якщо вона взагалі переймається цією темою, цікавиться радше практичними можливостями в галузі безпеки чи таємних спецслужб, аніж трансформацією людського буття, до якої починає приводити нас штучний інтелект.

 

Просвітництво почалося з філософських пізнань, поширених новими технологіями. Наш час іде протилежним шляхом. Він створив потенційно домінуючу технологію, яка перебуває в пошуку провідної філософії. Інші країни проголосили штучний інтелект національним пріоритетом. США досі того не зробили. Це має змінитися.

 

Розробники штучного інтелекту, такі самі недосвідчені в політиці та філософії, як я у світі технологій, мають поставити перед собою окреслені тут питання, щоб знайти технічно реалізовувані відповіді. Уряд Сполучених Штатів повинен створити комісію з мислителів для формулювання суспільної візії. Очевидним є одне: якщо ми цього не зробимо, незабаром помітимо, що запізнилися.