У травні спеціалісти Microsoft Research та Університету Карнеґі-Меллона опублікували статтю, в якій з’ясували, як саме генеративний ШІ впливає на критичне мислення. Їхні висновки невтішні, але передбачувані: люди, зайняті інтелектуальною працею, повідомили, що відчувають зменшення когнітивних зусиль і впевненості в собі.
Дослідники опитали 319 працівників сфери знань, які використовують інструменти генеративного ШІ (ChatGPT, Copilot та інші) на роботі принаймні раз на тиждень, щоб змоделювати, як ті застосовують критичне мислення, використовуючи інструменти ШІ, і як ШІ впливає на їхнє сприйняття зусиль, спрямованих на критичне мислення. Проаналізувавши 936 реальних прикладів використання інструментів генеративного ШІ, якими поділилися учасники, фахівці виявили, що працівники сфери знань застосовують критичне мислення насамперед для забезпечення якості своєї роботи, наприклад, щоб звірити результати з зовнішніми джерелами. Крім того, хоча генеративний ШІ може підвищити ефективність працівників, він також може перешкоджати критичному ставленню до роботи і потенційно призвести до довгострокової надмірної залежності від інструментів ШІ та зниження навичок самостійного розв’язання проблем. Люди, зайняті інтелектуальною працею, впевнені у здатності генеративного ШІ виконати завдання, пов’язані з меншими зусиллями для критичного мислення. Під час використання інструментів генеративного ШІ зусилля, спрямовані на критичне мислення, зміщуються зі збору інформації на її перевірку; з розв’язання проблем — на інтеграцію відповідей ШІ; і з виконання завдань — на їх упорядкування. Тож учасники дослідження стикаються з новими викликами в критичному мисленні, впроваджуючи генеративний ШІ у свої робочі процеси. Натомість в ідеалі інструменти генеративного ШІ мають підтримувати критичне мислення працівників сфери знань, усуваючи бар’єри, пов’язані з їхньою обізнаністю, мотивацією та здібностями.
Мають, але чомусь цього поки не стається. Натомість нещодавно Axios провели власне дослідження і виявили: щонайменше 10 людей звільнилися з найбільших компаній, що займаються розробкою ШІ, через серйозні побоювання щодо потужності технології, зокрема її потенціалу знищити людство. Якби це була одна чи дві людини, то ці випадки можна було б легко відкинути як винятки. Але йдеться про декількох топ-менеджерів у кількох провідних компаніях, які мають подібні застереження.
На хвилі нібито глобального захоплення ШІ навіть ентузіасти й оптимісти штучного інтелекту починають висловлювати занепокоєння. Ще й Ілон Маск, якому, звісно, давно немає віри, не так давно оцінив ризик того, що ШІ може знищити світ, у 20 %. Добре, припустімо, він сильно помиляється, і ризик складає 5 % — чи стає від цього спокійніше? Ось, наприклад, генеральний директор Anthropic Даріо Амодеї говорить про 10–25 %, а генеральний директор Google Сундар Пічаї — про 10 %. А оскільки розвитку ШІ ніхто не збирається зупиняти через побоювання, що в разі зупинки конкуренти встигнуть критично випередити їх, цей біг наввипередки вже нагадує не про науково-технічну революцію, а про 1940-ві, коли Америка квапилася зробити атомну бомбу раніше за СРСР. Напозір це порівняння мухи зі слоном, але про ризик знищення світу говорять самі розробники ШІ.
Поки ж скидається на те, що найближчим часом за браком критичного мислення ми, цілком імовірно, вже просто не зможемо об’єктивно оцінити загроз штучного інтелекту. Змалюймо песимістичний сценарій: люди втратять здатність думати, і це робитиме хтось за них. Не маючи змоги коректно формулювати свої думки, ви не зможете відстоювати своїх інтересів, бо банально не зможете сформулювати, у чому ці інтереси полягають. Тож, якщо люди не зможуть обходитися без певного ШІ задля виконання навіть нескладних завдань, то світ контролюватимуть ті, хто контролює цей ШІ. Звісно, зараз для нас це або забавка, або інструмент-помічник, якому ми довіряємо в питаннях аналізу значних масивів інформації чи формулювання конкретних відповідей на поставленні запитання. Втім, чому ж тоді взагалі постає питання про небезпеку ШІ для світу? Передусім тому, що нам важко достеменно передбачити його еволюцію, і гонитва технологій відбувається безвідповідально і без належних оцінок ризиків (або ж вони є, але не репрезентативні).
Спеціалісти Microsoft Research і Університету Карнеґі-Меллона змальовують оптимістичний сценарій: використання ШІ, на їхню думку, має змінити специфіку самої інтелектуальної праці. Якщо раніше люди витрачали час на пошук інформації, то тепер важливіше вміти її перевіряти. Замість самостійного вирішення проблем на перший план виходить здатність адекватно інтегрувати ШІ в робочі процеси, а навичка виконання завдань має поступитися місцем умінню ефективно керувати ними. Тож люди, зайняті інтелектуальною працею, повинні стати наставниками генеративного ШІ, навчитися аналізувати його роботу та коригувати результати. Гадаю, найближчі роки п’ять засвідчать, який саме сценарій ми оберемо. Або ж його оберуть за нас.