Гадаю, вам теж траплялася реклама в інтернеті про те, що спеціально навчений штучний інтелект (ШІ) — програма чи сайт — допоможе вам написати книжку, яку, що найголовніше, можна буде продати. Передусім ідеться про електронні видання, і серед майданчиків для розповсюдження такої «літератури» лідирує Amazon. Зважаючи на це, видається, ніби це поки що не проблема для України, однак цілком імовірно, що це проблема нашого найближчого майбутнього. І цілком імовірно, що вже невдовзі нонфікшн у всьому світі буде або частково, або повністю згенерований ШІ. Звісно, завжди можна довіряти авторам, інформацію про яких можна знайти, однак значна кількість читачів купує книжки просто за темою / назвою, не надто роздивляючись, хто написав текст.
Оскільки наш ринок електронних видань поки що не дуже великий та й здебільшого зосереджений на електронних версіях уже наявних паперових книг, то нібито весь клопіт щодо засилля ШІ-текстів здається передчасним, однак у нас уже вряди-годи зринають дискусії про те, чи доречно робити книжкові обкладинки, використовуючи інструменти ШІ. Найновіший цьогорічний випадок — книжка «Жінка зі сну. Антологія англійських готичних оповідань» («А-БА-БА-ГА-ЛА-МА-ГА»), яку впорядкував Юрій Винничук. Спочатку використання ШІ в цьому випадку тільки припускали, однак згодом видавництво підтвердило, що обкладинку для видання створила Ксеня Яковенко частково за допомогою ШІ. Як видно з коментарів у різних соцмережах, найбільше всіх обурило, що «А-БА-БА-ГА-ЛА-МА-ГА» (яке здавна співпрацює з найкращими українськими ілюстраторами й художниками) використало ШІ, вочевидь, тільки з бажанням зекономити на обкладинці. Хай би як ви ставилися до такої співпраці людини й ШІ, подібних обкладинок уже чимало можна знайти на нашому ринку. Тож, припускаю, і ШІ-література не забариться.
На початку лютого великого розголосу набула стаття Емануеля Мейберґа для медіа 404 «Халтура, згенерована штучним інтелектом, уже у вашій публічній бібліотеці». У ній ідеться про те, що в Америці книжки низької якості, які, імовірно, створив ШІ, потрапляють у публічні бібліотеки через їхні цифрові каталоги, змушуючи бібліотекарів, у яких і так бракує персоналу, або сортувати функціонально нескінченну кількість книжок, щоб визначити, що написали люди, а що створив ШІ, або витрачати долари платників податків, щоб надати відвідувачам інформацію, навіть якщо ті не підозрюють, що створена штучним інтелектом.
Проблема ще й у тому, що публічні бібліотеки переважно використовують дві компанії для керування електронними книжками та їх видачі: Hoopla й OverDrive. В обох цих компаніях просто таки величезний перелік літератури, яку можна замовити, і водночас на жодному тексті немає помітки про те, чи зробили це видання із використанням ШІ. Так «здебільшого купують гігантський каталог Hoopla, який містить електронні книжки, аудіокнижки й фільми, оскільки він дає доступ до більшої кількості матеріалів за нижчою ціною. Утім, змусити тих купувати весь каталог означає, що клієнт, який шукає видання про те, як дотримуватися дієти для здорової печінки, може зрештою взяти “Кулінарну книжку про дієту при жировій хворобі печінки: 2000 днів простих і смачних рецептів для відновлення печінки”. Авторка — Маґда Танґі, яка не має доступу до інтернету, з фотографією профілю, згенерованою ШІ, на Amazon, де також продаються її книжки».
І річ навіть не в тому, що саме в цьому виданні цілком оптимальні рецепти, які не нашкодять, а в тому, що перевірити, чи в усіх таких книжках рецепти не смертоносні — майже неможливо. Зрозуміло, ані дієтологи, ані медпрацівники їх не перевіряли й не консультували. Майкл Блевуелл, директор бібліотеки округу Сент-Мері в Леонардтауні (Меріленд), так коментує цю ситуацію: «Я сумніваюся, що більшість користувачів бібліотеки Hoopla знають, що деякі видання могли бути створені ШІ або невідредагованими та мати сумнівну якість. Людям здається, що якщо бібліотека пропонує інформацію, їй можна довіряти. Це проблема». Звісно, інколи ШІ-халтуру можна визначити за специфічною обкладинкою, назвою і навіть стилем форматування тексту, однак професіоналам банально бракує часу на пошуки такої «літератури», а непрофесіоналам — відповідних навичок розпізнавання згенерованих творів, а то й просто критичного мислення.
Тож проблема ширша: на платформах на кшталт Hoopla книжки розміщуються без будь-якого контролю або дотримання критеріїв відбору, що вводить в оману навіть спеціалістів. Через це, як зазначає Емануель Мейберґ, у каталоги потрапляє навіть «фашистська пропаганда». Інший нюанс: бібліотекарі хочуть курувати свої колекції та переконатися, що їхні відвідувачі дістають доступ до якісної інформації, і водночас не хочуть, щоб люди думали, ніби вони намагаються цензурувати. Дженні Гальперін, виконавча директорка Library Futures, зазначає: «Це справді тонка межа. Це не прохання цензурувати матеріали. Це прохання попросити компанії, які продають матеріали громадськості за гроші платників податків, нести відповідальність за те, що вони обслуговують, і бути прозорими». Зрештою, як узагальнює автор статті, усі постали перед новою загрозою: здатністю генеративного ШІ створювати нескінченну кількість інформації низької якості. Халтури і до ШІ було багато, але тепер її стали в рази більше, і людство просто фізично не здатно відсіяти якісне від неякісного.
Отже, хоч поки що ШІ-халтура напозір не становить загрозу для України (досить з нас і нинішніх військово-політичних загроз), однак це все ж таки проблема, яка неминуча. Спосіб її уникнення — розроблення законодавчої бази, що змушувала б видавців писати про авторство ШІ або якось інакше маркувати такі видання. Утім, більшості це не видається серйозним викликом, тож поки що законотворці цим мало переймаються, однак уже стає зрозуміло: фейків і дезінформації нині так багато, що знайти правду часом дуже непросто, а то й неможливо взагалі.