Сакральная неоригинальность: почему ИИ не убьет литературного гения
Нужно отдать должное дерзости японской писательницы Риэ Кудан. Она получила одну из самых престижных литературных наград Японии, премию Акутагавы. Похвалы членов комиссии лились как патока на новый роман «Токийская башня сочувствия», а один из судей заявил: «Произведение безупречно, трудно найти в нем какие-либо недостатки». И в этот момент, лично, в непринужденной обстановке она объявила, что значимая часть книги была написана с помощью чат-бота. «Создавая этот роман, я активно использовала генеративный ИИ вроде ChatGPT, — заявила Кудан. — Я имею в виду, что примерно в 5 % книги дословно цитируются предложения, сгенерированные Искусственным Интеллектом».
Японская премия, о которой в западном мире почти ничего не слышали, в одночасье попала в заголовки газет по всему миру. Неужели сбывается худший кошмар блюстителей высокой литературы? Неужели у судей премии нет вкуса, как у тех сомелье, что на дегустации вслепую ставят высший бал суррогату? А Риэ Кудан, выходит, обманщица? Оба ответа… нет.
Что касается второго вопроса, можно возразить, что писатель использовала язык, созданный ИИ, именно для того, чтобы высказать свое мнение о языке, созданном ИИ: то есть она хотела (по ее словам) проверить, как «мягкие и обтекаемые слова» способны исказить очевидные этические принципы. Можно возразить, что ChatGPT ни при чем, ведь не ИИ решал, какие 5 % романа будут написаны им, и что туда войдет.
А на первый вопрос — не ошиблись ли судьи, посчитав роман прекрасным, — можно ответить: с подобным мы уже встречались. Если они сочли «Токийскую башню сочувствия» безупречной, то так оно и есть. Разве не учили нас на уроках литературы в школе, что интерпретация стихотворения читателем гораздо важнее, чем попытки понять, что имел в виду автор? Разве не провозгласил Ролан Барт «Смерть автора» еще в 1967 году?
Идея вдохновенного автора, создающего текст почти сакральной оригинальности, сама по себе является пережитком романтизма. Это двухвековой след. До этого беллетристы часто делали все возможное, чтобы притвориться, что они копируют у кого-то, даже если они это выдумывали. Чосер говорил о легендарном сюжете. Текст, адаптированный из прецедента, считался более достоверным и статусным, чем тот, что не был заимствован. Мильтон переработал Библию, Шекспир — Рафаэля Холиншеда и тому подобное.
В дальнейшем, на протяжении ста лет и даже больше, авторы экспериментальных и модернистских произведений использовали случайность или самодельный эквивалент алгоритмов для создания текстов. В 1920 году выдающийся поэт дадаист Тристан Тцара заявил, что стихи можно писать, взяв газетную статью той длины, которую вы хотели бы видеть в стихотворении, разрезав ее ножницами на составляющие слова, перетряхнув их в пакете, а затем переписав в случайном порядке. Об этом есть забавный эпизод в пьесе Тома Стоппарда «Пародии».
Это было лишь начало всех видов литературного шутовства. Уильям С. Берроуз и его соратник Брайон Гайсин подхватили эстафету Тцары в шестидесятые годы, экспериментируя с «методом нарезок» (по аналогии с поэзией дадаистов) и «компоновкой» (когда складывают две страницы существующей книги вместе так, чтобы края встретились, и читают сквозь сгиб, создавая новый текст). В сборнике рассказов писателя-фантаста Джеффа Нуна «Кобралингус», вышедшем в 2001 году, представлен набор инструкций по преобразованию текста с помощью того, что Нун назвал «фильтрованием», по аналогии с тем, как диджей делает ремикс на пластинку. Детский писатель Энди Стэнтон недавно опубликовал книгу «Бенни, синий кит» — шуточно-серьезный рассказ об экспериментах, в ходе которых писатель заставил ChatGPT написать роман о синем ките с крошечным достоинством.
Таким образом, произвольные литературные правила или откровенная случайность (то есть то, что не зависит от автора, но формирует текст) занимают весьма почетное место в истории литературы. Можно даже рассматривать форму сонета или вилланеллы как разновидность алгоритма. Члены УЛИПО (объединение писателей и математиков) в середине XX века придумывали формальные ограничения (наиболее известен случай, когда Жоржу Переку удалось написать роман без буквы E, самой распространенной гласной французского алфавита), чтобы раскрыть свободу творчества, а не задушить его. Итало Кальвино написал роман «Замок скрестившихся судеб» с использованием колоды таро. Б.С. Джонсон издал книгу «Неудачники» как свободные страницы в коробке, их можно читать в любом порядке.
Все это не значит, что нам следует поставить книгу Риэ Кудан на полку к авангардистам. Просто это очень узкий и регрессивный взгляд на литературу — считать, что передача контроля над некоторыми частями текста случайности или алгоритму является «жульничеством». Важно то, что вы делаете с результатом. А то, что сделала японская писательница было, очевидно, безупречно.
Без сомнения, у ChatGPT есть проблемы литературно-этического характера. Если алгоритм был обучен, как утверждается в некоторых крупных судебных исках, на огромных массивах авторского текста без разрешения или платы авторам, то это нарушение, заслуживающее компенсации. Можно даже привести довод, что 5 % призовых денег премии за роман должны быть по праву распределены между всеми авторами на японском языке, на чьих работах был обучен алгоритм. Но это вопрос бизнеса и интеллектуальной собственности, по ту сторону от чисто литературного вопроса о роли ИИ в создании «Токийской башни сочувствия».
Теоретики литературы, возможно, укажут на то, чего Тцара и его последователи так или иначе придерживались, — на интертекстуальность. Каждый текст, в конце концов, состоит из других текстов. Каждое слово в романе или поэме — это заимствование: его значение зависит от огромного множества других контекстов, через которые читатель будет его понимать. Каждый автор, в своем роде — это чат-бот с живым мозгом, который всю свою жизнь обучался на классике и других книгах.
Именно поэтому случай с «Токийской башней» вызывает смутную тревогу. Что если писатель — это (по выражению Мартина Эмиса о Викторе Содене Притчетте) зеркало, а не лампа? Романтическая модель творца, в конце концов, подкрепляется обнадеживающей идеей о человечестве: что мы творцы, а не творения, что то, что отличает нас, — это не просто нейрология нашего опыта, а некая невыразимая внутренняя сущность, которая проявляется лишь в акте самовыражения?
Возможно ли, что мы так яростно охраняем различие между тем, что могут делать большие языковые модели, и человеческим творчеством, потому что… нам просто обидно? Мы опасаемся, что это может быть временное различие в степени, а не фундаментальное различие в категории, а может вообще никакого различия?
Сообщение Сакральная неоригинальность: почему ИИ не убьет литературного гения появились сначала на Идеономика – Умные о главном.