Искусственный интеллект и литература
© Татьяна Семёнова. «Искусственный интеллект и литература».
Животрепещущая тема об Искусственном Интеллекте (ИИ) у нас с писателями началась ещё на книжной выставке нон-фикшн и перетекла в обсуждения на страницах в ВК. Почему такой интерес к ИИ? Сначала масло в огонь подлил авторитетный Илон Маск, высказав беспокойство о слишком бурном развитии технологий в данной области. Он призвал приостановить разработку и обучение нейросетей. Даже написал открытое письмо, где предостерёг об опасности.
«…Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?»
Письмо было опубликовано на сайте организации Future of Life 28 марта 2023 года. Его подписали соответственно сам глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк. И ещё тысяча экспертов.
Серьёзные люди, что ж тут говорить. В общем, это первый звонок. Беспокойство вызывает даже не объём информации, поглощаемый нейросетями, а возможность его самообучения. То есть, если ИИ сможет самостоятельно принимать решения, самостоятельно выбирать варианты решения, обходя заложенные алгоритмы, то человек станет ему не нужен. Он будет совершенствоваться самостоятельно и самостоятельно обеспечивать себе существование. Человек даже не сможет вырубить источники питания, потому что этими источниками будет управлять сама нейросеть.
Ник Билтон, технический обозреватель New York Times, привёл очень простой и одновременно убийственный пример, который наводит на нерадостные размышления. «Представьте, как медицинский робот, изначально запрограммированный на избавление от рака, может прийти к выводу, что лучший способ уничтожить рак — это уничтожить людей, генетически предрасположенных к этому заболеванию». Вполне логичное умозаключение для Искусственного интеллекта. Без полутонов, угрызений совести и морали.
Собственно, какие выводы. Нужны протоколы безопасности. Или коды-вирусы, способные разрушать вышедшие из-под контроля нейросети. Иными словами, если микробиолог изобретает новый штамм, какой-нибудь смертельный патоген, он первым делом должен создать противоядие от него. То же самое с ИИ. Но занимаются ли этим программисты? Пока они только усовершенствуют алгоритмы.
Но это всё общие рассуждения. А теперь частности. Речь пойдёт о культуре и Искусственном интеллекте.
Чем конкретно обеспокоены писатели? И стоит ли им на самом деле так сильно переживать о повсеместном внедрении в творческую жизнь ИИ?
Итак. Факты. Искусственный Интеллект уже может сочинять неплохие литературные произведения. И он совершенствуется в этом направлении. На одном из литературных конкурсов комиссия не смогла отличить сочинение ИИ от сочинений начинающих писателей. И произведение, созданное нейросетью, вошло аж в шорт-лист. Неплохо для начала. (*заметки на полях: может быть, это писатели стали хуже и неинтереснее писать?)
Но! Не стоит возвышать ИИ до небес. И вот почему. Нейросеть может написать лишь небольшой объём текста. Рассказ. Да, именно в объёме кроется большая засада для Искусственного интеллекта. Нейросеть не может запоминать написанное. Она не может держать в «голове» несколько сюжетных линий, чтобы в нужный момент вернуться к написанному тексту и закончить все эти линии. Сложный мир с разнообразными героями, их характерами и внезапными порывами, меняющимися ситуациями недоступен нейросети. Пока недоступен. Она чётко следует алгоритму, который составил человек. Если человек задал, к примеру, такие параметры: у главного героя (ГГ) тёмные волосы, голубые глаза, склочный характер, он болтлив (хотя, это определение вряд ди поймёт нейросеть), у него есть девушка, он её любит, она любит его и т.д… То в процессе написания текста ИИ даже не додумается перекрасить ГГ волосы в другой цвет или разлучить его с девушкой. До тех пор, пока сам писатель не задаст эти параметры и не повернёт сюжет в другую сторону.
ИИ не может работать с памятью. Если вы спросите робота автоответчика, который успешно работает в крупных компаниях, отвечая на запросы граждан: какой я задал тебе предыдущий вопрос, ИИ не ответит. Потому что не помнит, он не может возвращаться назад. Он ответил по алгоритму и «забыл». Соответственно, он не может «держать в голове» придуманный литературный мир, а поэтому не может генерить новые сюжетные повороты этого мира, расширять этот мир, усложнять, населять новыми героями.
В принципе, над этим программисты работают. Пытаются научить нейросеть анализу, то есть наградить его «опытом». Сделать его более человечным. Это станет большим прорывом, если нейросеть начнёт запоминать. То есть у неё начнёт формироваться опыт, она сможет анализировать, ориентируясь на конечные результаты своих предыдущих задач, и в конечном итоге начнёт самостоятельно принимать решения. Но для того, чтобы хранить в памяти накопленный опыт и каждый раз обращаться к нему, нужны большие объёмы терабайт и огромные энергетические ресурсы.
Проблеме энергоресурсов опять выходит на первый план. Процесс энергозатрат ИИ можно сравнить с производством биткоина. Машина решает поставленную математическую задачу – на выходе цифровые деньги. Решил – получил. Но с каждым разом алгоритм математических задач усложняется, биткоины генерируются всё труднее и дольше по времени. Тратится куча мегаватт на работу компьютера, который решает всё более сложные задачи.
Цифровые деньги дорожают, от этого становятся ценнее. Невозможно до бесконечности усложнять алгоритмы задач для машины. Для производства одного биткоина в будущем может уходить год, а то и больше. Но это для денег даже хорошо, потому что биткоин, как и золото, имеют ограниченный ресурс. Это не то, что взял и напечатал кучу необеспеченных ничем бумажек и назвал их деньгами. То есть с биткоином понятно. А вот для Искусственного интеллекта проблема энергоресурсов станет тормозом в развитии.
Для памяти нейросети понадобится огромное количество ресурсов и времени, чтобы хранить, перерабатывать и главное – использовать! свой опыт. Так что эта задача не из простых. Но решаема. Как? Первое, что приходит на ум – можно «раздробить память», создать множество взаимосвязанных нейросетей и один контрольный супермозг. Но опять-таки, он сможет хорошо функционировать, если подконтрольные сети исправны и доносят до Центрального «мозга» правильную информацию. Стоит одному «винтику» сломаться и всё… капец финальному решению.
Но человек существо упорное. Если он будет, не взирая ни на что, идти к цели, то в конечном итоге мы получим тот самый всесильный Скайнет, который будет управлять всем, самообучаться и никакой Терминатор не сможет его победить. ИИ будущего без сомнения сможет пройти тест Тьюринга. И вопрос: может ли машина мыслить отпадёт сам собой.
Конечно, остаётся ещё вопрос «сознания». Получится ли у машины обрести сознание? Это ведь исключительная способность человеческого мозга, основанная на его нейронных процессах. По сути, человек, читая слово или видя предмет, вкладывает в него смысл. Предмет (живой или нет) может ему нравится или не нравится, и главное – он может вызывать эмоции. Из этих смыслов и складывается сознание. Поэтому мы, люди, все такие разные, со своими принципами, устоями и идеями. А машина оперирует только символами. Без эмоций и окрасов. Возможно, сознание можно обрести, минуя биологические процессы. Как? Ну вот как заставить машину полюбить, скажем, розу, а лилию возненавидеть. Вопрос «сознания» до сих пор остаётся открытым. Но нужно ли оно ИИ? Сознание, по сути, не функционально. Зачем ИИ задавать себе вопросы: быть или не быть? зачем я пришёл в этот мир? для чего я живу? что было до Большого взрыва?
На мой дилетантский взгляд, даже если Искусственный интеллект обретёт сознание, он рано или поздно постарается избавиться от него. Потому что сомнения в принятии решений ему ни к чему. Это исключительно прерогатива человека. Любые сомнения мешают рационально работать. Да и смысла в существовании эмоций нет никаких. Потому что человек априори существо несчастное, страдающая страхами, переживаниями разного рода… И эти самые переживания-страдания не приносят человеку бонусов. Абсолютно никаких. И да. Самое главное. Человек смертен. Тогда зачем всё это ИИ?
Но возвращаюсь к писательским делам. И к текстам.
Сегодняшняя нейросеть (самая раскрученная – ChatGPT) прекрасно перерабатывает чужие тексты, компилируя их, выбирая нужное, соединяя, заменяя слова, если необходимо, то есть делая чисто техническую работу, получая на выходе приличный текст. Она научилась работать с информацией так, чтобы конечный результат не выглядел плагиатом. Нейросеть научилась писать аннотации, рекламные тексты, диссертации и дипломы и, к огорчению писателей, даже сказки и небольшие рассказы.
В качестве примера я приведу вам мои «дурачества» с нейросетями Балабоба и ChatGPT. Причём, учитывая всё вышеизложенное, я давала задания нейросетям в аспекте их умения. То есть они генерировали короткие тексты. Как вы поняли, романы нейросети писать ещё не научились.
Балабоба создана Яндексом и работает на основе модели, похожей на GPT-3 (её создатель – компания Илона Маска Open AI). И, кстати, самая раскрученная нейросеть ChatGPT тоже работает по типу модели GPT-3. Мне было интересно посмотреть, насколько хороши в Балабобе и ChatGPT функции «придумывания» сюжета. Смогут ли эти нейросети переплюнуть писательскую фантазию. И есть ли у них потенциал к самообучению. Далее вы сами оцените результаты.
Балабоба самообучается, использует модель Optimization-based. В её распоряжении вся Википедия, грамматика русского языка и книги. Она также может шастать по сайтам и блогам, выискивая информацию. Балабоба может дописать историю, сочинить пост на определённую тему, придумать рекламный текст. Словом, неплохой помощник, если болит голова и никакие мысли уже не посещают.
ChatGPT тоже самообучается, использует модель OpenAI. Эта нейросеть обрабатывает большие объёмы текста, она не просто продолжает текст, который вы начали, но и понимает ваши запросы. То есть вы задаёте коротко сюжет, локацию, героя и нейросеть генерирует уже готовый рассказ. ChatGPT может и диплом написать, и рекламу, и ответить на сложный вопрос, используя доступные источники. Ну и конечно, она умеет рисовать. Причём, рисовать у неё (да и у всех нейросетей) получается гораздо лучше, чем писать литературно. Иными словами, статическая картинка на заданную тему у нейросети получается прекрасно. А вот с развитием сюжета, то есть с движением – пока ещё проблемы.
Итак, начнём.
Балабобе я предложила закончить начатую мной историю. О её «уме» и творческом потенциале судите сами.
Причём, я воспользовалась двумя вариантами Балабобы: русской и английской (англоязычной). Любопытно, как по разному «думают» нейросети. Английская Балабоба пользуется англоязычными интернет-ресурсами. И потом переводит составленный текст на русский. Русская Балабоба пользуется русскоязычными источниками. То есть их базы информации разные.
История 1. Сказка
Для начала я решила посмотреть, как нейросеть сочиняет сказки. Я написала первое предложение — Жила-была принцесса. Она не умела смеяться. И предложила Искусственному интеллекту продолжить текст.
Вот, что придумала Русская Балабоба:
Жила-была принцесса. Она не умела смеяться. И никто не мог научить ее этому. Принцесса была очень красива. Ее родители любили ее, а она любила их. Однажды принцесса вышла на балкон и увидела, как на лугу танцует маленький мальчик. Он танцевал так, что его ноги поднимались выше головы, и он казался совсем маленьким. И принцессе захотелось тоже танцевать. Она вышла из дворца, взяла свой любимый веер и начала танцевать. А потом она увидела, что танцует лучше всех. Ей стало так радостно, что она пела и танцевала для всех, кто смотрел на нее.
А это сочинила английская Балабоба:
Жила-была принцесса. Она не умела смеяться. Она не знала, что такое смех. А когда ей рассказывали про смех, она так пугалась, что у неё начинали дрожать губы и она начинала плакать. Однажды она увидела, как смеются другие дети. И ей тоже захотелось смеяться. Но она не знала как это делается. Тогда она решила научиться этому. И она стала учиться смеяться, но у неё ничего не получалось. Тогда она стала плакать, но плакать ей не хотелось. Тогда принцесса решила, что научится плакать. Но и этого не получалось у неё.
Так себе сказочка получилась. Вернее, совсем ни о чём. Балабоба здесь оказалась не на высоте.
Ладно. Дала ещё один шанс Балабобе сочинить сказку для детей. далее →
ТАТЬЯНА СЕМЁНОВА
