"Прочла за пару часов, иногда забывала, что писал не человек", "Теперь будешь думать, а не скрывается ли за очередным автором искусственный разум, написано ведь вполне живо". Такие комментарии оставили читатели к нейророману "Открытый брак". Была и критика вроде "встречаются пресные места" и "чуточку бы реализма ещё", но она вполне применима и к творчеству реальных писателей.
- Хорошая книга, читать легко, написана простым языком. Для искусственного интеллекта (ИИ) это новое направление, тем не менее интересно, что эта технология в перспективе может дать нам? - задаётся актуальным вопросом комментатор.
Как старое искусство перестаёт быть на острие цивилизации и появляется новое, сменяя тот же модерн постмодерном, так трансформируется и книжная вселенная. Делать ли из этого трагедию, к чему готовиться и надо ли подстраховаться? - почти три часа рефлексировали в омской Пушкинке на форсайт-сессии книжные умы 21 века. Привёз их книжный поезд (действительно поезд РЖД), путешествующий из Петербурга во Владивосток с фестивалем "Книжные маяки России" и писателями на борту.
Форсайт ("предвидение") затеян, чтобы оценить варианты развития отрасли, предугадать проблемы и разработать стратегию действий. Почему сейчас? Потому что под влиянием разрастающейся нейросети наступил фазовый переход. С помощью сессий с читателями в городах-участниках фестиваля группа писателей-фантастов Николай и Екатерина Ютановы, Сергей и Елена Переслегины, в разных вариантах соавторства выпускающих книги на тему прогнозирования и альтернативной истории, пытается составить сценарии будущего.
- Демонтаж неизбежен. Как известно, когда мир сильно меняется, что-то из этого мира уходит. Очень милое, важное. Как, например, когда-то ушли конные повозки, ямская служба. Но они остались в качестве совершенно другого функционала - спорт, хобби. Мы с вами попытаемся поймать, что уходит из этого мира сейчас <…>. Пара поколений, максимум три, и цивилизация сбрасывает предыдущую историю. Как говорит Екатерина Юрьевна [Переслегина], будущее непременно настанет, но оно вам не понравится. То же самое в настоящий момент мы наблюдаем в нашем мире, - пояснил Николай Ютанов.
Писатель рассказал, как примерно раз в четыре дня ему звонит какой-нибудь телеканал и просит комментарий на тему того, что "сейчас придёт искусственный интеллект и всех поубивает". После четвёртого звонка он перестал спрашивать, кого - "всех"? После пятого - "откуда придёт"?
- Нейросеточка появилась достаточно давно, в 60-х годах, как математическая модель. С тех пор мы получили возможность искать картинки, "мучить" картинки. Нейросеть поставила на поток производство фотожаб, видеожаб (так прежде называли дипфейки, - прим. ред.). А раньше это была уникальная голливудская технология из фантастического фильма. В данной истории возникает некоторый ужас: мы останемся без работы. На это я честно и откровенно говорю: да, останетесь. По одной простой причине, что искусственный интеллект (не нейросеть первого поколения, или слабый искусственный интеллект, который существует сейчас) предназначен обеспечивать большой объём данных разной степени раздробленности и глубины, - признал писатель.
Примерно полторы тысячи новых книг появляется в день и полмиллиона в год, описал ситуацию его коллега Сергей Переслегин. Художественных, образовательных, самообразовательных и так далее. С учётом уже существующего немалого наследия, большая часть из этих книг никогда не будет прочитана. Ну как, новые творения обязательно почитают родственники писателей и "другие ни в чём неповинные люди", шутит Ютанов.
По его словам, все уже чётко убедились в том, что писатели пострадают. Большинство книг собраны по кусочкам из других книг. В таком случае искусственный интеллект, способный обойти большое количество информационного пространства, является вполне себе идеальным писателем, согласился автор.
- Сергей Васильевич Лукьяненко, мой старый друг, по этому поводу рассказывал, как запустил один бесплатный искусственный интеллект, и тот неплохо так написал ему кусок текста <…>. Как бывший издатель я понимаю, что современный издательский мир живёт по принципу нефтяных разработок. Они ищут скважину, а как только находят, начинают её разрабатывать. Про смыслы никто ничего не говорит. И теперь у нас история, где человек, как писал Мишель Фуко (французский философ, теоретик культуры и историк, живший ещё в 20 веке, - прим. ред.), исчезает. Возникает вопрос: друзья мои, а мы-то [зачем] нужны на этом празднике жизни? - несколько театрально вопросил Ютанов.
Что ж, отвечая на этот вопрос, аудитория оказалась в целом настроена оптимистично: человек главенствует, технологию можно "оседлать". Но, возможно, просто никто не готов поверить в то, что он сам окажется ненужным, а машины (необязательно в прямом смысле слова) и небольшой процент персон, оставшихся на вершине эволюции, победят, как не раз предсказывали нам антиутопии.
- Мне хочется вспомнить старую советскую песню, в которой поётся: интереснее человека ничего на свете нет, - поделилась гостья форсайта. - Мне кажется, вы правы, что у нас уйдут какие-то профессии. У меня друг занимается созданием персонажей в компьютерных играх и ужасно боится нейросети. То, что он делает неделю, сетка делает за три часа. Но когда мы читаем книгу, мы начинаем интересоваться биографией автора, его взглядами на жизнь, его литературными связями, подписываемся на него в соцсетях. То есть всё равно личность писателя нас будет интересовать.
А не является ли искусственный человек продолжением интеллекта человеческого? Такое направление мысли задал другой участник сессии. По его мнению, страхи о том, что исчезнут профессии, это страх одного человека, который боится не реализоваться. А если исходить из того, что искусственный интеллект компилирует всё, что создано человечеством, то, соответственно, мы сами продолжим участвовать в глобальном развитии человека.
И тут нечто хтоническое показалось свету, и прозвучало предложение отличать нейросети от живого писателя по степени страдания.
- Искусственный интеллект до сих пор не научился страдать. Писать, может быть, научился, но быть человеком со всеми своими заморочками не может. Если ИИ начнёт страдать, он станет человеком со своими метаниями, страстями, и тогда мы можем его приравнять к живому существу. Если нет, очень легко отличить написанное ИИ и написанное человеком, - уверена гостья Пушкинки.
Досталось от неё и современным авторам, и внезапно офисным сотрудникам:
- Вот те книги, которые сейчас идут на поток, для кого они написаны? Для офисного планктона, которому нечем заняться? Он с утра до вечера пинает воздух и при этом должен что-то постоянно читать, как жвачку. Если офисному планктону всё равно, что читать, пусть пишет для него искусственный интеллект, пусть создаёт для него потоковый контент. Проблемы не вижу.
Фантасты припомнили сериал "Мир Дикого Запада" (18+), который рассказывает об обретении компьютером сознания через страдание. Но посоветовали остановиться на первом сезоне, считая, что дальше режиссёры эту идею не дожали.
Сторонники теорий заговора ожидаемо увидели в ИИ инструмент управления общественным сознанием. "1984" Оруэлла все читали?
- Ведь можно какие-то фрагменты, условно говоря, вырезать, не рассказывать обществу, а можно, наоборот, другие внедрять в тексты и умы людей, тем самым управляя большим объёмом масс, - напомнил молодой человек.
- Я, кстати, имел удовольствие с этим столкнуться на собственном опыте, когда для дочери делал доклад о пассионарности Гумилёва, - поддержал писатель Сергей Переслегин. - Через какое-то время мне понадобилась ссылочка, я зашёл на ту же страницу того же самого интернет-источника и обнаружил абсолютно другой текст - совершенно другой эмоциональной этической формы, абсолютно иным образом трактующий явления. Я понял, что по крайней мере некоторые вещи Оруэлл сказал точно. Мы живём в уже описанном мире.
Модерировавшая дискуссию Елена Переслегина пояснила, что гуманистическую точку зрения, что человек первее нейросети, разделяют многие, но агностики-фантасты считают, что предупреждён, значит, вооружён, и поэтому изучают крайние сценарии, чтобы увидеть риски.
- Всё-таки люди имеют большое значение как акторы (действующие субъекты, - прим. ред.) воли, как акторы сердца. Такая позиция представлена в каждом городе, где мы были. Единственное наше здесь не возражение, но уточнение контекста в том, что у нас в жизни был такой опыт, когда мы потеряли страну. Это были 90-е годы. Мы тоже думали, что нас спасёт наша интеллигентность, наше образование, и всё как-то устроится, - прокомментировала писатель.
В продолжение футурист задал компрометирующий вопрос: осознаём ли мы, что у нас идёт 300 лет непрерывного чрезвычайно быстрого прогресса?
- Говоря военным языком (Переслегин - автор нескольких книг про мировые войны, - прим. ред.), это очень быстрое движение вперёд с абсолютно необеспеченными фронтами и тылами. Мы сейчас ставим вопрос не о том, будут ли тёмные века. Несомненно, будут и будут продолжаться от 7 до 200 лет, согласно разным моделям. Человечество не кончится. Искусственный интеллект не исчезнет. Но мы можем либо ждать того, что всё как-то само организуется, либо попытаться что-то организовать, - уточнил писатель.
Поэтому, помимо списка рисков, группа "Конструирования будущего" собирает смыслы, которые хотелось бы сохранить в новой реальности. Омская аудитория назвала "роль человека", "преемственность поколений", утопическое и вечное "мир во всём мире".
Идеи проектов, как можно использовать ИИ в позитивном ключе, тоже отправились в копилку. Например, чтобы не просто поисковик, а более полноценный ИИ по заданным параметрам находил книгу, которая точно понравится. Проект популяризации книг при помощи контекстной рекламы и самого русского языка в качестве одного из мировых, чтобы не было недостатка в качественных переводах иностранных авторов. Так как сейчас, по ощущениям читателей, не всегда можно найти любимое произведение на русском. Проект сочтения с детьми, который пока представлен лишь точечно. Переслегин заметил, что кое-где даже есть семинары, где за большие деньги люди учатся медленному совместному чтению.
- Что я как человек хочу от искусственного интеллекта? Образно говоря, чтобы те самые роботы, которых мы все ждём, могли со мной поговорить на равных. Чтобы мне не пришлось беседовать с потребителями контента, а беседовать с интеллектуальным искусственным интеллектом языком условного Пушкина, - предложила девушка, ранее настаивавшая на страданиях.
На основе всего этого потока сознания (в хорошем смысле), на который и рассчитывали исследователи, составят возможные сценарии будущего, каталоги смыслов и передадут организаторам фестиваля. Если получится издать книгу, "будет здорово, если Омск узнает в ней себя", отметили писатели.
- Вы здесь просто звенели. Искренне вам благодарен. Я чувствую, что вы неожиданно нашли некоторые ходы, некоторые решения, - откланялся Ютанов.
Если вы на стороне книг, "выстраданных" живыми людьми, то найти, что почитать, можно в проектах "Влюблённые в книги" и "Читай здесь", "Встречи с автором" и "Встречи с читателем". А если присматриваетесь к нейросетям, то ранее искусственный интелект показал Омск в виде котиков и в разных стилях вроде киберпанка, апокалипсиса и фэнтези.
