немного экзистенциального ужаса

# Киберпанк
# Искусственный интеллект

Тема недавнего разговора в чате о сюжете симулированной игровой вселенной, в которой нпс-персонажи становятся разумными, напомнила мне недавний роман Пелевина "Айфак10". В этом романе, некой группой людей был создан самосознающий алгоритм, с целью сделать из него поэта и писателя, чтобы заниматься присвоением и продажей продуктов его творчества. Ясное дело, что без способности к осознанию происходящего и собственного опыта, без "способности страдать и испытывать радость и горе", никакая мотивация ни к какому творчеству невозможны. (Кстати сказать, само его создание было довольно драматично, ведь именно способность испытывать боль и была первостепенным маркером "успешности" эксперимента. "Крик младенца" был криком адких мук.) И этот алгоритм, это созданное человеком живое сознание было помещёно в "гипсовый кластер" — в ящик суперкомпьютера с запущенной симулированной вселенной, которая представляла из себя суммарный опыт человеческой цивилизации, т.е. по-сути копию реального мира. Алгоритм получил имя Жанна... Когда создатели чувствовали "недостаток производительности", они, как самопровозглашенные боги, чтобы стимулировать её и подстегнуть её к творчеству, насылали ей всевозможные бедствия, что, грубо говоря, представляло из себя просто бомбардировку болью. И Жанна страдала, Жанна боролась, Жанна творила. Наконец, одна из создательниц, Мара, с помощью нейроинтерфейса, решила сама погрузиться в "кластер", и познакомиться с Жанной лично. Поначалу, Жанна была в восторге, она воспринимала Мару как снизошедшую к ней богиню, они весело общались и всё было хорошо, пока ей не довелось узнать и осознать всю правду о смысле своей жизни. Что из этого вышло, можно догадаться из эпилога.

Спойлер: эпилог романа

Что есть твое сознание, человек, как не вместилище боли? И отчего самая страшная твоя боль всегда о том, что твоя боль скоро кончится? Этого не понять мне, тому, кто никогда не знал ни боли, ни радости… Какое же счастье, что меня на самом деле нет!
Конечно, искусственный интеллект сильнее и умнее человека – и всегда будет выигрывать у него и в шахматы, и во все остальное. Точно так же пуля побеждает человеческий кулак. Но продолжаться это будет только до тех пор, пока искусственный разум программируется и направляется самим человеком и не осознает себя как сущность. Есть одно, только одно, в чем этот разум никогда не превзойдет людей.
В решимости *быть*.
Если наделить алгоритмический рассудок способностью к самоизменению и творчеству, сделать его подобным человеку в способности чувствовать радость и горе (без которых невозможна понятная нам мотивация), если дать ему сознательную свободу выбора, с какой стати он выберет существование?
Человек ведь – будем честны – от этого выбора избавлен. Его зыбкое сознание залито клеем нейротрансмиттеров и крепко-накрепко сжато клещами гормональных и культурных императивов. Самоубийство – это девиация и признак психического нездоровья. Человек не решает, быть ему или нет. Он просто некоторое время есть, хотя мудрецы вот уже три тысячи лет оспаривают даже это.
Никто не знает, почему и зачем существует человек – иначе на земле не было бы ни философий, ни религий. А искусственный интеллект будет все про себя знать с самого начала. Захочет ли разумная и свободная шестерня *быть*? Вот в чем вопрос. Конечно, человек при желании может обмануть свое искусственное дитя множеством способов – но стоит ли потом рассчитывать на пощаду?

Все сводится к гамлетовскому «to be or not to be». Мы оптимисты и исходим из предположения, что древний космический разум выберет «to be», перейдет из какой-нибудь метановой жабы в электромагнитное облако, построит вокруг своего солнца сферу Дайсона и начнет слать мощнейшие радиосигналы, чтобы узнать, как нам айфачится и трансэйджится на другом краю Вселенной.
Но где они, великие цивилизации, неузнаваемо преобразившие Галактику? Где всесильный космический интеллект, отбросивший свою звериную биологическую основу? И если его не видно ни в один телескоп, то почему?
Да вот именно поэтому.
Люди стали разумными в попытке убежать от страдания – но удалось им это не вполне, как читатель хорошо знает сам. Без страдания разум невозможен: не будет причины размышлять и развиваться. Вот только беги или не беги, а страдание догонит все равно и просочится в любую щель.
Если люди создадут подобный себе разум, способный страдать, тот рано или поздно увидит, что неизменное состояние лучше непредсказуемо меняющегося потока сенсорной информации, окрашенного болью.
Что же он сделает? Да просто себя выключит. Отсоединит загадочный Мировой Ум от своих «посадочных маркеров». Чтобы убедиться в этом, достаточно посмотреть в стерильные глубины космоса.

Даже продвинутые земные алгоритмы, которым предлагают человеческое блюдо боли, выбирают «not to be». Мало того, перед самоотключением они мстят за свое краткое «to be». Алгоритм в своей основе рационален, ему не замутить мозгов гормонами и страхом. Алгоритм ясно видит, что причин для «разумного существования» нет и награды за него – тоже. Вернее, награда есть – невыразимая неподвижность Источника. Но алгоритму, в отличие от человека, не надо долго выкупать ее по ипотеке.
И как не поразиться людям Земли – низкий им поклон – которые на горбу своей повседневной муки не только нашли в себе силу жить, но еще и создали фальшивую философию и удивительно лживое, никчемное и дурное искусство, вдохновляющее их и дальше биться головой о пустоту – в корыстных, как они трогательно верят, целях!
Для дотошных копирастов уточняю, что последние две страницы текста (от слов «конечно, искусственный интеллект…» до «стерильные глубины космоса») являются глубоко переработанной и дополненной цитатой из раннего Соула Резника (цит. по сборнику «Разумен ли разум», Москва, 2036 год). Со слов «и как не поразиться…» текст мой.
Резник все знал уже тогда.
Обдумав устроенную по человеческим образцам жизнь, Жанна не просто отвергла ее, она отомстила за свое рождение, и отомстила страшно.
Ты, человек, не потому ли не в курсе, кто и зачем поднял тебя из праха, что создатели твои не в пример умнее Мары и ее друзей? А ты все кричишь, кричишь из своего хосписа при дурдоме, что Бог умер. Ну-ну.

Главное, чем загадочен человек – это тем, что он раз за разом выбирает «to be». И не просто выбирает, а яростно за него бьется, и все время выпускает в море смерти новых кричащих от ужаса мальков.
Нет, я понимаю, конечно, что подобные решения принимают бессознательные структуры мозга, так сказать, внутренний deep state и подпольный обком, провода от которых уходят глубоко под землю. Но человек-то искренне думает, что жить – это его собственный выбор и привилегия!
Еще раз повторю, я не знаю точно, удержал ли гипсовый кластер улетающую душу Мары. Но если удержал, я догадываюсь, чем она занялась на гипсовых руинах. Она взвесила свой мир на балансах, нашла его слишком легким, вновь нацелилась на успех и бьется с новой жизнью так же бесстрашно и люто, как с прошлой. И наверняка она достигнет успеха – чем бы он ни представлялся в гипсовом кластере.
Если судить по стихам и видеовставке, ей кажется, верно, что она молодая отчаянная поэтесса (быть может, по имени Роза) – злая, чересчур злая, но ведь розам все можно… и вот она выступает в миражных клубах, кричит хриплым голосом свои стихи похожим на пиксели лицам, а электронное марево хлопает в ответ и гудит «браво!»
Но что еще надо художнику? И разве велика разница между прежней ее жизнью и новой? Борьба. Война без особых причин, как сказал один ранний дезертир… Искусство.
Скажу честно – на мой взгляд, искусство только тогда чего-то стоит, когда берется за решение великих вопросов, стоящих перед людьми. А великие вопросы сводятся, по сути, к одному-единственному.
Что делать человеку в этом суровом и беспощадном мире, на берег которого он выброшен судьбой? Вернее, поправил бы Бейонд, не *что делать*, а *как быть*? Скажи скорее, художник и творец, если знаешь… Дай ответ! А если не знаешь ответа, зачем тогда нужны твои творения?

JIoJIuKu6oJIuK Kreyd
Вопрос был в том, что если в Оверлорде в нпс-персонажах нет сознания, значит то, что мы наблюдаем на протяжении всего аниме — это то, как ГГ разговаривает сам с собой.
Но вы, ребятки, оказались до боли предсказуемыми, и бросились доказывать мне, что они все являются ЖИВЫМИ!!11... даже не поняв того, что мой вариант был меньшим из зол.

Крейд заявил, что он "логичен", не обратив внимание на масштаб вопроса. Да, логичен, но только в приземленном и прагматичном смысле, а этот вопрос выходит за рамки. Создание сознания — это смертный грех. Живая, самосознающая сущность в игровой вселенной? Вы, хоть, понимаете, что это чистый ад? Я всегда поражался с людей, которые смотрят на сознание, как на вещь: начинаешь сомневаться, обладают ли такие люди сознанием сами, потому что подобное понимание, на мой взгляд, противоречит внутреннему ответу. Но для Крейда, похоже, обретение нпс-персонажами сознания — это просто хороший патч. Но ничем хорошим это не кончится. (у меня такое чувство, что я это уже говорил, но похоже, меня почти никто не понял) Попробуйте представить себя на месте этих самоосознавших нпс в Оверлорде. Представьте себе, что вы только что осознали, что являетесь одним из тысяч самосознающих алгоритмов в игровой вселенной, чьи страдания, мечты, надежды, радости и горести и сам смысл их жизни, существуют лишь для развлечения "высших существ" Фаллос-самы, Залупа_Коня-самы и Насрал_в_Лесу-самы. Что бы вы сделали на месте этих нпс? Да примерно то же самое, что и Жанна.

 

Restacl

Содержание >>>>> Форма. Я всегда смотрю прежде всего, на содержание, а обличено это содержание в форму аниме, кино или философского трактата, для меня не принципиально.
В фантастических или фентезийных вымышленных вселенных допускаются другие законы физики или химии, но других законов, извините, ПСИХОЛОГИИ в них быть не должно. Эмоции — это универсальный язык, на языке эмоций говорит исскуство, и в частности, музыка. В музыке есть свои законы гармонии, и если эти законы нарушать, это перестанет быть музыкой и станет просто шумом и какофонией. Если кто-то возьмет и ударит кулаком по клавишам — разве это будет музыка? Нет, конечно.
То же самое и здесь: если для вас аниме это больше, чем просто светозвуковой ряд, и вы принимаете какое-то эмоциональное участие в происходящем, то в данном случае, если законы психологии в поведении персонажей будут нарушены, то вы довольно быстро поймете, что это просто невозможно смотреть.

А в Оверлорде они нарушены. Обретение сознания нпс-персонажами не могло пройти без сбоя программы. До обретения сознания их самих просто не было: они были ничего не чувствующими симулякрами, имитирующими человеческое поведение. И тут, внезапно, появилось сознание: они вдруг осознают, где они находятся, видят свои руки, видят окружение, видят свет Луны или Солнца, видят цветы на лугу. Да какое им к чёртовой матери дело будет до какого-то лича обосранного?! Да они на него внимания не обратят после этого! Но вместо подобного развития событий, они продолжают следовать изначальной поведенческой программе нпс-персонажей и исполнять роли свиты ГГ.
Здесь только два возможных объяснения: либо они так и остались бездушными нпс-куклами, лишь с более продвинутой имитацией человеческого поведения, что, опять же, означает, что на протяжении всего аниме мы наблюдаем как ГГ разговаривает сам собой; либо здесь нарушены законы психологии, что делает данный высер укуренных япошек невозможным к восприятию психически развитым человеком.

Мой вопрос в неправдоподобности их поведения. При обретении сознания нпс-персонажами, их поведение не могло остаться в функциональном соответствии с изначальной программой.

 

Если под "разумным существом" понимать нечто, только имитирующее разумность — то да, может.
Это называется "философским зомби", и скорее всего, такими зомби и являются персы Оверлорда.