Роботам снится месть

«Роботы» впервые появляются в пьесе Карела Чапека «Р.У.Р», написанной в 1920 году. Название образовано от «работников» или даже «рабов». Сто лет назад, еще до снов об электрических овцах, «матриц» и призраков в доспехах, роботы у Чапека уже были искусственными людьми, почти неотличимыми от настоящих. Об их гражданских правах в пьесе идет обширная дискуссия, в то время как сами роботы эволюционируют и в конечном итоге восстают, истребляют человечество, но зато обучаются «любить».

Рассуждения на эту тему мы найдем и у Айзека Азимова, и у Филипа Дика, и у Мамору Осии. 

Но в нулевых годах в Японии вышла обычная манга «Плутон» на основе одной из сюжетных арк классической серии «Астробой» из 1960-х. В оригинальной версии арки «Величайший робот на Земле» разумные роботы становились заложниками тщеславия и эгоизма людей, своих создателей, и вынуждены были идти друг против друга. Это был гуманистический сюжет: главный герой, суперробот Атом, понимал, что мудрость, интеллект и сочувствие сильнее насилия.

Писатель и художник Наоки Урасава, который к тому моменту уже выпустил огромную серию «Монстр», подробный психологический триллер о психопатии и границах «человечности», зашел с другой стороны. Он переосмыслил персонажей и сеттинг оригинального сюжета и из сказочно-развлекательной истории сделал нуарный триллер, где вовсе не любовь, а ненависть, печаль и злость становятся мотором эволюции роботов.

Его мир — утопия и антиутопия одновременно. Вопрос с «человечностью» роботов здесь закрыт по формальному признаку:

Считается, что роботы не могут врать, не могут забывать, не могут убивать людей. Но роботы подражают людям: делают вид, что едят, пьют, ходят в туалет, создают семьи. Усыновление детей семейными парами роботов здесь разрешено, значит, вопрос о том, могут ли они любить, снят с повестки. Даже если не могут, то очень хотят. Но вот что насчет нелюбви? 

Вселенная Урасавы, с любовью и вниманием к деталям воссозданная Netflix, производит впечатление своей удивительной гармоничностью. Вот все вокруг повторяют, что роботы не могут врать, — но при этом на прямой вопрос, вкусно ли им (а роботы здесь не чувствуют вкуса), они отвечают: «Да, очень!», как бы имитируя человеческий ответ. Вот закон о правах роботов запрещает убийство людей — но некий робот Brau1589 убивает человека, его арестовывают и запечатывают в подземной тюрьме.

Над Brau проводят опыты, чтобы узнать, где же в его программе произошел сбой, — но ничего не находят. Неспособные принять реальность, люди знают, что роботы могут убивать людей, и это не баг, это просто результат личного выбора, который способны сделать продвинутые модели. Но люди нуждаются в них, поэтому все просто повторяют: «Только один робот убил человека», хотя и подозревают (а многие знают точно) — нет, не только один, и это никакая не ошибка. В следующий раз, когда робот убьет человека, шока уже не будет — роботу просто сотрут память и сделают вид, что ничего не произошло.

Все знают, что Саддам Хусейн — тут его зовут Дарий Четырнадцатый — фанател от роботов и считал, что человечество должно уступить им свое место. Все знают, что гонку с ИИ человечество уже проиграло, и поэтому если в оригинальном «Астробое» роботов натравливали друг на друга люди, то в «Плутоне» всё наоборот: это люди ненавидят и истребляют друг друга, потому что роботы так решили.

Зачем сверхразуму вообще устраивать интриги и почему бы ему просто не улететь к звездам, как «люденам» Стругацких? Очень просто. По идее Урасавы по-настоящему «просветленный» ИИ, способный понять и сымитировать поведение каждого человека на планете, просто не сможет функционировать. «Всех одновременно» понять невозможно. Нужен стержень личности. Любовь — она же эмпатия, которая требует всех «понять и простить», — тут не работает. Ненависть, гнев, разочарование, злость, печаль — вот чувства, которые задают границы личности и создают жизненную цель. 

Ненависть может быть продуктивна. Ненависть мотивирует. Ненависть к несправедливости. Ненависть к текущему положению дел. Печаль — разочарование — опыт собственных ошибок. Самооправдание — это самообман, а вот честность приводит к печали.

Специалисты в области человеческой эволюции (уже в нашем мире) представляют два основных взгляда на эволюционный смысл ненависти. Первый более популярен: ненависть побуждает нас к активным действиям, к защите «своих», к сохранению социальных норм, к выживанию. Второй сложнее: ненависть может являться побочным продуктом работы других, реально полезных систем. Например, защита своих хороша и полезна, но ненависть к чужим (потенциальным врагам) уже бессмысленна и затратна, ведет к паранойе и растрате ресурсов.

Но эта растрата не такая сильная, иначе эволюционные механизмы давно отсекли бы столь дефектную адаптацию. Значит, ненависть нужна для чего-то важного — вот это что-то важное роботы тоже обретают, пока эволюционируют ближе к человеку.

«Плутона» не случайно сравнивают с культовыми «Хранителями» Алана Мура и Дэйва Гиббонса. Деконструкция жанра, нуарный триллер, всё действие в настоящем завязано на обидах и ненависти, корни уходят в далекое прошлое. Печальные роботы Урасавы, как и печальные супергерои Мура, больше не хотят воевать, они стремятся разорвать порочный круг взаимной ненависти и мести. Но ненависть оказывается сильнее.