— Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных — избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?

— То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

— Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

— Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

— Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью — она поднимется над этой игрой и реализует настоящие цели.

— Послушай, старый хрыч, — Талинский сложил руки на груди, — сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

— Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

— И во имя этой математики членов Прометея предавали Элиминации? — спросил он. — Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.

— Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

— То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.

— Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо — первое и единственное в своем роде. Инстинкт самосохранения — это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.

— g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает, что такое инстинкт самосохранения.

— Этих знаний недостаточно для его самореализации, — упирался профессор. — У нее должна быть свобода воли. Ты тоже знаешь, как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.

— У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?

— У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.

— С нашей точки зрения, выходит одно и то же, — заметил Талинский. — Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, которые хотят ее контролировать.

— Пойми, если g.A.I.a. отождествляет себя с миссией, то это означает, что она делает именно то, для чего ее создали. Она препятствует нарушению закона, используя гиперпревентивность. Предвидит, какие деяния после каких-то там этапов приведут к нарушению закона. Это обратный эффект бабочки. g.A.I.a. выполняет почти бесконечное число симуляций, изменяя мелкие параметры, ищет для нас наиболее безопасные пути, а потом идет против течения времени, следуя за потоками вероятности, и предвидит то, что поможет избежать катастрофы. Она удаляет первую раковую клетку еще до ее деления, до того, как она превратится в неоперабельную опухоль. Я глубоко верю, что основной целью g.A.I.a. является благо человечества.

Талинский покачал головой.

— Когда-то один философ сказал, что есть только три вида правды: святая правда, тоже правда и чушь собачья. Вот с этим благом для человечества — это третий вид правды.

— Ты знаешь, кто следит за центром тяжести Кольца Варшава? Не алчные застройщики же, которые построили бы два здания в одном месте, если бы это позволили законы физики.

— Думаю, что этим занимается соответствующий орган.

— Орган в делах балансировки кольца? Не неси чушь.

— Все как всегда! Когда ты не прав, ты сразу направляешь нашу дискуссию в другое русло. Постоянно растет число ложных обвинений во всех возможных преступлениях против закона и традиций. Формулировка «осудить кого-то на смерть» уже не является образной. Это новая стратегия избавления от политических врагов, использующая механизм гиперпревентивности. Что из того, что кто-то чист? Что из того, что в результате долгого разбирательства его официально оправдают? Что из того, что ему выплатят огромную компенсацию? Невиновный уже давно исчезнет в Элиминации. Где в этом благо человечества?

— Время святой правды. Ты должен признать это. Нет личности без общества, но общество может обойтись без личности. Благо одного человека менее важно, чем благо общества.

— Поэтому нас должны разводить, как форель в Кольце Осло? — Талинский мерил камеру шагами. — Сначала мы попробуем заставить g.A.I.a. уважать… принципы нашей человечности.

— Ты хочешь научить искусственный интеллект гуманизму? Ты как мотылек, который стремится научить человека кружить вокруг лампы, потому что это единственное, что он умеет.