черты ИИ (такие, скажем, как человекоподобная внешность) и смотрит глубже. В самом деле, показатель обобщения информации позволяет сравнивать друг с другом искины с разной архитектурой. Наличие количественной меры для феноменологического сознания ИИ было бы невероятно полезным как при распознавании самосознающих искинов, так и при оценке влияния, которое определенный уровень сознания оказывает на остальные свойства системы (такие как безопасность и интеллект).

К несчастью, расчеты, необходимые для вычисления Φ даже небольшой части мозга, такой как клауструм, практически неподъемны. (То есть точно рассчитать Φ можно лишь для чрезвычайно простых систем.) К счастью, уже придуманы более простые метрики, которые аппроксимируют Φ, и результаты обнадеживают. Например, у мозжечка совсем немного обратных связей – у него линейный, «прямой» тип обработки данных, поэтому он имеет относительно низкий уровень Φ, а следовательно, мало что вносит в общее сознание мозга. Это согласуется с имеющимися данными. Как говорилось в одной из предыдущих глав, люди, рожденные без мозжечка (с так называемой агенезией мозжечка), не отличаются на первый взгляд от нормальных субъектов по уровню и качеству функционирования своего сознания. Те же части мозга, повреждение или отсутствие которых приводит к потере осознанного восприятия в той или иной степени, характеризуются более высокими уровнями Φ. Кроме того, ОИТС позволяет различать уровни сознания у нормальных людей (во время бодрствования и сна, например) и даже идентифицировать «замкнутых» пациентов, которые не могут коммуницировать с внешним миром, но все же находятся в сознании.

ОИТС – это проявление того, что астробиологи называют подходом «с малым N». Точно так же как астрономы делают выводы о жизни во Вселенной на основе одного-единственного примера (жизни на Земле), ОИТС в своих рассуждениях переходит от небольшого числа биологических объектов на Земле к намного более обширному множеству случаев (классу машин и существ, обладающих сознанием). Это вполне объяснимое слабое место, поскольку биологическое сознание на Земле – единственный случай, о котором мы знаем. У предлагаемых мной тестов этот недостаток тоже присутствует. Биологическое сознание – единственное, которое мы знаем, так что нам лучше всего использовать в качестве отправного пункта именно его – вкупе с хорошей дозой беспристрастности.

Еще одной особенностью ОИТС является то, что она наделяет небольшим сознанием все, что имеет хотя бы минимальный уровень Φ. В определенном смысле это сродни доктрине панпсихизма – точке зрения на природу сознания, о которой я расскажу в главе 8. Согласно этой доктрине, даже микроскопические неодушевленные объекты испытывают переживания, хотя и очень слабые. Однако между ОИТС и панпсихизмом есть заметные различия, поскольку ОИТС не приписывает сознание всему подряд. Например, вычислительные сети с прямой связью имеют Φ, равное нулю, и потому не обладают сознанием. По словам Тонони и Коха, «ОИТС предсказывает, что сознание может быть разным, оно обычно для биологических организмов и может возникать в некоторых очень простых системах. В то же время из нее следует, что сети с прямой связью, даже сложные, не обладают сознанием, как и совокупности, такие как группа людей или куча песка»[51].

Несмотря на то что ОИТС открывает простор для включения систем в разряд обладающих сознанием, она идентифицирует определенные системы как обладающие сознанием в особом смысле. Иными словами, она нацелена на выявление систем с более сложной формой сознания, сходной с тем, что существует в нормально функционирующем мозге[52]. Вопрос искусственного сознания в этом контексте сводится к тому, обладают ли машины макросознанием, в отличие от сознания с более низким уровнем Φ, демонстрируемым обычными объектами.

Достаточно ли машине иметь высокий уровень Φ, чтобы обладать сознанием? По словам Скотта Ааронсона, директора Центра квантовой информации Техасского университета в Остине, двумерная сетка, в которой работают коды коррекции ошибок (такие используются, например, для CD), имеет очень высокий уровень Φ. Ааронсон пишет: «ОИТС предсказывает не только что эти системы обладают сознанием (что было бы нормально), но и что они могут обладать неограниченно более высоким уровнем сознания, чем люди»[53]. Но такая сетка, откровенно говоря, не кажется подходящим носителем сознания.

Тонони соглашается с Ааронсоном. По его мнению, эта сетка действительно обладает сознанием (т. е. макросознанием). На мой же взгляд, высокий уровень Φ недостаточен, чтобы считать искина обладающим сознанием. Я не уверена даже в том, что это вообще необходимо. Например, даже самые быстрые сегодняшние суперкомпьютеры имеют низкий уровень Φ. Дело в том, что конструкция их чипов недостаточно нейроморфна. (Даже машины на основе чипа TrueNorth компании IBM, спроектированного нейроморфным, имеют низкий уровень Φ из-за наличия «шины» – общего пула сигналов, который снижает внутреннюю связность машины, как ее определяет ОИТС.) Возможна даже ситуация, когда система будет сконструирована методом обратного проектирования по архитектуре мозга, но работать на аппаратных средствах с низким уровнем Φ. Я считаю, что пока рано полностью исключать возможность присутствия сознания у такой системы.

Итак, как при текущем уровне знаний нам следует обращаться с машиной, имеющей высокую Φ, – если, конечно, мы встретим такую? Понятно, что одного только уровня Φ недостаточно. Более того, поскольку исследования Φ до сих пор ограничивались биологическими системами и существующими компьютерами (а это не слишком удачные кандидаты на обладание сознанием), пока слишком рано говорить, является ли Φ необходимым условием искусственного сознания. Так или иначе, я не хочу, чтобы моя оценка казалась слишком негативной. Величина Φ вполне может оказаться маркером сознания – характеристикой, говорящей о том, что к системе следует отнестись с особым вниманием, как к потенциальному носителю сознания.

Существует и более общий вопрос, с которым нам следует здесь разобраться. Тесты, о которых мы говорили, находятся пока в стадии разработки. В ближайшие десятилетия мы можем встретить искинов с признаками сознания, но, поскольку тесты еще сырые, с уверенностью нельзя будет сказать, действительно ли сознание у них есть. Неопределенность усиливает еще и то, что, как я подчеркивала, социальное влияние синтетического сознания зависит от нескольких переменных. Например, в машинах одного типа сознание может привести к эмпатии, а в машинах другого типа – к непредсказуемости. Так как же нам поступить, если ОИТС или тест на пригодность чипа указывают на присутствие синтетического сознания или если ACT-тест говорит, что искин обладает сознанием? Следует ли нам прекратить развитие этих систем, чтобы не пересечь этическую красную линию? Это зависит от многих факторов. Я предлагаю вариант осмотрительного подхода.

Принцип предосторожности и шесть рекомендаций

На протяжении всей книги я не устаю подчеркивать, что благоразумным является одновременное использование нескольких индикаторов искусственного сознания. Для проверки результатов одного теста можно использовать другие тесты – такой подход помогает увидеть недостатки тестирования и пути его совершенствования. Не