сложности принадлежать не сознающему себя разуму? К сожалению, заявление Саманты, в принципе, может быть всего лишь свойством программы, призванным убедить нас, что она чувствует, даже если это не так. В самом деле, уже разрабатываются андроиды, способные играть на струнах нашей души. Способны ли мы заглянуть глубже и понять, действительно ли искин обладает сознанием?

Кажется, что для этого достаточно просто проанализировать архитектуру программы Саманты. Однако даже сегодня программисты с трудом понимают, почему современные системы глубокого обучения делают то, что делают (это называют «проблемой черного ящика»). А теперь представьте, легко ли разобраться в когнитивной архитектуре сверхразума, способного переписывать собственный программный код. Даже если разложить перед собой схему когнитивной архитектуры сверхразума, то как распознать в ней особенности, играющие центральную роль в функционировании сознания? Мы определяем наличие сознания у других, отличных от человека животных только по аналогии с самими собой. У них есть нервная система и мозг. У машин нет ни того ни другого. К тому же когнитивная организация сверхразума может сильно отличаться от всего, что нам известно. Хуже того, даже если мы решим в какой-то момент, что разобрались в архитектуре машины, ее конфигурация может быстро трансформироваться в нечто слишком сложное для человеческого понимания.

Что, если машина – это не сверхразум, как Саманта, а искин, сконструированный приблизительно по нашему образу и подобию? То есть что, если его архитектура содержит когнитивные функции, подобные нашим, включая и те, что ассоциируются у людей с осознанными переживаниями, такими как внимание и кратковременная память? Хотя эти свойства позволяют предположить наличие сознания, мы уже видели, что сознание может зависеть также от низкоуровневых деталей, характерных больше для типа материала, из которого изготовлен искин. Свойства, необходимые искину для успешной имитации процесса обработки информации человеком, могут и не совпадать с теми свойствами, что порождают сознание. Низкоуровневые характеристики могут иметь значение.

Так что нам, с одной стороны, нужно обращать внимание на субстрат, а с другой – необходимо предвидеть возможность того, что машинная архитектура окажется слишком сложной для сравнения с биологическим сознанием. Для оценки искусственного сознания недостаточно единственного теста; более вероятный вариант – это набор тестов, которые можно использовать в зависимости от ситуации.

Выявление машинного сознания в чем-то сродни диагностике какого-нибудь заболевания. Полезных методов и маркеров для этого может существовать много, причем одни из них более весомы, другие менее. Если возможно, нужно применять два и более теста, а полученные результаты сравнивать друг с другом. В процессе применения тесты должны сами проходить проверку, уточняться и подсказывать, как конструировать новые тесты. Пусть расцветает множество цветов. Как мы увидим, первый тест на сознание применим в широком спектре случаев, но в целом мы должны тщательно продумывать, какие тесты применять к каким ИИ-кандидатам.

Мы должны также помнить о вполне реальной возможности того, что наши тесты, по крайней мере в начале исследования, окажутся неприменимыми к некоторым самосознающим искинам. Надо надеяться на то, что искины, которых мы определим как обладающих сознанием, помогут нам в идентификации других самосознающих искинов – более чуждых или непонятных для нас (чуть позже мы еще поговорим об этом).

Далее, утверждения о том, что какой-то вид, индивидуум или искин достиг «повышенного» уровня или «обогащенного» сознания, должны тщательно проверяться, ибо они могут быть следствием неявной вкусовщины или даже видовой дискриминации, ошибочного обобщения представлений о других системах сознания на базе нашего понимания осознанных переживаний у человека. Под выражениями вроде «обогащенного сознания» или «сознания повышенного уровня» могут подразумеваться измененные состояния сознания, такие как медитативная осознанность буддистского монаха. Или может иметься в виду сознание существа, которое ощущает себя в фокусе чьего-то интенсивного внимания и очень живо на него реагирует. Или речь может идти о ситуациях, в которых создание имеет больше состояний сознания или сенсорных модальностей, чем имеем мы. Или кто-то может считать одни состояния изначально более ценными, чем другие (например, можно послушать Девятую симфонию Бетховена, а можно просто напиться).

Наши суждения о качестве сознания неизбежно определяются эволюционной историей и биологией. На них могут также влиять культурный уровень и социальное происхождение тех, кто эти суждения формулирует. Поэтому, если дело дойдет до создания синтетического сознания, его разработчиков непременно должны консультировать специалисты по этике, социологии, психологии и даже антропологии. Тесты, которые я осмеливаюсь предлагать, не предназначены для определения иерархии переживаний или выявления «повышенного уровня переживаний». Это всего лишь первый шаг в изучении феномена машинного сознания (если оно когда-нибудь появится) через определение, есть ли в принципе у искина осознанные переживания. После предварительной идентификации класса субъектов, обладающих сознанием, мы сможем более детально исследовать природу их переживаний.

И последняя оговорка. Специалисты по машинному сознанию часто отделяют сознание от другого родственного понятия. Ощущаемое качество внутренних переживаний человека – что значит внутренне чувствовать себя собой – философы и ученые часто называют «феноменологическим сознанием». Я, однако, на протяжении всей книги буду называть его просто «сознанием». Специалисты по машинному сознанию отличают феноменологическое сознание от того, что они называют когнитивным, или функциональным, сознанием[42]. Искин обладает когнитивным сознанием, если свойства его архитектуры хотя бы грубо напоминают те, что лежат в основе феноменологического сознания человека, такие как внимание и кратковременная память. (В отличие от изоморфов, проявления функционального сознания не обязательно должны быть точной вычислительной копией. Они могут представлять собой упрощенные версии человеческих когнитивных функций.)

Многие вообще не любят называть когнитивное сознание одним из типов сознания, поскольку система, которая обладает когнитивным сознанием, но не имеет состояний с феноменологическим сознанием, должна быть стерильной, без каких бы то ни было субъективных переживаний. Такая система не что иное, как ИИ-зомби. Системы, обладающие только когнитивным сознанием, не смогут вести себя так, как системы, обладающие функциональным сознанием, да и относиться к ним как к мыслящим созданиям было бы неразумно. Такие системы не способны осознать мучительность боли, обжигающую мощь вспышки гнева или богатство дружбы.

Так почему ИИ-специалистов интересует когнитивное сознание? Оно важно по двум причинам. Во-первых, очень может быть, что для обладания феноменологическим сознанием, которым наделены биологические существа, когнитивное сознание необходимо. Для человека, заинтересованного в разработке самосознающих машин, это важно, поскольку, развивая когнитивное сознание, мы, возможно, ближе подойдем к получению полноценного машинного сознания (т. е. феноменологического сознания).

Во-вторых, машина, обладающая когнитивным сознанием, вполне может иметь и феноменологическое сознание. Искины уже получили некоторые архитектурные свойства когнитивного сознания. Существуют искины, обладающие примитивной способностью к рассуждению, обучению, самопредставлению и имитации своим поведением сознания. Роботы уже могут действовать автономно, формировать обобщения, планировать и учиться на ошибках. Некоторые из них выдерживают зеркальный тест, позволяющий