как некая данность. Кроме того, на нее опираются исследователи в других гуманитарных областях, например в истории. Заставляя ИИ обращаться к выбранным для него воспоминаниям, мы тем самым навязываем этой гипотетически чувствующей машине узкий набор установок, характерный для представителей группы WEIRD. Этого можно избежать, создав ИИ, который, обучаясь, будет генерировать собственные, похожие на человеческие воспоминания и присваивать значимость объектам и событиям. Однако, насколько мне известно, сейчас в разработке нет системы ИИ с динамической категоризацией для имитации памяти, не говоря уже об имитации эмоций.Вычисляя эмоции

Предположим, две эти основные проблемы решены: ИИ-устройство распознает выражения лица, интонации и поведение и использует динамическую категоризацию для хранения и извлечения информации. Мы создали машину, которая только распознает эмоции. Это металлический психопат — он неспособен сопереживать. Лично меня не особо прельщает перспектива довериться такому водителю.

Именно поэтому, чтобы создать чувствующий компьютер, нам надо сделать последний шаг — собственно, наделить его чувствами. Способность организма оценивать окружающий мир развивалась не отдельно от органов чувств, изначально позволивших организму этот мир познавать. Если бы не отвращение, которое могут вызвать вкус и запах, мы все бы давно умерли, отравившись чем-нибудь гнилым. Без аппетита мы уморили бы себя голодом. Без желания — не размножались бы. Паника подсказывала нам убегать от саблезубых тигров, а не бросаться им навстречу. Точно так же как наши сенсорные способности выходят далеко за рамки пяти традиционных ощущений, нам доступен широкий и разнообразный спектр внутренних переживаний, известных в психологии как аффекты.

Аффект — это не эмоция, а, скорее, оценка действительности; она вызывает приятные или неприятные ощущения в теле, возбуждая или успокаивая нас. Аффекты помогают установить контекст — подсказывают нам, видим ли мы собаку, которой можно доверять (или даже которую можно приручить), или тигра, от которого нужно бежать. Чтобы ощущать аффекты, ИИ необходимо тело. Как утверждает Барретт, «для баланса мозгу, лишенному тела, не хватает систем органов; ему недостает телесных ощущений, какие можно было бы осмыслить. Развоплощенный мозг не испытывает эмоций»[392].

Тело чувствующей машины необязательно должно быть копией человеческого, как в «Бегущем по лезвию». Это может быть полностью виртуальное тело, но для подключенного к нему цифрового мозга выполняющее функции физического. К сожалению, большинство разработчиков ИИ, наделяющих свои творения пониманием эмоций (даже те из них, кто подключает к своим творениям некое подобие тела), создают машины, которые в лучшем случае реагируют на основные стимулы вроде изображения, звука и давления. Чтобы получился чувствующий компьютер, необходимо больше, гораздо больше. Насколько больше — это мы, скорее всего, выясним в процессе попыток его создать. Сейчас ученые могут проверять, какие у людей представления об эмоциях, лишь несколькими довольно неуклюжими методами: предложить пройти опрос, поместить их в шумные, вызывающие клаустрофобию трубы и попросить реагировать «как обычно», изучать в мозге физические последствия травмы или неудачной операции. Что касается непосредственно понимания эмоций, мы все еще блуждаем во тьме. Чувствующий компьютер мог бы здесь зажечь для нас свет.

В качестве теоретического упражнения представим, что нам удалось решить эту задачу. Мы провели эксперименты и создали машину, которая может испытывать аффекты, считывать контекст и оценивать явления — и все эти способности идеально синхронизированы для того, чтобы конструировать эмоции. Кроме того, нам удалось навязать нашему творению собственные культурные предубеждения. Перед нами эмоциональная, чувствующая машина. Осталась последняя проблема. То, что машина чувствует, еще не означает, что она испытывает эмоции так же, как и мы. Она может вести себя, будто это так, говорить, что это так, но как нам точно узнать, что это правда так?

Вернемся к примеру с самоуправляемым автомобилем, распознающим агрессию на дороге. Безусловно, он может понять, почему я хмурюсь и трясу кулаком. Он может изобразить, что сопереживает мне и понимает смысл моего жеста. Но в действительности это механистическое подобие чего-то, что испытывает эмпатию, причем мы так до конца и не понимаем, как совместная работа шестеренок внутри него создает «ощущение» эмоции. Сейчас все еще может оказаться, что способность чувствовать нельзя воспроизвести искусственно. Возможно, это и неважно. В конце концов, я не могу быть уверен, что тот, кто читает эту книгу, испытывает эмоции так же, как я. Я не могу залезть вам в голову. Барретт утверждает, что эмоции зависят не только от того, как человеческий разум воспринимает собственные аффекты, контекст и оценки, но и от того, как это восприятие работает «во взаимодействии с разумом других людей»[393]. Если мы — или даже какой-нибудь другой ИИ — считаем, что машина способна чувствовать, достаточно ли этого?

В связи с этим возникает другой вопрос: важно ли, чтобы человек или машина действительно чувствовали эмоции? Или достаточно, чтобы они просто вели себя так, как будто они эти эмоции испытывают? Учитывая уровень интеллекта животных, мы относимся к ним не так же, как к людям, но какую роль играют эмоции в том, как мы проводим грань между машиной и искусственным, но живым созданием? Различие между тем ИИ, который делает вид, что боится смерти, и тем, который действительно боится смерти, критически важно в случае, если когда-нибудь возникнет необходимость выключить компьютер. Можем ли мы вообще принять такое решение в условиях неопределенности?

Вернемся к вопросу, который я задал во введении: что такое эмоция? У меня готов ответ. На мой взгляд, эмоции — это способ использовать весь наш опыт, чтобы понять, что мы чувствуем в тех или иных обстоятельствах. Кто вы, где вы находитесь и что делаете, не менее важно, чем то, что вы чувствуете. В каждом языке есть свои слова для обозначения чувств. В каждой культуре — и даже каждой семье — свое понимание того, как следует себя вести, испытывая те или иные чувства. У нас может быть общая нейрохимия, порождающая схожие базовые аффекты — те, что призваны не дать нам погибнуть (например, они вызывают желание сбежать или дать отпор). Но то, как мы психологически конструируем смыслы на основе этих ощущений, сугубо индивидуально. У кого-то отвращение связано с Богом, у кого-то — с едой. Одна группа может считать оправданной ненависть к другой. Другая может испытывать сильное чувство стыда за точно такую же вспышку ненависти. В одной паре любовь может быть чистой воды влечением, в другой — целым комплексом одновременно испытываемых эмоций.

Сейчас эта сложнейшая организация кажется неподъемной для ИИ, но исследователи не сдаются. В итоге