математические и вычислительные препятствия для принятия тезиса о скорой победе цифровых машин над человеческим мозгом. Ниже представлен краткий перечень наших доводов.

Цифровая симуляция основана на многих предвзятостях и предположениях, таких как способ подачи информации. Кроме того, на этом пути нужно преодолеть множество различных препятствий. Исходные предположения могут в конце полностью обесценить саму модель. Например, давайте представим себе любую физическую систему S, эволюцию которой мы хотим симулировать. Первая аппроксимация состоит в том, чтобы назвать S изолированной системой. При соприкосновении с реальной жизнью выясняется, что биологические системы не могут быть изолированными от окружающей среды без значительной потери функциональности. В частности, если S — живая система, в каждый конкретный момент времени ее структура полностью зависит от обмена веществом и информацией с окружающей средой. S — интегрированная система. Следовательно, если рассматривать ее в качестве изолированной системы, это может кардинально отклонить симуляцию от реальности, особенно если речь идет о такой живой системе, как мозг. В частности, это ограничение обесценивает любые попытки построить реалистичную модель мозга живой взрослой мыши на основании данных, полученных на таких экспериментальных образцах, как срезы мозга молодых мышей. Такие экспериментальные образцы значительно снижают истинную сложность исходной системы и не учитывают ее взаимодействие с окружающей средой. Распространение результатов, полученных на основании редуцированной модели, на реальное поведение живого мозга просто бессмысленно, даже если модель создает некое тривиальное эмерджентное поведение, такое как осцилляции активности нейронов.

И это только первая из ряда важнейших проблем в применении классического редукционистского подхода к пониманию комплексных систем, таких как человеческий мозг. Сводя систему ко все более мелким модулям, мы фактически разрушаем ядро операционной структуры, позволяющей системе генерировать ее уникальный уровень сложности. А без возможности отражать внутреннюю сложность системы оставшиеся качества становятся бесполезны для объяснения того, как в реальности работает система в целом.

На следующем этапе компьютерной симуляции производят отбор данных, измеренных непосредственно для системы S, с осознанием того, что нам не известны многие другие данные и вычисления на разных уровнях наблюдения за системой. По желанию или из-за отсутствия иных вариантов мы обычно считаем все эти данные несущественными для данной симуляции. Но в случае сложных систем, таких как мозг, нельзя быть уверенным, что какой-то другой уровень наблюдения, скажем квантовое описание системы, действительно не имеет значения. Таким образом, мы, безусловно, используем для нашей симуляции весьма неполный набор данных о системе S.

После проведения наблюдений или измерения каких-то естественных проявлений системы S мы пытаемся подобрать математическую формулу, которая могла бы соответствовать выбранным данным. Как правило, эта математическая формула определяется набором зависимых от времени дифференциальных уравнений. Дифференциальные уравнения были разработаны в первую очередь для применения в физике и совсем не обязательно применимы к биологическим системам. Более того, важно подчеркнуть, что в большинстве случаев эти математические формулы сами по себе уже являются аппроксимациями, не отражающими поведение природной системы на всех ее многочисленных уровнях организации. Опять-таки большинство физических процессов в лучшем случае лишь аппроксимируются математической функцией. Если вас это удивляет, знайте, что вы не одиноки. Большинство людей, которые верят в возможность воспроизведения всех природных явлений во вселенной с помощью компьютерных симуляций, к моему изумлению, не учитывают этот простой факт.

Далее нужно попытаться свести выбранную математическую формулу к алгоритму, который можно ввести в цифровую машину. Следовательно, компьютерная симуляция — это попытка имитировать математическое отображение ряда наблюдений за природным явлением, а вовсе не само природное явление как таковое. Поскольку эволюция биологической системы не подчиняется бинарной логике, используемой в цифровых компьютерах, результат компьютерной симуляции во многих случаях может эволюционировать совсем не так, как само природное явление. Это особенно справедливо в тех случаях, когда мы рассматриваем сложные адаптивные системы, эмерджентные свойства которых важны для правильного функционирования системы в целом. Таким образом, наша алгоритмическая аппроксимация может быстро отклониться от реального поведения природной системы, что заведомо приведет к бессмысленному результату.

Например, большинство моделей, которые, как утверждается, создают искусственную жизнь, используют комбинации разных алгоритмических методов — от объектно-ориентированного и процессно-ориентированного программирования до итеративного подхода — для имитации человеческого поведения. Как считает специалист в области эволюции и вычислительной техники Питер Дж. Бентли, это плохая стратегия, поскольку «не существует логически согласованного метода для корреляции этих программных трюков с биологическими сущностями. И поэтому данный подход приводит к туманным и в целом ненадежным моделям, основанным на субъективных метафорах и желании обеспечить биологическую значимость».

Но подобные проблемы возникают не только в биологии. Математик Майкл Берри приводит простой пример, иллюстрирующий трудности в симуляции любой физической системы, даже такой, казалось бы, простой, как бильярдная игра. Рассчитать результат удара первого бильярдного шара достаточно просто. Оценить результат второго удара уже сложнее, поскольку нужно точнее определять исходное состояние системы для получения приемлемой аппроксимации траектории шара. А дальше дело обстоит еще хуже. В частности, чтобы с большой точностью описать девятый удар, следует принять во внимание уже силу притяжения стоящих у стола людей. И если вы думаете, что даже это слишком трудно, знайте, что для расчета пятьдесят шестого удара требуется учесть влияние каждой отдельной частицы вселенной.

Другая интересная иллюстрация ограниченности предсказаний поведения сложных систем, особенно биологических, связана с ныне широко используемой технологией «больших данных» (big data). На протяжении нескольких последних лет нам упорно твердят, что при наличии чрезвычайно большого массива данных, содержащих гигантский объем информации о каком-то предмете, с помощью алгоритмов машинного обучения можно с высокой степенью точности предсказать будущее такой же системы. На эту тему написано огромное количество материала, так что здесь у меня просто нет места, чтобы его полностью отразить. Но я все же хочу указать на два очевидно неудачных примера применения этого подхода: предсказания результатов голосования и классификацию бейсбольных команд.

Во время выборов президента США в 2016 году десятки миллионов долларов были затрачены на создание систем обработки больших массивов данных, которые, как предполагалось, позволят назвать победителя еще до проведения голосования, не то что до подсчета голосов. К тому моменту, когда на восточном побережье США миллионы людей уже проголосовали и избирательные участки были закрыты, многие традиционные СМИ, включая New York Times, CNN и три главные американские телевизионные сети, начали раскрывать предсказания своих систем big data, которые практически единогласно прочили убедительную победу кандидату от Демократической партии Хиллари Клинтон. Как всем известно, на этих одних из самых невероятных в истории США президентских выборах победу одержал Дональд Трамп. Юление журналистов и газетных изданий по поводу очевидной победы Трампа было еще позорнее и унизительнее, чем знаменитый заголовок на