История в мире сетевых технологий является противостоянием идей в той же мере, в какой им была холодная война, задавшая стандарт смысла Кушнеру и Фукуяме. История – это живой организм, и будущее не случайно.

В 2012 году Университет Сан-Франциско, иезуитское образовательное учреждение, связал кампанию по набору студентов с идеей о том, что христианство похоже на Facebook. Одним из их девизов стала фраза «Наш CEO[93] руководил социальными сетями за две тысячи лет до рождения Марка Цукерберга» [1].

Что-то в этом сравнении внушает мне беспокойство. Каждое учреждение обрело влияние особым образом. Каждая сеть создала центр средоточия власти в обход политических и территориальных границ и существовала согласно собственному плану. Каждый из них стал, можно сказать, «социальной монополией», участвуя в социотехнических атаках огромного масштаба.

Это не означает, что в социальной монополии обязательно происходит нечто плохое. Они же могут принести пользу обществу в невероятных масштабах. Католическая церковь, несомненно, помогает множеству бедных людей получить образование, множеству умирающих – умереть спокойно, множеству больных – вылечиться и наладить отношения с родными. В 2012 году Facebook попался на использовании социальной инженерии – соцсеть расширила списки доноров органов, чуть-чуть подправив алгоритм взаимодействия с пользователями. Когда ссылку на опцию пожертвования разместили прямо перед носом у людей, очень многие ее оценили.

Но проблема с отдельными средоточиями власти заключается в том, что никогда не известно, кто их унаследует. Если социальная сеть обладает способностью синхронизировать огромные толпы народа, который свергнет императора, то почему она не может координировать самосуд или погромы?

В Средние века, когда государственная власть была слаба, церковь терпела «плохих пап». Пропуск в загробную жизнь, да и само папство были объектом торга, а благотворительная и духовная миссия оказались в тени разного рода лицемерных и откровенно преступных схем.

Основная идея интернета – в том, что человек доверяет другим, и люди смогут вести себя прилично в разумных пределах, получив такую возможность. И я счастлив убедиться в этом снова. Это все, что у нас есть.

Но способность беспрепятственно участвовать в массовом обмане с применением социальной инженерии, которую уже продемонстрировал Facebook, доказывает, что интернет в том виде, в котором он существует на сегодняшний день, – не формирующаяся идеальная система, как нам часто его представляют, а система в основном управляемая, и инициатива в ней исходит сверху. У социотехнического обмана не может быть цели лучше, чем повысить количество пожертвований на донорство органов, и все же крайнее благо предыдущего опыта не говорит о целесообразности его наследования.

Мы притворяемся, что на облаках компьютерных систем зарождается новое сверхчеловеческое существо – искусственный интеллект, но жмут на их рычаги именно люди, те самые, которые управляют работой серверов-сирен.

Часто в новостях рассказывают о последних успехах в области разработки искусственного интеллекта: машина, которая умеет улыбаться, программа, которая умеет предсказывать человеческие музыкальные вкусы или пристрастия в выборе партнеров, робот, обучающий детей иностранным языкам. Этот нескончаемый поток историй предполагает, что машины становятся умной и автономной новой формой жизни и нам следует считать их друзьями, а не инструментами. Но подобные выводы не меняют нашего мысленного восприятия компьютеров: они лишь изменяют форму наших базовых представлений о жизни, причем ошибочными и зачастую травмирующими способами.

Все эти детали исследований в области искусственного интеллекта можно зачастую с куда большей пользой интерпретировать, вообще не прибегая к концепции искусственного интеллекта. Например, в 2011 году ученые из IBM презентовали машину, «отвечающую на вопросы», предназначенную для участия в телевикторине «Рискуй!». Предположим, IBM обошлись бы без театральной показухи, объявив, что усовершенствовали Google – создали новую систему поиска по фразам. Такое представление абсолютно идентичной технологии принесло бы команде столько же (вполне заслуженного) признания, сколько принесло объявление об искусственном интеллекте, но также приучило бы общественность к тому, что любую технологию можно использовать с максимальной эффективностью.

Обычно технологии искусственного интеллекта работают за счет одного из вариантов процесса, осуществляющего перевод с языка на язык, о котором уже шла речь в одной из предыдущих глав. При всей важности инноваций в алгоритмах необходимо также подпитывать эти алгоритмы большими массивами данных, собираемых с обычных людей. Результат, предположительно достигнутый искусственным интеллектом, можно расценивать как гибрид предыдущих попыток живых людей. Люди прежде отвечали на множество вопросов; множество их ответов собрали алгоритмы, и программа выдала их обратно сплошным потоком. Это никоим образом не умаляет их достоинств и не отрицает их пользы, но не делает их работу сверхъестественной. Живые люди, которым принадлежат ответы на вопросы, заслуживают платы за каждый новый ответ, данный машиной.

Рассмотрим также сканирование книги в цифровой формат. Историк Джордж Дайсон писал, что один из инженеров Google как-то сказал ему: «Мы сканируем все эти книги не для того, чтобы их читали люди. Мы сканируем их для того, чтобы их прочел искусственный интеллект». Притом что нам еще предстоит узнать, чем обернется инициатива Google по сканированию книг, такой машиноцентричный взгляд на проект может привести к появлению программ, для которых книги подобны зерну на мельнице, больше похожему на лишенные контекста обрывки информации в одной большой базе данных, а не на отдельные выражения мыслей конкретных авторов. При таком подходе содержание книг будет распылено на атомы битов информации, а потом собрано в кучу, а сами авторы, ощущение их реального присутствия, их уникальные взгляды на мир, будут утеряны. Не стоит и говорить о том, что при использовании такого подхода следы будут тщательно подчищаться, и будет очень сложно понять, кому же из авторов полагается наноплатеж за тексты, попавшие в базу данных.

Все это сводится к тому, что сама концепция искусственного интеллекта дает нам возможность избежать финансовых обязательств, притворившись, что машины могут брать на себя все больше и больше человеческой ответственности. Это справедливо даже по отношению к тому, что мы не воспринимаем как искусственный интеллект, например, рекомендации, которые дают Netflix и Pandora. Полагаю, слушать музыку и смотреть фильмы, которые предлагают нам алгоритмы, относительно безвредно. Но надеюсь, что когда-нибудь пользователи этих сервисов начнут сопротивляться рекомендациям; воздействие искусства на нас не стоит заключать в рамки алгоритма, который якобы точно предсказывает, что придется нам по вкусу. Эти алгоритмы не передают эмоций или смысла – только данные статистики и совпадения.