Современные применения ИИ являются специализированными: автономные автомашины и шахты требуют громадных инвестиций в исследования, проектирование конструкций, разработку программного обеспечения и тестирования с целью получения необходимых алгоритмов и проверки того, что они работают именно так, как должны. Такая картина наблюдается во всех сферах инженерного дела. Точно так же дело обстояло и в сфере путешествий: если вы хотели съездить из Европы в Австралию и обратно в XVII в., это был бы сложный проект, очень дорогостоящий, требующий нескольких лет планирования и сопряженный с высоким риском для жизни. Теперь мы привыкли к идее путешествий как к одной из услуг: если вам необходимо быть в Мельбурне в начале следующей недели, нужно всего лишь несколько раз нажать на экран смартфона и заплатить относительно небольшую сумму.

Универсальный ИИ воплощал бы идею всё как услуга. Не нужно было бы задействовать армии специалистов разных профессий, организованных в иерархии подрядчиков и субподрядчиков, чтобы выполнить проект. Все воплощения универсального ИИ имели бы доступ ко всем знаниям и навыкам человеческой расы и многому другому. Единственная разница прослеживалась бы в физических возможностях: опытные ходячие роботы для строительства или хирургии, колесные роботы для крупномасштабной транспортировки товаров, роботы-квадрокоптеры для наблюдения с воздуха и т. д. В принципе, если оставить за скобками политику и экономику, каждый имел бы в своем распоряжении целую организацию, состоящую из программных агентов и физических роботов, способных проектировать и строить мосты, повышать урожайность, готовить ужин на сотню гостей, проводить выборы — делать все, что необходимо. Именно универсальность универсального интеллекта делает это возможным.

Конечно, история доказала, что десятикратное увеличение глобального ВНП на душу населения возможно и без ИИ. Просто это заняло 190 лет (с 1820 по 2010 г.)[141]. И потребовало развития фабрик, станков, автоматизации, железных дорог, сталелитейной промышленности, автомобилей, самолетов, электричества, добычи нефти и газа, телефонов, радио, телевидения, компьютеров, интернета, спутников и многих других революционных изобретений. Десятикратный рост ВНП, имевшийся в виду в предыдущем абзаце, будет обусловлен не дальнейшим появлением революционных технологий, а способностью ИИ-систем использовать то, что у нас уже есть, эффективнее и в большем масштабе.

Разумеется, у роста уровня жизни неизбежно будут другие последствия, помимо чисто материального выигрыша. Например, известно, что персональное обучение намного эффективнее занятий в классе, но, когда оно осуществляется людьми, оно попросту недоступно — и всегда таким будет — огромному большинству землян. При наличии ИИ-преподавателей может быть раскрыт потенциал каждого ученика, даже самого бедного. Затраты в расчете на ребенка будут пренебрежимо малы, и этот ребенок будет жить намного более насыщенной и продуктивной жизнью. Художественные или интеллектуальные цели, индивидуальные или коллективные, станут обычной частью жизни, а не роскошью для избранных.

В сфере здравоохранения ИИ-системы позволят исследователям раскрыть и в совершенстве освоить тонкости строения человека, следовательно, со временем лучше справляться с болезнями. Глубокое понимание человеческой психологии и нейрохимии повсеместно улучшит психическое здоровье.

Пожалуй, несколько непривычный аспект: ИИ значительно повысит эффективность авторского инструментария в области виртуальной реальности (ВР) и поможет наполнить виртуальные пространства намного более интересными сущностями. Это может превратить ВР в основное средство литературного и художественного самовыражения, создавая в ней впечатления недоступного ныне разнообразия и глубины.

В обыденном мире интеллектуальный помощник — если он будет правильно спроектирован и не слишком подчинен экономическим и политическим интересам — позволит каждому человеку самостоятельно и эффективно действовать во все более сложной и подчас враждебной экономической и политической обстановке. Фактически в вашем распоряжении окажется одновременно высококомпетентный адвокат, бухгалтер и советник по политическим вопросам. Как дорожные пробки, предположительно, рассосутся, когда в поток вольется хотя бы малый процент автономных транспортных средств, остается надеяться, что более мудрые политические шаги и меньшее число конфликтов станут следствием лучшей информированности и лучшего учета интересов граждан.

Эти достижения в совокупности могут изменить динамику истории — по крайней мере, ту ее часть, которой традиционно управляли конфликты внутри обществ и между ними за доступ к необходимым для жизни ресурсам. Если пирог по сути бесконечен, то драться за больший кусок незачем. Это было бы сродни борьбе за то, чтобы иметь больше всех цифровых копий газеты — абсолютно бессмысленное дело, когда каждый может бесплатно получить их столько, сколько нужно.

Результаты, которые может обеспечить ИИ, имеют некоторые ограничения. Такие «пироги», как земля и сырье, не бесконечны, следовательно, не может быть неограниченного роста населения и не каждый получит особняк в личном парке. (Это постепенно потребует развернуть добычу полезных ископаемых по всей Солнечной системе и строить жилища в космосе, но я обещал не говорить о научной фантастике.) Пирог гордыни также конечен: лишь 1 % людей может входить в верхний 1 % по любому показателю. Если человеку для счастья нужно относиться к верхнему 1 %, то 99 % человечества обречено быть несчастными, даже если нижний 1 % ведет объективно роскошную жизнь[142]. Следовательно, важно, чтобы наша культура постепенно обесценила гордыню и зависть.

Как замечает Ник Бостром в конце своей книги «Сверхразумность», успех в создании ИИ закладывает «траекторию цивилизационного развития, ведущую к сострадательному и радостному осуществлению вселенского предназначения человечества». Если мы не сумеем воспользоваться преимуществами, предлагаемыми нам ИИ, то должны будем винить в этом лишь самих себя.

Гуманное и радостное осуществление вселенского предназначения человечества… Звучит прекрасно, но мы должны считаться с быстрым темпом внедрения инноваций в сфере злоупотреблений. Злоумышленники так быстро изобретают новые способы неправомерного использования ИИ, что эта глава, скорее всего, устареет еще до того, как книга пойдет в печать. Отнеситесь к дальнейшим главам не как к поводу для депрессии, а как к призыву действовать, пока не поздно.

Автоматизированное Штази

Ministerium für Staatsicherheit, более известное как Штази, многими считается «одним из самых эффективных и репрессивных ведомств разведки и тайной полиции в истории»[143]. Оно копило досье на большинство восточногерманских домохозяйств, прослушивало телефонные разговоры, читало письма и ставило скрытые камеры в жилых домах и отелях. Оно с безжалостной эффективностью выявляло и пресекало деятельность диссидентов, отдавая предпочтение психологическому уничтожению перед тюремным заключением или физическим устранением. Однако такой уровень контроля давался большой ценой: по некоторым оценкам, более четверти взрослых работоспособного возраста являлись информаторами Штази. Архивы Штази оцениваются в 20 млрд страниц[144], и задача обработки и использования громадных входящих потоков информации начинала превосходить возможности любой организации.