В 2021 году Комиссия по национальной безопасности по ИИ США (ее возглавляет бывший председатель Alphabet Эрик Шмидт) рекомендовала Соединенным Штатам изменить отношение к запрету автономного оружия.

Третий подход предполагает жесткое регулирование производства и применения автономного оружия. Это, судя по всему, тоже будет непросто — из-за сложности создания рабочих технических спецификаций без чрезмерного обобщения.

Что считать автономным оружием? Как проводить его аудит с целью выявления нарушений установленных спецификаций? Все это серьезные, хоть и вполне преодолимые, препятствия.

Поскольку эта книга о долгосрочной перспективе, позвольте мне пофантазировать о 2041 годе — вдруг к тому времени все страны договорятся, что все войны должны вестись только с помощью роботов (а еще лучше, только в компьютерных программах), без человеческих жертв, но с классическими военными трофеями?

А еще можно представить себе будущее, в котором войны ведутся с участием и людей, и роботов. Роботам разрешается использовать только оружие, выводящее из строя бойцов-роботов, но безвредное для солдат-людей (например, как лазерный бой). Сегодня эти концепции кажутся фантастическими, но могу же я надеяться, что они быстрее вдохновят человечество на что-то реалистичное?

Надеюсь, я убедил вас, что автономное оружие уже сегодня представляет явную угрозу для людей и с беспрецедентной скоростью становится все более умным, а также ловким, смертоносным и доступным. Развертывание таких видов вооружения будет разгонять неизбежную гонку, в которой еще и не окажется естественного сдерживания, характерного для гонки ядерного вооружения.

Автономное оружие — это применение ИИ, которое наиболее явно и глубоко противоречит нашей морали и сильнее всего угрожает будущему человеческой цивилизации. Нам уже сегодня нужно привлечь экспертов и прочих ответственных лиц, чтобы оценить и взвесить различные варианты решений и предотвратить распространение такого оружия, а как следствие — и уничтожение нас, людей, как биологического вида.

Глава 8. Спаситель рабочих мест

Умру с кувалдой я в руках,

но паровому молоту не сдамся.

Американский фольклор, песня о Джоне Генри[117]

РАССКАЗ ПЕРЕВЕДЕН ЭНДИ ДУДАКОМ

Примечание Кай-Фу: В этой истории исследуется животрепещущая проблема: что случится с человеческими рабочими местами, когда искусственный интеллект проникнет во все отрасли и сделает человеческий труд ненужным? Пока искусственный интеллект уничтожает рабочие места, связанные с технической, нетворческой деятельностью, зарождается новая сфера бизнеса — фирмы по перераспределению («релоцированию») сотрудников, занятые поиском новых рабочих мест для уволенного персонала и его переобучением. Но что представляют собой эти новые места? Смогут ли они удовлетворить потребность людей чувствовать себя востребованными? Кто находится в большей опасности? Как людям жить полноценной жизнью в эру поставтоматизации? Я поделюсь своими размышлениями в комментариях в конце этой главы и опишу, как технологии типа робототехники и роботизированной автоматизации процессов продолжат развиваться и примут на себя функции как офисного персонала, так и рабочего класса.

Свет был притушен. Дженнифер Гринвуд и еще двенадцать участников тренинга внимательно смотрели видео, плавающее перед ними в воздухе. В закадровом мужском голосе звучали прямо-таки пророческие нотки.

— Все начало меняться в 2020 году, — вещал он. — Пандемия привела к социальной изоляции и ограничению поездок. Владельцам бизнеса пришлось приспосабливаться, они обратились к роботизации и искусственному интеллекту, чтобы заменить машинами человеческий персонал.

Парящая в воздухе картина перенесла зрителей на пустынную Таймс-сквер, затем — в заброшенный торговый центр и безлюдный Диснейленд. Перед глазами всплывали изображения закрытых фабрик и замерших сборочных линий. Дальше пошли протестующие толпы в городах — на лицах респираторы, в руках плакаты с лозунгами против массовых увольнений. Затем появились еще более тревожные кадры уличных беспорядков и погромов.

Повествование меж тем продолжилось:

— В 2024 году власть в Белом доме перешла в новые руки, и администрация запустила программу по введению безусловного базового дохода. Предполагалось гарантировать каждому гражданину ежемесячную выплату за счет налогообложения сверхбогатых элит — эти олигархи сколотили состояния на новых технологиях и сборе данных. Первостепенной задачей стало справиться со структурной безработицей, которую спровоцировало развитие искусственного интеллекта.

В визуальном потоке возник мозаичный коллаж из заголовков. Фоном пошла узнаваемая тревожная музыка из новостной заставки. Анимированный график продемонстрировал скачки цен на фондовых биржах, а затем граждане принялись читать пришедшие на смартстримы уведомления о выплатах.

Голос продолжил:

— Несмотря на изначальную популярность, введение безусловного базового дохода вызвало неожиданные последствия. Многие уволенные, которым теперь стало нечем заняться, пристрастились к играм виртуальной реальности, азартным онлайн-играм, наркотикам и алкоголю. В городах выросла преступность — деловые и престижные районы обезлюдели, корпорации и состоятельные горожане покинули офисы и дома.

Искусственный интеллект развивался стремительно, на обочине оказалось сразу много людей, у них не было ориентиров на рынке труда. Одна социальная проблема цеплялась за другую, порождала третью — увеличилось число самоубийств. Раздались голоса за отмену базового дохода.

Социальные сети захлестнул большой спор о преимуществах и недостатках этой программы уже к 2028 году. Сенаторы и конгрессмены погрязли в бесконечных дрязгах, переходящих в битвы, сражаясь за выдвинутый план отмены базового дохода. Эту программу официально упразднили в 2032 году.

Вместо нее сформировали законодательную базу для создания новой отрасли — релокации, профессионального перенаправления. Надо же соответствовать времени! Профессионалы-релокаторы помогают людям обучаться новым профессиям, показывают пути для трудоустройства. Часть налогов, ранее уходившую на выплату базового дохода, правительство перенаправило на субсидирование релокации, надеясь таким образом притушить пожар разгоревшихся социальных конфликтов. Именно в тот момент я и решил основать компанию «Синкия»[118].

Дженнифер знала эту историю и спокойно могла бы заменить рассказчика. Теперь, в эру трудового перераспределения, от корпораций требовали сотрудничать с компаниями, подобными «Синкии», во время массовых увольнений сотрудников.

Компании по перенаправлению персонала получали правительственные дотации и оплату по контрактам с работодателями. Как правило, стоимость такого контракта была ниже, чем расходы компании на массовые выплаты по сокращениям.

Фирмы вроде «Синкии» сводили между собой рекрутинговые агентства и увольняемых сотрудников, получая за это плату, как и традиционные хедхантеры. Прибыль шла на тренинги для тех, кто не смог трудоустроиться без переобучения.

Искать рабочие места для людей было труднее, чем заполнять вакансии. По мере сужения диапазона профессий релокаторам из фирм, подобных «Синкии», приходилось без конца проводить тестирование жертв увольнений. Оно нужно, чтобы составить (или дополнить) личностный и профессиональный профиль, сформировать исчерпывающие дорожные карты по типам занятости, основанные на последней экономической статистике и социальных трендах.

Получив свежие данные, релокаторы выдавали безработным индивидуальные планы по трудоустройству и щедро сдабривали их дежурным сочувствием. И тут в игру вступала харизма Майкла.

Вводное занятие по истории релокации как отрасли и «Синкии» как одной из успешных в ней фирм подошло к концу.