Ответ на такие вопросы — это еще один пример оценки пользователем. Как мы уже говорили, программисты всегда оценивают, насколько успешно их программы справляются с поставленной целью. Оценка — важная часть вычислительного мышления. Возьмите идеи, полученные в ходе оценки пользователей, и усовершенствуйте устройство чат-бота и ваши фразы. Повысятся ли оценки при повторном тестировании? Если нет, то почему? Если вы умеете программировать, то, получив некоторый опыт в составлении убедительных диалогов с чат-ботом, напишите соответствующую программу.

Сегодня создатели виртуальных собеседников не склонны имитировать психотерапевтов. Их роботы пытаются, например, изображать молодых иностранцев, которые объясняют, почему в программе произошел сбой, или собирают как можно больше настоящих реплик, чтобы брать из них образцы для сопоставления. Часто виртуальных собеседников создают не программисты, а люди, у которых хорошо получается создавать убедительные персонажи. Они используют специальные обобщенные программы для создания чат-ботов, которые наполняют разговорными элементами. Если у вас хорошо получается создавать такие персонажи, попробуйте заняться этим профессионально и населять ими виртуальные миры.

Следует ли опасаться ботов?

Чат-боты появились как эксперимент в программировании и психологии. Сейчас это — приложения, которые находят самое разное практическое применение. Например, персонажи, с которыми можно встречаться в виртуальных мирах, игрушки, которые хотят быть вашими друзьями, замена человеку в контакт-центрах и даже личные ассистенты, такие как дворецкий Джарвис у супергероя Железного человека.

Однако у чат-ботов есть и темная сторона. Порой они имитируют людей по гораздо менее достойным причинам. Рост социальных медиа привел к тому, что присутствие чат-ботов ощущается по всему миру. Эксперименты показали, что в соцсетях роботов часто признают за людей и они собирают тысячи подписчиков. Бывали даже случаи, когда политические активисты использовали чат-ботов, чтобы повлиять на политические взгляды людей с внешним эффектом естественного изменения общественного мнения. Это явление получило название «астротерфинг». Но если с помощью роботов удается изменить политические убеждения, значит, можно повлиять и на результаты выборов. Такие явления подрывают демократию. И это лишь одна из многих юридических и этических проблем, связанных с законным использованием ИИ и роботов, которые до сих пор не исследованы. Особенно важны процессы, развива­ющиеся в интернете. Мы склонны думать, что интернет населен людьми, но опрос 2014 г. показал, что около 60% трафика в нем создают роботы.

Интересно, что бы сказала об этом «Элиза»?

Входим в китайскую комнату

Системы, построенные на порождающем правиле «ЕСЛИ — ТО», как наш чат-бот, могут выполнять сложные операции, которые имитируют деятельность человеческого мозга в конкретных обстоятельствах. Конечно же, настоящий вызов здесь — создать ИИ или робота, который справится со всем, с чем справляется человек, а не будет выбирать единицы информации, что полегче. Способность видеть, слышать и чувствовать мир с высокой скоростью и точностью, общаться письменно и устно, влюбляться, писать музыкальные хиты или быстро принимать разумные решения, когда значительная часть информации неизвестна или неточна, — все это позволяет нам выживать в нашем сложном мире. Кроме того, мы, люди, понимаем, чтó мы делаем, в отличие от многих ИИ, для которых это является проблемой. ИИ следует правилам, но не понимает.

Философ Джон Сёрл показал эту проблему в мысленном эксперименте под названием китайская комната. Представьте, что вы совсем не знаете китайского языка — не пишете и не говорите на нем, и оказались в запертой комнате, где есть книги с правилами перевода с китайского языка. Через щель в двери вы получаете сообщения от носителей китайского. Вы ищете в книгах нужные правила, касающиеся написанного, действуете в соответствии с ними, а потом просовываете результат обратно в щель. Вы поступаете в точности как виртуальный собеседник, который следует правилам о том, что нужно «говорить» в ответ на полученные сообщения. Носители языка за дверью получают осмысленные ответы на свои вопросы, написанные на китайском. Значит, сама комната или что-то внутри нее понимает китайский, не так ли? Но вы знаете, что всего лишь следовали сложному набору правил, которые дают результат. Вы не понимаете ни ответы, ни вопросы. Так «понимает» ли китайский комната и находящийся в ней человек? Или она просто симулирует способность понимать по-китайски? Сёрл называет первый вариант сильным ИИ, а второй — слабым ИИ. Большинство людей сказало бы, что комната ничего не понимает. Все понимание имеется у людей, которые придумали правила. Этот мысленный эксперимент и поднятые им важные вопросы о природе понимания вызвали массу споров в среде философов и программистов. Попробуем переиначить его на свой лад.

Клингонская комната

Многие люди владеют азами китайского языка, а значит, не подходят для участия в этом мысленном эксперименте. Кроме того, китайский — «мудреный» язык, на котором говорят миллионы. Он развивался веками и отличается особенным построением фраз и набором исключений. Это живой естественный язык огромного масштаба и сложности. Было бы очень трудно создать правила, необходимые для описанного эксперимента, и это несколько его обесценивает. Давайте выберем более простые и реалистичные условия.

Говорите ли вы по-клингонски? Для мысленного эксперимента подойдет любой язык, который понимает хоть кто-нибудь. Клингонский — это пример нового языка с собственной лексикой, грамматикой и алфавитом, который создал Марк Окранд, отдав дань миру научно-фантастического сериала «Звездный путь». В нашем случае он выступит в роли полезной и более простой альтернативы китайскому. Это язык с синтетическим синтаксисом: нам с самого начала точно известны грамматические правила составления предложений. Мы точно знаем, как был создан этот язык, каковы его правила и синтаксис, его семантика (значение слов и предложений) и то, как в нем работают глаголы и существительные. На этом внеземном языке бегло говорят некоторые люди. Из этого легко вывести, что написать книги по переводу с клингонского для нашей комнаты реально. В особенности потому, что мы точно знаем, чтó можно выразить на этом языке. В основном, и это неудивительно, на нем говорят о борьбе, чести и космических кораблях. Например, слово, обозначающее «капитанский мостик» космического корабля, появилось на ранних этапах. И лишь много лет спустя в язык вошло понятие о «мосте» как способе перейти водную преграду. Это довольно экстремальный искусственный пример эволюции семантики — смыслового значения единиц языка и того, как возникает общее понимание значения слова. В настоящих человеческих языках такой процесс часто занимает столетия, и его трудно отследить.

Очевидно, что создать клингонскую комнату можно. Так поймет ли человек, находящийся в ней и ничего не знающий об этом языке, вопросы на клингонском, если будет отвечать так же, как в китайской комнате?

Поворот сюжета

Давайте изменим условия, чтобы создать собственный мысленный эксперимент. Возьмем одну китайскую комнату, где вопросы за дверью задают китайцы, и одну клингонскую комнату, где вопросы задают самые знающие фанаты. Будут ли люди у дверей китайской комнаты ощущать, что она хуже понимает их язык, потому что книги с правилами перевода было очень трудно написать и не всегда удалось в точности передать детали (да и можно ли зафиксировать все нюансы настоящего живого языка)? Будут ли наши «клингонцы», чья картина мира изобилует понятиями, связанными с честью и борьбой, чувствовать, что их комната дает более качественные ответы, потому что ей нужно освоить гораздо меньшие объемы? Если это так, то, возможно, дело в том, что в книгах с правилами перевода должны быть учтены все значения (семантика), а также все слова и грамматика (синтаксис). Значит ли это, что, если бы мы создали достаточно уточняющих правил, охватывающих весь реальный мир, комнаты обрели бы способность понимать?