Андрей Николаевич сумел доказать руководству, что имеется возможность обеспечить приемлемые экономические характеристики даже с учетом резкого увеличения расходов топлива при внедрении реактивных двигателей. Согласно оценкам, проведенным в ОКБ, в СССР для улучшения экономичности транспортной системы в случае внедрения на авиалинии реактивных пассажирских самолетов необходимо было увеличить ресурс реактивной машины до 25–30 тысяч летных часов, вместо 10 тысяч для поршневых самолетов по сравнению с поршневыми машинами; поднять коммерческую нагрузку, создав самолеты на 50–100 и более пассажиров; увеличить рейсовую скорость полета до 750–800 км/ч. Значительный экономический выигрыш, по мнению ОКБ, должен был дать все тот же модификационный путь создания пассажирской машины на основе освоенного в серии и эксплуатации дальнего реактивного бомбардировщика Ту-16. При этом полностью использовался опыт постройки, доводки и эксплуатации военного прототипа, что обеспечивало высокую надежность и безопасность эксплуатации, столь важные для пассажирского самолета. Значительно уменьшались затраты на постановку машины в серии, благодаря чему уменьшалась себестоимость самолета и повышались экономические характеристики самолета. Облегчались проблемы подготовки летного и наземного состава для нового пассажирского самолета за счет использования специалистов, прошедших подготовку в ВВС на близких по конструкции, летным и эксплуатационным характеристикам боевых самолетах. Эта концепция была продолжением и развитием идей, принятых в ОКБ в период с 1920-х по 1940-е годы, сформировавшихся в ходе проектирования и постройки серии поршневых туполевcких пассажирских и транспортных самолетов. Во второй половине 1940-х годов, в ходе эпопеи постановки на серию Ту-4, ОКБ А. Н. Туполева подготовило глубокие модификации этого дальнего бомбардировщика — пассажирский «лайнер» Ту-70 и транспортный вариант Ту-75. Они успешно прошли цикл испытаний и доводок, но не были приняты к серийному производству и массовой эксплуатации из-за отсутствия необходимых производственных мощностей и, что не менее важно, неготовности рынка авиационных услуг и эксплуатирующих организаций к переходу на новую современную технику.

Еще до принятия официального решения по самолету в ОКБ начались работы по его проектированию. 11 июня 1954 года вышло постановление Совета министров СССР о создании дальнего пассажирского скоростного самолета Ту-16П. В ОКБ по этой машине был принят шифр «104», затем перешедший в официальное название — Ту-104, после чего третья четверка в официальных обозначениях туполевских пассажирских машин стала постоянной цифрой. Самолет должен был проектироваться на базе бомбардировщика Ту-16 с двумя двигателями АМ-3-200. Серийный выпуск самолетов планировался в Харькове.

Переход от Ту-16 к Ту-104 осуществлялся за счет замены старого фюзеляжа на вновь спроектированный — большего диаметра (3,5 вместо 2,9 метра) с полностью герметичным пассажирским салоном. Несколько изменилась схема самолета: вместо среднеплана стал низкоплан, соответственно, были перепроектированы центроплан и мотогондолы. От серийного Ту-16 использовались отъемные части крыла, двигательные отсеки крыла, шасси, горизонтальное и вертикальное оперение, гондолы шасси. Первоначально Ту-104 проектировался на 50 человек, но предусматривался дальнейший переход на модификации для семидесяти и более пассажиров.

В сентябре 1954 года эскизный проект Ту-104 был предъявлен ВВС. В ноябре — декабре состоялась макетная комиссия, одновременно шло рабочее проектирование и постройка опытного экземпляра самолета.

В ходе создания Ту-104 особое внимание было уделено обеспечению высокой надежности конструкции самолета, а также увеличению ресурса планера и особенно гермокабины. Памятуя о проблемах, с которыми столкнулись англичане на «Комете», при выполнении программы создания Ту-104 его планер впервые в отечественной практике был подвергнут циклическим испытаниям в специально построенном гидробассейне ЦАГИ. Они позволили выявить слабые места в конструкции, провести доработки и обеспечить необходимую долговечность.

Одновременно для Ту-104 проводился поиск наиболее рациональных компоновочных схем размещения пассажирских салонов, кухни и бытовых помещений. Разрабатывалась конструкция удобных пассажирских кресел, бестеневое освещение салонов, подбирались цветовые гаммы интерьеров и материалы для обивки и облицовки перегородок и кресел. Интерьер самолета проектировался из предпосылки, что чувство комфорта и безопасности можно обеспечить, создав в самолете «домашнюю» обстановку (идея «салон — дом»). Отсюда некоторая перегруженность интерьера эклектическими элементами традиционного имперского стиля, а также дробность общего объема и отдельных деталей, использование форм и конструкций вагонной архитектуры, обильная отделка под золото и под орех. Все эти особенности в интерьере были присущи лишь первой опытной машине. В дальнейшем, уже в серии, интерьер пассажирского салона стал более «демократичным», приблизившись к мировым стандартам того периода.

Пассажирская специфика самолета вызвала необходимость разработки новых агрегатов системы кондиционирования воздуха, электроприборов для приготовления и подогрева пищи, освещения салонов… Кроме того, к ранее разработанным и существовавшим системам были предъявлены повышенные требования по надежности. Некоторые новые агрегаты, в основном бытового назначения, были спроектированы в самом туполевском ОКБ, так как в тот период специализированные ОКБ отрасли не брались за эту тематику, не имея опыта проектирования специфических агрегатов.

Опытный самолет Ту-104 с двигателями АМ-3 к началу 1955 года был закончен в опытном производстве и передан в Жуковскую летно-испытательную и доводочную базу, где началась его доводка и подготовка к испытаниям.

Л. Л. Кербер в характерной для него яркой сатирической манере вспоминает эпизод перевозки фюзеляжа самолета «104» с набережной Яузы к Садовому кольцу:

«Надо сказать, что операция эта всегда была сложной и нервной. Конечно, машину разбирали на части, но беда в том, что герметичный фюзеляж расстыковывать нельзя, а у Ту-104 его длина 35 метров. Маршрут перевозки выбирали совместно с ГАИ. На крупномасштабной карте, передвигая по ней силуэтик самолета, просматривали, развернется ли он на перекрестках, где надо передвинуть киоски и будки, где поднимать провода троллейбуса или трамвая. Руководил операцией вывозки всегда такелажмейстер Антон Новиков, которому Андрей Николаевич полностью доверял.

Но „на всякую старуху бывает проруха“. Когда повезли „104-ю“ у сквера с памятником Лермонтову, напротив МПС, лопнула воздушная магистраль для подкачки воздуха и два или три колеса трейлера стравили. Возились долго, наступило утро, появились пешеходы и автомашины. Толпы любопытных зевак замучили наших людей и милиционеров. „Авторитеты“ изрекали: „Дирижабль“, „Подводная лодка“ и даже „Сверхмощная бомба“. За день все исправили, и на вторую ночь Ту-104 благополучно прибыл на аэродром».

Заводские испытания прототипа Ту-104 начались 11 июня 1955 года и продолжались до 12 октября 1955 года. Испытания проводил экипаж в составе: командир корабля — летчик-испытатель Ю. Т. Алашеев, второй пилот — Б. М. Тимошок, штурман — П. Н. Руднев, ведущий инженер — В. Н. Бендеров. От ОКБ ведущим инженером по Ту-104 назначили Б. Ф. Петрова, общее руководство темой, как и по Ту-16, осуществлял Д. С. Марков, впоследствии главный конструктор самолета.