Еще раньше начала работ по реконструкции старой линии обороны, в 1635 г. развернулось строительство укреплений Белгородской засечной черты, выдвинутой на юг и состоявшей из 5 больших земляных валов по 30–35 верст каждый (Карповско-Белгородский, Яблоновский, Новоскольский, Усманский, Козловский) и более 20 малых валов. Работы здесь велись до 1653 г. Линия новых укреплений протянулась от реки Ворсклы до реки Челновой почти на 800 верст. В 1647 г. в Среднем Поволжье начинается строительство Корсунской, Атемарской, Потишской, Инсарской и Засурской засеки, позднее составивших Симбирскую черту, строительство которой завершилось в 1654 г.

Продолжающиеся набеги татар, а также новое крепостное и засечное строительство потребовало более надежного прикрытия границы войсками, особенно в местах проведения работ. Иначе могла повториться история со строительством жилого острога на реке Короче, уничтоженного татарами в сентябре 1637 г.

Была заметно увеличена численность «украинных полков» — с 5 тыс. человек в 1631 г. до 12 тыс. (по другим сведениям, до 13 тыс.) в 1635 г. и 17 тыс. в 1636 г. Эта мера сразу улучшила обстановку на южной границе. Задуманный в 1636 г. большой татарский набег оказался сорванным. Крымские и ногайские отряды были встречены войсками, прикрывавшими строительство городов Тамбова, Козлова, Верхнего и Нижнего Ломова, и поспешно отступили в степь.

Отвлекали татар возобновившиеся нападения запорожских и донских казаков на ногайские улусы и азовские места. В августе 1634 г. запорожцы осадили Азов, а в октябре под этой крепостью действовали объединившиеся донские и запорожские отряды, штурмовавшие городские укрепления и едва не овладевшие ими. Однако захваченная казаками наугольная башня обвалилась, засыпав проход в город. При этом был ранен казачий атаман Епиха Радилов. Приближение к Азову ногайских отрядов вынудило казаков снять осаду и отступить.

Весной 1635 г. 2 казачьих флотилии разорили окрестности Керчи и захватили в Азовском море 4 турецких купеческих корабля, сожгли город Кают в Турции и благополучно вернулись обратно. Была установлена почти полная блокада Азова. В степи стояли конные казачьи заставы, в устье Дона находились донские и запорожские струги, стерегущие движения вражеских кораблей.

Попытку овладеть Азовом казаки повторили в 1637 г. На этот раз они действовали большими силами и гораздо удачнее. Воспользовавшись начавшейся войной между Турцией и Персией, а также уходом войска крымского хана в поход на Молдавию (в составе этой орды ушли в набег ногаи, улусы которых прикрывали ближние подступы к Азову), казаки задумали напасть на турецкую крепость. 9 апреля 1637 г. в Монастырском городке собрался войсковой круг, На нем было решено «идти посечь басурман, взять Азов и утвердить в нем веру православную». 20 апреля в поход на Азов выступило войско под командованием походного атамана Михаила Ивановича Татаринова. В его составе было 4 тыс. запорожских казаков атамана Петра Матьяша, которым за участие в этом набеге была обещана половина будущей добычи.

21 апреля 1637 г. крепость была осаждена. Взятие Азова отвечало интересам Русского государства, и из Москвы с дворянином Степаном Чириковым в помощь казакам очень своевременно была прислана денежная и хлебная казна, а также большие запасы пороха. На 49 стругах на Дон доставили порох, ядра, 2 тыс. рублей, 400 четвертей сухарей, толокна, круп, 16 бочек вина, 40 поставов сукна, 100 пудов пороха, 50 пудов селитры, 40 пудов серы, 100 пудов свинца и 4200 пушечных ядер, к 84 бывшим у казаков пушкам-пищалям.

Воодушевленные поддержкой донцы начали вести осадные работы, сделав подкоп под стены крепости. Подземные работы возглавил запорожский казак Иван Арадов. На рассвете 18 июня 1637 г. в результате взрыва пороховой мины крепостная стена была взорвана и через образовавшийся в ней большой пролом (ок. 10 саженей) казаки ворвались в город. Тяжелые уличные бои продолжались еще три дня. В ходе штурма донцы и запорожцы потеряли более тысячи человек убитыми и около 2 тысяч ранеными. 4-тысячный турецкий гарнизон был уничтожен (за исключением укрепившихся в одной из башен последних защитников города, оборонявшихся там почти две недели и только потом заключивших с казаками соглашение, по которому их выпустили в Крым). При штурме Азова истреблению подверглась и большая часть его жителей, промышлявших торговлей русскими пленниками. В руки победителей попали большие трофеи, в том числе вся азовская крепостная артиллерия — на стенах и башнях захваченного города находилось 200 больших и малых орудий.

Победа казаков не осталась незамеченной. Первыми о ней узнали в Москве — 15 июля 1637 г. с донесением туда отправилась легкая станица атамана Потапа Петрова, давшего русскому правительству подробный отчет о последних событиях на Дону. В 1638 г. в Азов русским правительством было прислано царское знамя, «зелейная» и свинцовая казна — 300 пудов пороху и 200 пудов свинца, большие хлебные запасы. Поставки продовольствия и боеприпасов продолжались и в дальнейшем, увеличиваясь год от года. Воеводы южнорусских городов получили приказ не препятствовать отправке жителей своих уездов на помощь казакам в Азов. Помощь людьми была своевременна — большая часть запорожцев ушла в Приднепровье, где разгоралось восстание под руководством Я. Острянина, К. Скидана и Д. Гуни.

В Стамбуле, несомненно, догадывались о причастности русского правительства к захвату Азова. В отместку за оскорбительную для султана победу казаков хан Бегадыр-Гирей, по воле «турского царя», в начале осени 1637 г. послал в большой набег на Русь «царевича» Сафат-Гирея.

Весной 1638 г. крымский хан попытался урегулировать проблему Азова дипломатическим путем и направил на Дон своего парламентера ногайского мурзу Салтана Аксак Кальмаметева. 19 апреля посол прибыл к Азову и потребовал возвращения города Турции. Ответ казаков хорошо передает ту гордость, которую они испытывали от своей победы, плодов которой донцы не собирались уступать без большой войны: «Дотоле у нас казаки место искивали в камышах. Подо всякою камышинкою жило по казаку, а ныне де нам Бог дал такой город с каменными палатами, да с чердаками, а вы де велите его покинуть. Нам еще де, прося у Бога милости, хотим прибавить к себе город Темрюк, да Табань, да и Керчь, да либо де нам даст Бог и Кафу вашу».

В 1638 г. году бои шли и на Азовском море, где действовал турецкий флот Пиал-паши, которому удалось разгромить несколько казачьих флотилий, пытавшихся прорваться в Черное море. Самое страшное поражение потерпели донцы в сражении в Адахунском лимане под Анапой. Однако подошедшие к устью Дона османские корабли ограничились лишь морской блокадой Азова. Главные силы турецкой армии по-прежнему участвовали в войне с Персией, а крымский хан не решался осаждать и штурмовать большую каменную крепость, в которой сумели укрепиться страшные для татар казаки.

Овладев Азовом, донцы приступили к восстановительным работам, стараясь не столько возобновить старые укрепления, сколько еще более усилить их. Превратив город в свою базу, казаки уже в следующем, 1640 г. направили в море к крымским берегам флотилию из 37 стругов, которая была встречена большим османским флотом, насчитывавшим 80 галер — «каторг» и 100 малых судов — «ушкулов». Бои между казачьими и турецкими кораблями шли три недели (!). Казаки повредили 5 галер противника, но, преследуемые турецкими кораблями, вынуждены были высадиться на берег и по суше возвратиться в Азов.