Чеченцы не имели авиации, многократно уступали противнику в артиллерии и танках, однако за три года независимости успели превратиться в профессиональных бойцов, а по уровню боевой подготовки и командования значительно превосходили российских солдат, многие из которых были недавно призваны в войска. Непосредственно операциями с чеченской стороны руководил начальник Главного штаба генерал Аслан Масхадов, бывший полковник Советской армии. Чеченские войска удачно сочетали позиционную оборону с мобильной, успевая вовремя уйти от массированных ударов российской авиации.

Только 21 декабря федеральные части вышли к Грозному и в новогоднюю ночь 1995 года пошли на плохо подготовленный штурм. Чеченцы почти беспрепятственно пропустили наступавших в центр Грозного, а затем стали расстреливать бронетехнику и пехоту с укрепленных позиций на заранее пристреленных улицах города. Бойцы федеральных войск не имели планов города и почти не ориентировались в нем, действовали несогласованно и фактически без единого командования. Часть их была уничтожена, часть блокирована в занятых зданиях, и лишь немногим удалось прорваться обратно. В плен попало до 500 человек. Были сожжены или взяты чеченцами почти все российские танки, введенные в Грозный. Начались затяжные уличные бои, когда российские солдаты медленно занимали город, дом за домом, квартал за кварталом. В этих боях чеченцы воевали более умело, действуя небольшими мобильными группами, командиры которых могли самостоятельно принимать решения в быстро меняющейся обстановке без сплошной линии фронта. Лишь немногие из российских командиров обладали этими качествами. Авиация бомбила Грозный и другие города и селения Чечни неприцельно, по площадям. От бомбежек страдало почти исключительно мирное население. Гибель родных и близких только усиливала ненависть чеченских солдат и офицеров к федералам. В Грозном же по злой иронии судьбы жертвами бомб и снарядов становились в первую очередь русские жители. Мирное чеченское население в основном успело покинуть осажденный город и укрыться у родственников в горах, русским же уходить было некуда. В марте чеченские войска оставили Грозный. В апреле и мае российская армия прорвалась в предгорные и горные районы на юге Чечни, овладев всеми городами республики. Чтобы выиграть время для перехода регулярной армии к партизанской войне с труднодоступных баз в горах, в середине июня отряд в 200 человек под командованием одного из наиболее известных чеченских полевых командиров Шамиля Басаева совершил рейд на ставропольский город Буденновск. Здесь солдаты Басаева захватили в заложники до тысячи мирных граждан, согнали в городскую больницу и угрожали уничтожить их, если не будет объявлено прекращение огня и начало российско-чеченских переговоров (накануне почти вся семья Басаева погибла под российскими бомбами). Федеральные войска предприняли неудачный штурм больницы, в ходе которого погибло несколько десятков заложников. После этого премьер-министр Виктор Черномырдин согласился выполнить требования террористов, а также предоставил террористам автобусы, чтобы они могли добраться до чеченских гор с частью заложников для гарантии безопасности. В Чечне Басаев освободил оставшихся заложников и оказался вне досягаемости российских войск. Всего на улицах Буденновска и в больнице погибло около 120 мирных граждан. Басаев предпринял свой рейд без санкции чеченского командования, но впоследствии Дудаев и Масхадов одобрили его действия.

Бесчеловечная акция Басаева привела, однако, к временному прекращению кровопролития в Чечне, пока продолжались переговоры. В октябре они были прерваны, после того как глава российской делегации командующий внутренними войсками генерал Анатолий Романов был тяжело ранен в результате покушения с помощью радиоуправляемого фугаса.

После срыва переговоров федеральные войска возобновили наступление в горных районах Чечни. Они не раз захватывали там города и селения, но удержать занятые позиции длительное время оказалось невозможно, поскольку чеченцы блокировали пути снабжения. Российские части устали от войны. Их боеспособность, и без того низкая, упала до критического предела. Федеральным войскам так и не удалось разгромить главные чеченские силы. Масхадов и Дудаев смогли сохранить контроль над своими основными отрядами. В декабре чеченские силы на несколько дней заняли второй по величине город республики Гудермес.

В конце декабря 1996 года отряд численностью около 200 человек под командованием зятя Дудаева Салмана Радуева совершил рейд против вертолетной базы в дагестанском городе Кизляре. Рейд окончился неудачей, и отряду грозило окружение со стороны федеральных войск. Тогда Радуев, по примеру Басаева, захватил заложников в городской больнице. Сначала он требовал прекращения войны и вывода российских войск из Чечни, затем, под давлением властей Дагестана, удовлетворился обещанием свободного пропуска в Чечню под прикрытием живого щита из заложников. В январе 1996 года у границы Дагестана и Чечни колонна автобусов с террористами была обстреляна российскими вертолетами. Радуев и его люди захватили в плен милицейский пост из бойцов новосибирского Отряда милиции особого назначения (ОМОНа) и заняли оборону в близлежащем дагестанском селении Первомайское. Отряд Радуева был осажден внутренними войсками и спецподразделениями МВД и службы безопасности численностью в 2,5 тысячи человек. Через несколько дней войска пошли на штурм, ворвались в Первомайское, но были отброшены на исходные позиции. Милицейские спецподразделения, обученные борьбе с вооруженными преступниками, были плохо приспособлены для ведения обычного уличного боя с подразделением противника. Под покровом ночи большинству радуевцев с частью заложников удалось прорваться из окружения.

В марте 1996 года Басаев на несколько дней вошел в Грозный. «Террорист № 1» на этот раз посадил своих бойцов на легковые автомашины. На большой скорости они передвигались по улицам, атакуя федеральные блокпосты и комендатуры, сами оставаясь практически неуязвимыми. Российская армия ничего не смогла сделать с басаевцами, пассивно ожидая, когда они покинут город. Как стало ясно впоследствии, мартовский рейд Басаева был всего лишь репетицией более масштабной операции.

21 апреля 1996 года Дудаев был убит в результате взрыва авиационной ракеты, наведенной на сигнал его сотового телефона. Пост президента Чечни занял вице-президент Зелимхан Яндарбиев, известный чеченский поэт, но как политик уступавший по популярности Дудаеву, Масхадову и Басаеву. В конце мая во время приезда Яндарбиева в Москву с ним было заключено соглашение о прекращении огня. Накануне президентских выборов российское руководство было заинтересовано в достижении в Чечне хотя бы временного мира. Оно надеялось, что после гибели Дудаева сопротивление чеченцев ослабнет.

После победы на выборах Бориса Ельцина федеральные войска возобновили наступление в Чечне и бомбардировку горных селений. 6 августа чеченская армия вошла в Грозный. Эта операция была разработана Масхадовым еще весной. Однако чеченское руководство отложило ее проведение на время после президентских выборов в России, полагая, что победа Ельцина для Чечни будет наименьшим злом. За несколько дней до начала операции в специальных листовках жителей Грозного предупредили, что в самое ближайшее время в городе начнутся бои и им надо запастись водой и продовольствием и не выходить на улицу. Однако командование федеральных войск не придало значения этим листовкам и было захвачено врасплох. В городе и его окрестностях располагалось до 15 тысяч солдат и офицеров армии и внутренних войск и бойцов ОМОНа.