Масуд был родом из кишлака Джангалак в Панджшерском ущелье. Его отец происходил из влиятельной местной семьи и стал профессиональным офицером. Масуд изучал инженерное дело в Кабульском политехническом институте, где его привлекли исламские идеи, проповедуемые Гульбеддином Хекматияром и более умеренным Бурхануддином Раббани. Он вступил в организацию «Мусульманская молодежь», черпавшую вдохновение в опыте «Братьев-мусульман» с Ближнего Востока. «Мусульманская молодежь» была не просто группой студентов. Ее члены нападали на женщин, которых считали неподобающе одетыми, и дрались со своими оппонентами — коммунистами и маоистами. Весной 1973 года «Мусульманская молодежь» разделилась на «Исламскую партию Афганистана» («Хезб е-ислами») Хекматияра и «Исламское общество Афганистана» («Хезб-е джамиат-е ислами») Раббани. Масуд принял сторону умеренного Раббани. Но когда Хекматияр устроил неумелый и неудачный переворот против Дауда, Масуду пришлось бежать в Пакистан вместе с лидерами исламистов.

Вскоре Масуд вернулся в Панджшер, чтобы организовать восстание против Дауда. Его люди захватили главный административный центр в Рухе и другие важные населенные пункты. Однако политика ему не давалась: он не смог заручиться поддержкой местных жителей, а преступники, которых он выпустил из тюрем, устроили беспорядки. Масуд снова укрылся в Пакистане, усвоив урок: успех партизанской войны зависит от того, привлек ли ты на свою сторону местных жителей.

Во время войны с русскими он обеспечил своим людям минимально необходимые жилье и пищу и во время советских рейдов уводил их в соседние ущелья или высоко в горы. Он твердо придерживался принципа: нерегулярное войско должно избегать прямого столкновения с врагом. Пока война не закончилась, Масуд делал все, чтобы держаться подальше от усобиц, часто возникавших между соперничающими группами моджахедов. Он выстраивал институты местной власти и финансировал их за счет налогов на добычу драгоценных камней, на землю, на товары, а также дани, собираемой с панджшерцев, живших в Кабуле. Масуд планировал захватить в будущем власть в Кабуле и в 1984 году начал проводить операции за пределами долины. Ни у одного другого командира моджахедов не было таких амбиций и такого интереса к развитию институтов власти.

Ожесточенные бои в Панджшерском ущелье в первые годы войны принесли Масуду уважение русских, и в январе 1983 года они заключили с ним перемирие. Обе стороны более или менее соблюдали его до апреля 1984 года. С советской стороны на переговорах выступал полковник ГРУ Анатолий Ткачев, недовольный постоянными провалами в Панджшере. Сначала он поговорил с генералом Ахромеевым, в то время членом Оперативной группы Министерства обороны в Кабуле: «Сказал ему, что надо попытаться договориться с Ахмад Шахом о перемирии, так как от наших огневых и авиационных ударов гибнут мирные жители, а от огня моджахедов погибают наши солдаты. Он ответил, что все эти старики, женщины и дети являются родственниками душманов, а что погибают наши солдаты, так это их долг. Погибнет один, пришлют еще десяток. Ахмад Шаха надо поставить на колени и заставить его сложить оружие».

Однако Ткачева поддержали глава отделения ГРУ в Афганистане и начальник Ахромеева маршал Соколов. В ответ на предложение о встрече, которое Ткачев передал через агентов, панджшерских беженцев в Кабуле, Масуд изложил свои условия. Встреча должна была произойти в канун нового, 1983 года в Панджшерском ущелье, на территории, контролируемой его людьми. Ткачеву следовало прийти ночью, без оружия и сопровождения.

На закате в новогоднюю ночь Ткачев вместе с переводчиком отправился к месту встречи. Добравшись туда, он выстрелил из ракетницы (таков был условленный сигнал), и из студеной тьмы показались мятежники под началом Таджмудина, главы контрразведки Масуда. Таджмудин спросил Ткачева, не хочет ли тот отдохнуть. «Нет, давайте двигаться, — ответил Ткачев. — Дело превыше всего». Они шли около четырех часов, пока не достигли Базарака, где была намечена встреча с Масудом.