然而,大大出乎俄军意料,这次格罗兹尼市内坚守的车臣非法武装抵抗顽强、战术凶狠,俄军数百人被俘,上千人阵亡,俄国防部长格拉乔夫的速胜论成为笑柄。
1995年3月初,俄军全面攻打格罗兹尼。经过六天的激烈战斗,3月6日,600多名俄罗斯内务部队攻占了车臣非法武装在格罗兹尼的最后一个据点切尔诺列契耶后,由内务部队控制城内局势,俄军主力则去攻打格罗兹尼外围地区。
1995年6月14日,车臣非法武装战地指挥官巴萨耶夫带领100名匪徒闯入斯塔夫罗波尔边疆区的布杰诺夫斯克,扣押了1000多名人质,要挟俄军立即停止一切军事行动并撤出车臣,否则将杀死全部人质。经过长时间艰苦的谈判,叶利钦联邦政府作出重大让步,被迫同车臣武装分子达成协议,基本上满足了巴萨耶夫的要求,停止一切军事行动,以此作为释放人质的条件。6月,巴萨耶夫带领匪徒撤回车臣,人质获释。
这场战争造成了重大的人员伤亡和财产损失。在这场战争中,俄军共有4000多人阵亡、17万人受伤、3000人下落不明。车臣方面损失10万人,杜达耶夫也在俄军的导弹袭击中丧生。1996年8月31日,俄联邦政府和车臣非法武装在俄达吉斯坦共和国境内的哈萨维尤尔特达成协议,规定将车臣地位问题搁置五年。历时20个月的车臣战争以一纸哈萨维尤尔特协定而暂告结束,留守车臣的最后两支联邦部队101旅和205旅于1997年初全部撤出。
1997年1月,车臣举行总统选举,马斯哈多夫当选。同年5月,俄联邦与车臣签署和平与相互关系原则条约。但是,马斯哈多夫仍然坚持车臣是独立国家,不仅拒不执行和平协定,而且加紧分裂活动。杜达耶夫之后的车臣当局一面利用和平协议,频频向联邦索要财政调拔和能源,暗地里却不断纵容非法武装骚扰毗邻地区,制造各类恐怖事件,并积极争取国外宗教组织和极端势力的插手介入,变本加厉地从事分裂活动。
1999年,由车臣武装叛匪头目巴萨耶夫和国际恐怖分子哈塔普精心策划的恐怖行动,一时间震惊了俄罗斯朝野。继1998年俄总统驻车臣全权代表及连京弗扭索夫在罗斯托夫被劫持、俄政府驻车臣副代表赛义多夫遭绑架并被杀害后,1999年3月5日,俄驻车臣主权代表根纳季什皮贡少将在格罗兹尼市机场再度被匪徒劫持。接着,车臣非法武装分子数次进入毗邻的达吉斯坦,抢占村庄,扶持当地恐怖主义分裂分子,试图建立所谓的神权政治国家大伊斯兰共和国,之后又在莫斯科和俄罗斯南方的几座城市,制造了居民楼爆炸案,致使几百名无辜平民死于非命。