建德四年（575年），宇文邕再次率兵进入北齐境内，打算灭掉北齐。长期以来，北周和北齐的关系主要是战争关系，双方互有胜负，力量大体均衡。但是自从宇文邕亲政后，情况发生了很大变化：一是经过灭佛，国家经济势力增长；二是吸收均田上广大汉族农民充当府兵，扩大了府兵队伍，军事优势形成；三是北与突厥和亲，南和陈朝通好，外交策略上的成功。而北齐，却处于“政出多门，鬻狱卖官，唯利是视，荒淫酒色，忌害忠良。阖境嗷然，不胜其弊”的状况。

宇文邕看清了北齐混乱的局势，决定出兵伐齐。建德四年（575年），宇文邕独与齐王宇文宪等少数人策划，力排众议，决定伐齐并亲自统军围攻金墉城（今河南洛阳），七月，周武帝宇文邕命宇文纯、司马消难，达奚震为前三军总管，宇文盛、侯莫陈琼、宇文招为后三军总管。杨坚、薛迥、李穆等率军分道并进。宇文邕自率大军六万，直指河阴。周军进入北齐境内，纪律严明，禁止砍伐树木、践踏庄稼，犯者皆斩。颇得民心，但是周武帝宇文邕因病还师。次年（576年），宇文邕又率大军伐齐，几路并进，攻克平阳（今山西临汾）。围晋阳（今山西太原西南）时军事失利，宇文邕自己仅得免。其后听从宇文忻“死中求生，败中取胜”的建议，终于攻克晋阳。建德六年（577年），宇文邕攻入邺城，灭北齐。从此拥有了黄河流域和长江上游。为后来隋朝的统一奠定了基础。宇文邕生活俭朴，诸事希求超越古人，对宇文护及北齐所修过于华丽的宫殿一律焚毁，对下严酷少恩，但果断明决，耐劳苦，征伐时躬亲行阵，得士卒死力。齐境有北魏所俘河西人世为厮役的杂户，周境有从东魏及南朝梁江陵俘虏的良人没为奴婢，他都豁免为良人。

当时突厥强盛，而且北齐、北周在突厥之南。宇文邕不得不娶突厥公主阿史那氏为后。灭齐之后，宇文邕于宣政元年（578年）率军分五道北伐突厥。宣政元年（578年），宇文邕在亲征突厥的途中病倒，同年六月丁酉日，宇文邕病情加重，在回到洛阳当天就病逝了，时年三十六岁，遗诏长子皇太子宇文贇继位。宇文邕死后的谥号为武皇帝，庙号高祖，六月己未日，葬于孝陵。