同年，张德胜又随徐达攻常州，立下大功，常州被攻克，张德胜升枢密院判，此后他先后随军拿下宁国、宣州、太湖、马迹山等。随军攻打石碑，守将栾瑞投降，张德胜得以凭借此功升任佥枢密院事。十月的时候，又随徐达克宜兴。

赵普胜领兵来犯，进攻陵阳、石埭等县，张德胜听闻此消息，当即领兵阻挡，大破赵普胜部队。在张德胜的强势下，赵普胜一部最后落荒而逃，张德胜在后追击，最终随俞通海拿下池州，打败赵普胜。随后张德胜随大将军徐达，夜袭浮山寨，击败守将胡总管，胡总管率军逃跑，张德胜率军追击，再次大破其军，一直追到潜山附近。这儿已经邻近陈友谅的势力，于是与陈友谅部将郭泰遭遇，张德胜不仅未成失败，而且还大败郭泰部队，俘获不少物资，攻克潜山。

有感朱元璋势力已经变大，一家难为，于是陈友谅和张士诚两部结合，相约攻打建康。这个消息提前泄露，所以朱元璋有所准备，在两军路过的龙湾设下埋伏。等到陈友谅和张士诚联军来到之时，突然杀出，瞬间斩敌无数，局势已定，陈友谅难逃失败，选择后退。

张德胜是当时率领水军埋伏在龙江关外的将领之一，对于此次埋伏战的胜利，有着很大的功绩，等到后来陈友谅一部撤退之后，张德胜还一路追击，在采石再次发生大战。采石战役十分激烈，张德胜最终在这次战斗之中牺牲，享年三十三岁。为了嘉奖他的功绩，朝廷追赠张德胜为光禄大夫、江淮等处行中书省、平章政事，追封蔡国公。