张玉的长子——张辅，在幼年时便表现出才华和本领，张辅刚开始担任的是某县的县令，当时有一个家族仗着自家有点名望，便故意生事来困扰普通百姓，张辅对此十分愤怒，他非但不害怕豪强反而与他进行对抗，从这点事情上就能看出张辅非凡的人品和胆识。之后，他又跟随父亲参加了靖难之役，在这场战争中表现突出，多次封侯，后来又平定安南，使得安南再一次回到明朝版图中，先后辅佐明朝不同的皇帝，为明朝的建设作出了很大的贡献，最后，死于土木堡战争中。

张玉次子——张輗，是明朝的军事人物，张輗的哥哥张辅认为他殴打守坟的人，是一件有损自家家族颜面的事情，故明代宗下令将其逮捕，后又把他放了。之后又得到了朝廷的重视，在英宗复辟后，由于张輗有功便封他为文安伯。

张玉三子——张軏，也是明朝有名的将侯，跟随宣宗多次出外征讨，多次战胜，后以副总兵的身份出塞到麓川，并讨伐少数名族的叛乱，参与夺门之变，与众人迎英宗，被封为太平侯。

张玉除了三个儿子以外，还育有一女，张氏嫁给了朱棣，做了他的贵妃，在张玉被杀之后，朱棣深知张玉对他有恩，便把他的女儿召进了宫，册封为贵妃。