1927年参加了秋收起义。后历任红军连长、副支队长、支队长、师长、军长、师长兼广昌警备司令、红一方面军红军大学校长兼政治委员、红军中央纵队参谋长、红四方面军第４军参谋长、中央军委第１局局长兼富甘警备司令，参加了三湾改编，保卫井冈山的战斗，中央苏区一至五次反“围剿”斗争，二万五千里长征。

1939年，120师358旅在山西兴县召开干部会议时干部合影。前排左四为张宗逊旅长。

抗日战争时期，他历任八路军旅长、“张纵队”司令员、晋绥军区吕梁军区司令员兼政治委员等职，率部参加了粉碎日军围攻冀中抗日根据地作战和百团大战等。

解放战争时期，他历任晋绥野战军代司令员、大同战役野战指挥部司令员、晋绥军区第１纵队司令员、陕甘宁野战集团军司令员、西北野战军第一副司令员、第一野战军第一副司令员，参与指挥了解放西安、兰州等重要城市的战斗。随后指挥部队解放了青海全境。他主持西北军区的工作，指挥了西北五省、区剿匪肃特斗争，为解放大西北，巩固和发展大西北作出了重大贡献。

1940年，在晋西北夏季反“扫荡”中，358旅旅长张宗逊（中间未戴军帽者）在部署战斗。

新中国成立后，他历任中国人民解放军革命军事委员会副总参谋长兼军委军校部部长、军委训练总监部副部长、总参军校部部长、军委军事训练研究委员会副主任，后任总参军训部部长等职务。

1971年他被任命为济南军区副司令员。