习仲勋1913年10月15日生于陕西富平县淡村镇中合村。
1926年5月在县立诚中学高小读书时加入中国共产主义青年团。
1928年4月转为中国共产党党员。后从事农民运动。
1930年1月被派往杨虎城部警备骑兵第三旅开展兵运工作。
1932年习仲勋发动兵变
1932年3月在甘肃两当发动兵变，失败后曾转赴渭北、三原开展革命工作。
1933年3月起任陕甘边游击队总指挥部政委、中共陕甘边特委军委书记、陕甘边革命委员会副主席，参与创建以照金为中心的陕甘边革命根据地。当中共陕西省委书记杜衡（后叛变）执行“左”倾冒险主义，提出放弃照金根据地并南下渭（南）华（阴）失败后，参与创建以南梁为中心的陕甘边革命根据地。
1934年2月起任陕甘边革命委员会主席，中共陕甘边特委代理书记、军委书记，陕甘边苏维埃政府主席。参与领导军队反击国民党军“围剿”。
1935年9月在错误的肃反中被关押，中共中央领导人长征到达陕北后获释。
1936年1月任中共关中特委常委、苏维埃政府副主席。同年6月参加西征，曾任中共环县县委书记。9月调回关中任中共特委书记、游击队政委。抗日战争爆发后，任中共关中地委书记、专员公署专员、军分区和关中警备区第一旅政委。
1942年7月调任中共西北中央局党校校长。
1943年2月任中共绥德地委书记兼绥（德）米（脂）警备区和独立第一旅政委。
1945年6月当选为中共第七届中央候补委员。同年7月任陕甘宁边区集团军政委，与司令员王世泰率部在淳化爷台山地区反击国民党军进犯。抗日战争胜利后，曾任中共中央组织部副部长。
1945年10月任中共中央西北局书记，兼任陕甘宁晋绥联防军政委。
1947年起任陕甘宁野战集团军政委，西北野战兵团副政委、西北人民解放军野战军副政委。协助彭德怀指挥 青化砭、羊马河、蟠龙战役，三战三捷。继又参与指挥陇东和三边战役。同年7月再次兼任陕甘宁晋绥联防军政委，与司令员贺龙统一领导西北地方武装和后方工作。
1949年2月起任西北军区政委、中共中央西北局书记。中华人民共和国成立后，任中央人民政府委员、人民革命军事委员会委员，西北军政委员会副主席、代主席。
1950年9月任中共中央宣传部部长兼政务院文教委员会副主任。
1953年9月任政务院（后为国务院）秘书长。
1956年9月当选为中共第八届中央委员。
1959年4月至1962年10月任国务院副总理兼秘书长。
1962年8月，康生在中共八届十中全会上借小说《刘志丹》之事陷害习仲勋，把习仲勋等人定为“习仲勋反党集团”，要把习仲勋置于死地。关键时刻，周恩来出面保护了习仲勋。周恩来在中央会议上提出，不能把习仲勋定为“敌我矛盾”，他还是我们的同志。 周恩来提出，可以把习仲勋安排到中央党校附近，找个安静的房子， 让他住在那里学习。 中央接受了周恩来的意见。
1978年3月被选为第五届全国政协常委，后任中共广东省委第二书记、第一书记，兼广州军区第二政委。同年12月被增选为中共第十一届中央委员。
1979年任广东省人民政府省长。
1980年兼任广州军区第一政委。同年9月被补选为第五届全国人大常委会副委员长。
1981年6月，中共十一届六中全会上被增选为中央书记处书记。
1982年9月当选为中共第十二届中央政治局委员、书记处书记，负责中央书记处的日常工作。
1988年4月被选为第七届全国人大常委会副委员长，兼任内务司法委员会主任委员。
1993年后，不再担任党和国家领导职务。
2002年5月24日在北京病逝。