1937年抗战爆发后，日寇入侵山西境内。贺龙与关向应等率八路军120师主力从陕西富平县出征，挺进抗日前线，进入晋西北地区，展开抗日游击战，开辟了晋西北抗日根据地。
之后不久，续范亭等率部也进入晋西北地区。
1938年后半年，120师派出由李井泉等率领的大青山支队向绥远挺进。以大青山为依托，建立了绥西、绥南、绥中三块游击根据地，并逐步同晋西北根据地连成一片，构成晋绥抗日根据地。同年12月，发展壮大的120师主力进入冀中进行对日作战。
1940年1月，中共中央决定成立晋西北军政委员会，作为统一领导晋西北、晋西南、大青山地区各项工作的最高领导机关，由贺龙任书记，关向应任副书记。
1940年11月7日，中共中央军委为统一晋西北地区武装力量的领导，决定成立晋西北军区。
八路军第120师领导机关兼晋西北军区领导机关，贺龙任司令员，关向应任政治委员，续范亭任副司令员，周士第任参谋长，甘泗淇任政治部主任。
晋西北军区划为6个军分区，其中独立第2旅兼第2军分区，第358旅兼第3军分区，独立第1旅兼第4军分区，决死队第2纵队兼第8军分区。
1941年3月成立军区直属军分区；5月成立第5军分区。
1942年6月，陕甘宁晋绥联防军正式成立，贺龙、关向应分任司令员、政治委员，晋西北军区归属其领导。
9月，晋西北军区改称晋绥军区。
10月开始，晋绥军区进行第二次精兵简政，主力部队减至2.5万人，地方武装减至5000余人。同时，将山西新军总指挥部并入第8军分区；第4军分区并入第3军分区；新编成第6军分区；取消大青山骑兵支队番号，将原第5军分区部队编成雁北支队。
1943年8月，八路军第3纵队司令员吕正操奉命率6个团到达晋绥军区后，中共中央军委任命吕正操为晋绥军区司令员，林枫为政治委员，周士第任副司令员兼参谋长。
10月，冀中警备旅亦调入晋绥军区，其旅部与第8军分区合并，该旅第1、第2团改编为第1、第2支队；第3纵队第18、第27、第29团合编为第27团，归军区直接指挥；第3纵队第32团归独立第1旅指挥。
1944年1月开始，晋绥军区抓住日军为打通中国大陆南北交通线，从华北战场抽走兵力的有利时机，展开攻势作战，实行局部反攻。
1945年8月10日，中国解放区抗日军总司令朱德发布解放区部队对当面日伪军进行全面反攻的命令。
在全面抗战胜利之后，为了适应新形势下军事斗争的需要，晋绥军区以主力部队组成野战军部队，称之为晋绥野战军，共计下辖6个旅，分别是第358旅（旅长黄新廷）、独立第1旅（旅长王尚荣）、独立第2旅（旅长许光达）、独立第3旅（旅长杨嘉瑞）和后来组建的独立第4旅（旅长顿星云）以及独立第5旅（旅长贺炳炎）。
当时出任晋绥野战军司令员的正是担任晋绥军区司令员的贺老总。
晋绥军区在贺龙领导下，根据中共中央军委赋予的任务，于11日向日伪军发出最后通牒，对山西省会太原、绥远省会归绥（今呼和浩特市）及同蒲铁路北段和平绥铁路西段拒绝投降的日伪军进行全面反攻作战。
至9月12日，共歼灭日伪军1.6万多人，解放城镇53座，使晋绥根据地与晋察冀、晋冀鲁豫等根据地连成一片。
晋绥军区部队发展到7个旅、29个团，4.5万余人，地方武装4万余人，民兵66万余人。
抗日战争结束后，晋绥军区于1945年9月中旬组建吕梁、雁门、绥蒙3个军区。
吕梁军区由张宗逊任司令员兼政治委员，辖第3、第4、第7、第8军分区；
雁门军区由吕正操兼任司令员，高克林任政治委员，辖第2、第5、第6军分区；
绥蒙军区由姚喆任司令员，张达志任政治委员。
第1军分区司令陈漫远。
9月下旬，晋绥军区奉命抽调第32团和可以组建10个团的连以上干部400余人，在吕正操和晋绥分局书记林枫率领下开赴东北。贺龙兼任晋绥军区司令员，李井泉任政治委员，续范亭、周士第任副司令员，陈漫远任参谋长，张平化任政治部主任。
10月下旬，晋绥军区遵照中共中央军委的指示，将全区部队编成4个正规旅和3个地方旅。绥远的骑兵旅也进行了扩编。
12月，洪赵大队编入晋绥军区独立第4旅，绥蒙军区成立骑兵独立旅。
1946年4月，晋绥军区撤销第4、7军分区，并将第7、9、10军分区合并为第9军分区，归吕梁军区建制。
1946年6月，成立晋北野战军，划归晋绥军区建制。周士第任司令员兼政委，贺炳炎任副司令员，廖汉生任副政委，王绍南任参谋长，张国声任政治部主任。
1946年8月29日，从中原突围的359旅返回陕甘宁边区，列入晋绥军区建制；11月撤销雁门军区，其所辖第2、6军分区归晋绥军区直接领导，第5、11军分区划归绥蒙军区建制；同时取消晋绥野战军和晋北野战军番号，将两个野战军统一编成三个纵队，仍归晋绥军区建制。
第1纵队辖第358旅（旅长黄新廷；政治委员余秋里）、独立第1旅（旅长王尚荣；政治委朱辉照）；司令员张宗逊。
第2纵队辖第359旅（旅长郭鹏，政委李铨），独立第4旅（旅长顿星云、政委杨秀山）；司令员王震。
第3纵队辖独立第2旅（旅长唐金龙；政治委员孙志远）、第3旅（旅长杨嘉瑞，政委金如柏）、第5旅（旅长贺炳炎，政委王赤军）；司令员许光达。
1946年11月22日至1947年1月1日，第2纵队等部配合晋冀鲁豫军区部队进行了吕梁战役。
11月撤销雁门军区；晋绥军区第1纵队调赴陕甘宁边区作战，后编入西北野战军建制。
1947年3月，国民党军集中15个旅进攻延安。为保卫陕甘宁边区，保卫中共中央，晋绥军区第2纵队西渡黄河，调归西北野战军建制。吕梁军区除将独立第4旅补第2纵队外，还将地方部队大部和汾孝战役中解放入伍的数千人补入第2纵队。
7月，晋绥军区划归陕甘宁晋绥联防军，贺龙任联防军司令员兼晋绥军区司令员。
8月，晋绥军区第3纵队西渡黄河，连同第1、第2纵队均调归西北野战军建制。
9月晋绥军区副司令员续范亭逝世。
12月晋绥军区独立第3旅等部协同晋冀鲁豫军区部队解放运城。
1948年3月17日，中共中央军委决定晋绥军区与陕甘宁晋绥联防军合并为中国人民解放军陕甘宁晋绥联防军区。
陕甘宁晋绥联防军区由贺龙任司令员，习仲勋任政委；王维舟、阎揆要任副司令员；张仲良任副政治委员；张经武任参谋长。下辖晋绥、吕梁、绥蒙军区和延属、绥德、三边、陇东、关中、黄龙等六个军分区。
晋绥军区司令员贺龙兼任，政委李井泉；副司令员周士第，参谋长陈漫远，政治部主任甘泗淇。
吕梁军区司令员彭绍辉，政委罗贵波；副司令员马佩勋，参谋长张希钦，政治部主任何辉。
绥蒙军区司令员姚喆，政委高克林；副司令员王长江，副政委张达志，参谋长樊哲祥，政治部主任饶兴。
1949年2月，根据中央军委命令，陕甘宁晋绥联防军区改称西北军区。
中国人民解放军西北军区由贺龙任司令员，习仲勋任政治委员，王维舟任副司令员，张经武任参谋长，李卓然任政治部主任。下辖晋绥军区、晋南军区和警备第2旅、军政干校，以及延属、绥德、三边、陇东、关中、黄龙、西府、榆林八个直属军分区。
1949年5月，晋南军区并入晋绥军区；8月20日成立甘肃军区；至此西北军区下辖甘肃军区（许光达任司令员，王世泰任政委）、伊盟军区、陕北军区、陕南军区（第19军兼，刘金轩任司令员）和陇东、渭南、大荔、咸阳、邠县、宝鸡、三原7个军分区；西安警备区，独立第1、第2师，骑兵第2师，以及军政大学、军政干校。
1949年11月，贺龙率西北军区机关一部和第18兵团等部进军四川，后并入西南军区。
1949年11月30日，西北军区与第一野战军合并，称第一野战军暨西北军区，彭德怀任司令员，习仲勋任政委；张宗逊、赵寿山任副司令员，甘泗淇任副政治委员兼政治部主任，阎揆要任参谋长；至12月相继成立陕西、宁夏、青海、新疆军区。
此时第一野战军暨西北军区下辖第1、第2、第19、第22兵团；陕西军区（第19兵团兼）、甘肃军区（第2兵团兼）、宁夏军区（第65军兼）、青海军区（第1军兼）、新疆军区（第1兵团兼）和独立第2、第3军，独立第2师，骑兵第2、第6师以及军政大学等。
1949年6月-1953年12月，在各族人民群众的支援下，西北军区部队进行大规模的剿匪作战，共歼灭匪特12.9万余人，巩固了新生的人民政权，安定了社会秩序，保证了经济恢复工作和生产建设的顺利进行。
1954年8月，撤销宁夏军区机构。
1955年5月1日，西北军区改编为兰州军区，同时撤销第一野战军番号。
原属西北军区的新疆军区改编为大军区。
