1942年5月,撤销晋西北军政委员会,决定成立中共中央晋绥分局,以关向应、林枫、贺龙、周士第、甘泗淇、王达成、龚逢春、赵林、吴亮平为委员,关向应为书记,林枫为副书记。统一领导晋西北、晋西南、大青山三个地区的党政军民各项工作。
6月,组建陕甘宁晋绥联防军,贺龙任司令员,兼晋西北军区司令员,关向应为政治委员(关休养期间,由高岗代政委),徐向前任副司令员兼参谋长,林枫任副政治委员(兼120师政委),下辖八路军第120师、留守兵团、晋绥军区部队和陕甘宁边区保安队以及炮兵团等部。
1942年10月,晋绥分局正式成立,晋西北军区改称为晋绥军区,统一领导晋西北和绥远地区的军事工作,属联防司令部建制。
司令员贺龙,政治委员关向应,副司令员续范亭,副政治委员林枫,参谋长周士第,政治部主任甘泗淇。辖六个军分区:
直属军分区,司令员陈漫远;
第二军分区(独二旅兼),司令员许光达,政委张平化;
第三军分区(三五八旅兼),司令员张宗逊,政委李井泉;
第六军分区(由第三军分区一部组成),代司令员孙超群,政委刘文珍;
第八军分区(新军总指挥部并入),司令员兼政委罗贵波(43 年11月后司令员李长江,政委张永清);政治部主任王逢源;参谋长:张希欣。
塞北军分区(由大青山区与第五军分区合编而成),司令员姚吉吉,政委高克林。
所辖部队包括三五八旅,独立第一、第二旅,决死第二、第四纵队,大青山支队。
1943年11月,吕正操率第三纵队抵晋西北后,升任晋绥军区司令员,林枫兼政委,续范亭任副司令员,周士第任副司令员兼参谋长,张平化任政治部主任。
1944年春季起,日军为了打通大陆交通线,从晋西北地区抽调部队南下,其防务由新组建的旅团接替。
1944年7月底,晋绥军区遵照中共中央军委“把敌人挤出去”的指示,发起秋季攻势作战,采取联防围困、破击交通运输线、实行经济封锁和开展政治攻势等办法,挤掉了日伪军一批据点,开辟了大片新的游击根据地。迫使日军处于战略守势。
1945年2月,晋绥军区发起春季攻势作战,对离(石)岚(县)公路、五(寨)三(岔)公路沿线敌据点发起攻势。
1945年6月,晋绥军区发起夏季攻势作战,围困静乐县城并对忻(县)静(乐)、神(池)义(井)公路沿线的日军展开进攻,基本上把敌人挤到铁路沿线和少数几条公路线附近。
1945年7月15日,中共中央决定:林枫、张稼夫、吕正操、赵林、武新宇、张宗逊、乌兰夫、高克林、罗贵波、王达成、龚逢春、周士第、张平化、陈漫远、龚子荣15人为中央晋绥分局委员,以林枫、张稼夫、吕正操、赵林、武新宇5人为常委,林枫为书记。晋绥分局仍受中共中央西北局领导。
同日,中共中央决定晋绥军区成立吕梁、雁门、绥蒙3个2级军区。