国民政府迁到武汉后，武汉成为革命青年向往的地方。不待学期结束，一心想投笔从戎的朱程，就离开集美中学，一路马不停蹄地赶到武汉，不假思索地加入了北伐军。后被分配到教导队，学习军事技术，开始了他的戎马生涯。

　　1928年，朱程离开了教导队，考入了黄浦陆军军官学校第6期学习。1929年毕业后在德州国民党军队某部教导队当见习教官，因参加反蒋活动被捕，关押了一年半。获释后，回到家乡，执教于党的秘密据点———麻步鳌峰小学。期间，他和叶廷鹏、陈阜等中共党员广泛接触，深受地下党的影响，思想倾向革命，积极参加了一些革命活动，引起当地地主豪绅的嫉恨，他又被驱逐出校。几经颠沛奔波，后在南京津浦路警察行政督察总署任科员，旋又调津浦铁路警察护路第一大队三中队任中队长。1934年，他被派往日本，入东京铁道学院，专攻铁路管理学。在日本期间，曾翻译《日本政治机构与军部制之基础》一书，提请国人警惕日本军国主义者侵略、征服中国的野心。1937年5月，为参加抗日救亡，爱国心切的朱程，又一次毅然弃学从戎，未待毕业便十万火急地提前回国。

　　回国后，朱程即赴山西太原，适值阎锡山部队的军官教导团教育长张荫梧，伪装抗日，网罗人才，扩充实力，朱程被聘为地形和土木工程教官。“七七”事变后，张荫梧乘机建立河北民军，朱程被任命为第十大队队长。1938同年秋，张荫梧率民军总指挥部离开山西陵川去河北，他留任民军晋冀豫边区办事处处长，兼民军第十一团团长。1939年2月，民军第十一团北上冀西，与民军第四团合编，朱程仍任团长，牢牢掌握指挥权，并加强了与我党领导的冀西游击队和冀西我党政机关的联系。张荫梧知悉情况后，十分恼火，便又以扩编为旅的名义，下令民军第四团调往冀南，企图在摩擦中消灭四团。朱程识破阴谋，拒绝调动。张荫梧便令民军五旅，在内邱县的北店村伏击他，制造了“北庄事件”。

　　朱程突围脱险，率部经5昼夜行军达到襄垣县，正式宣布脱离河北民军。同年8月，八路军总部决定河北民军四团改编为华北抗日民军，朱程任司令员。9月，经朱德总司令介绍，朱程光荣地加入中国共产党。部队经过短期整训，即投入战斗。10月，组织了狮子山伏击战，歼灭日军130余人，击毁军车10辆，缴获步枪80余支。朱程和华北抗日民军受到了八路军总部和中共中央北方局的表彰。11月下旬，奉命挺进豫北，开辟太行南区抗日根据地，消灭张荫梧的平城办事处之后，进驻林县。1940年春节前，智取九峰山，歼灭群众痛恨的国民党第二战区八支队，缴获枪支300余支，俘敌近千人，解放了整个辉县地区。1942年2月，华北抗日民军编入第二纵队，称华北抗日民军第一旅兼冀鲁豫军区第一分区，朱程任旅长兼分区司令员。1940年3月至1943年5月的三年中，华北抗日民军第一旅及分区所属部队，经大小战斗百余次，胜利地开辟了以内黄为中心的沙区抗日根据地。1943年6月，调任冀鲁豫军区第五军分区司令员，奉命由山东曹县以西，进入曹县东南日、伪、顽控制活动，开辟新区。