七七事变后，抗战全面爆发。1938年初，廖运泽调任二十一师副师长，转战于鲁、豫等省，先后参加了台儿庄会战。1939春，廖运泽奉国民党军事委员会的命令，从湘北抗日前线调到湖南衡山游击干部训练班工作。

　　武汉失守后，蒋介石于1938年11月在湖南衡山召开了有中共代表周恩来、叶剑英参加的第一次军事会议，提出“二期抗战，游击战重于正规战”的主张。鉴于国民党军队不善于在敌后打游击，遂决定在衡山举办游击训练班，邀请中共派人教授游击战术。中国共产党为了扩大在国民党军队里的影响，团结国民党继续巩固抗日民族统一战线，同意派出以叶剑英为首的代表团共同筹办。游干班的主要负责人，是由国民党军事委员会正式任命的。开始由汤恩伯任主任，叶剑英任副主任。后来改由蒋介石兼主任，白崇禧、陈诚兼副主任，汤恩伯为教育长，叶剑英为副教育长，陈大庆为总队长，廖运泽为副总队长。实际由汤恩伯、叶剑英两人负责。

　　第一期游干班于1939年2月25日开学，训练时间为4个月，学员共1000余人，共编为8个队。游干班的教学内容包括：游击战术、游击爆破、游击情报、民众运动、游击政工等军事、政治课程和野外演习。这些课目均由中共派来的人担任教官，叶剑英有时也亲自上游击战术课和政治课，每次讲课都吸引了很多的听众，连一些驻防在附近的国民党将领也慕名前来听讲，以致有时课堂容纳不下，只好移到广场上去上课。有一次，叶剑英在讲课中提出“敌后军民关系犹如鱼水关系”的著名论断，在学员中引起了强烈的反响。有一次，汤恩伯问叶剑英：“我们为什么打不过你们？”叶剑英很风趣地说：“你们只有在沙漠地带能同我们打，在有群众的地方你们就不能与我们打。”这席话对廖运泽产生了很大的震动。

　　因为工作关系，廖运泽常去叶剑英住处。每次去时，叶剑英同志都热情接待，与他谈心，申明大义，阐述爱国抗日的道理。深受感动的廖运泽，决心尽力多帮助他们做点工作。在那段时间里，廖运泽大部分晚上和节假日，都跟随叶剑英去衡山地区开展民众工作，做一些力所能及的事情。有一次战地演习回来路过衡阳，正值农历春节，叶剑英同志一再嘱咐廖运泽，要好好为师生们准备过年的酒菜，让大家痛快地过个年。除夕晚上，国民党籍的师生都纷纷外出游乐，有的甚至整夜不归，而叶剑英同志所带的共产党员干部无一外出。感动之余，廖运泽用自己的钱买了几包糕点、茶食等拿到旅馆里，和他们过了一个愉快的除夕。

　　1939年5月底，第一期学员结业后，汤恩伯回第三十一集团军，叶剑英经桂林去重庆，廖运泽也奉调返回湘北抗日前线，任第九十二军第二十一师副师长。