1930年3月初，胡公冕按中共中央军委的指示，回永嘉和金贯真一起负责组建红军。胡到楠溪后，集中了雷高升、胡协和、谢文侯三支武装共计400余人，编为三个支队。在黄皮成立了浙南红军游击总指挥部，胡公冕任总指挥，王国桢、李振声负责政治工作，支队长分别由雷高升、胡协和、谢文侯担任。

    为了与浙南武装回合，以"赤化浙江"，并"与江西红军联系起来，打成一片"，浙南红军游击队在胡公冕率领下，攻打了反动势力较薄弱的处州（今丽水）城。雷高升当时也率部参战。1930年3月19日凌晨3时，红军游击队攻入处州城。但由于红军对城内敌人兵力估计不足，谢文侯又拥兵自重，不听指挥，部队入城后便乱了部署。红军在不利形势下与敌人巷战了四个小时，牺牲了七个分队长。后来天下起雨来，红军的主要武器火药枪被淋湿，无法开火，胡公冕、雷高升等乃下令撤离。

    红军开始攻城时，守敌因不知红军实力，惊骇万分，一触即溃。后来他们看到红军人数不多，武器又多是大刀、长矛，当红军撤离时，守敌500余人倾城而出，疯狂追击，在缙云县黄坛追上了红军。这时，谢文侯已擅自率部离去，红军只剩下雷高升、胡协和共60余人枪。但他们毫不畏怯，以一当十，与敌人展开激战，击毙敌连长一名，士兵23人，整整战斗了一天，终于将敌击退。此战红军先抢占了有利地形，进行伏击，因此无一伤亡。

    雷高升、王国桢等回来不久，3月26日，带领21人去平阳江南（今属苍南县）一带打游击。他们在瑞安、平阳县委的支持、协助下，沿途袭击了国民党公安分局和盐局缉私队，在半个多月时间内，就缴枪65支，子弹2490发。后来他们又返回西楠溪。这时，留在西楠溪的李振声已重新组织了一支农民武装，虽然武器大多是火药枪，但成员都是政治觉悟较高的青年农民。雷、李两部会合后，人数已逾300，实力在西楠溪其他各部队之上。

    5月初，西楠溪红军游击队攻下枫林后，根据中共中央军委指示，在枫林正式宣布成立红十三军第一团，团长由雷高升担任，政治委员为金国祥。军部组成人员是：军长胡公冕，政委金贯真，政治部主任陈文杰（即柴水香）。西楠溪大小30多支红军游击队共约3000余人，改编为红十三军第一团，下辖三个大队。嗣后，瑞安、黄岩、仙居、青田、缙云等地的部分红军游击队也编入红一团。

    红一团成立后，为了扩大游击区域，补充武器和给养，并策应闽北农民暴动，决定向南出击，攻打平阳县城。5月15日，胡公冕、雷高升率领900多人从永嘉表山出发，途径青田平桥时，击溃了国民党浙江省保安队两个连的进攻，后又袭击了瑞安县陶山镇警察所。红军每到一所，即摧毁国民党的地方武装和政权，向广大群众宣传党和红军的主张，动员群众打土豪，将没收的粮食、浮财分给贫苦农民。农民纷纷要求加入红军，即使没有武器也愿徒手跟随。5月24日上午9时，红一团在平阳、瑞安赤卫队2000多人的配合下，攻打平阳县城。当时"正值朝市嚣阗之际"，平阳守敌毫无戒备，四面城门大开，各路红军冲入城内，一时枪声四起。从西门入城的红军和赤卫队迅速占领了国民党县政府和警察所。从北门入城的主力雷高升部，由于向导领错了路，延误了战机，所以省保安队能从容扑来，强占城垣，居高射击；敌城区巡辑队又从南门入城夹击，红军腹背受敌，伤亡剧增。激战至午后三时，红军被迫且战且退。敌军亦不敢追赶。雷高升出城后，发现尚有数百名赤卫队员和红军战士被困在城内，又亲率敢死队队员，冒着弹雨，重新入城，救出了这些被困的同志。

    平阳之战，红军和赤卫队牺牲192人，伤数百人。战后，红军战士大部散去。胡公冕和雷高升率领100余众退往瑞安大峃（今属文成），重整部队。同时召开群众大会，向群众宣传赤色纲领。三天后，他们又回到永嘉驻地。胡公冕赴上海向中共中央军委汇报，部队由陈文杰、雷高升指挥。

    6月22日，浙南党的代表大会闭幕，中共浙南特委正式成立。雷高升积极贯彻党代表大会关于加强红军集中领导、统一指挥和扩大红军的决议，很快地将红一团扩展到3000余人，并攻下了李茅十三地，镇压了团练头子，红军声威复振。

    8月下旬，红一团在永嘉下嵊扩编为师，雷高升任师长，同时部署攻打缙云县城。为了迷惑敌军，扬言要再攻处州。

    8月30日，雷高升和陈文杰率领红军900余人，从永（嘉）缙（云）边的上董出发，翌日凌晨抵缙云城郊。缙云城群山环拱，城南横着一条好溪，溪上架有一座铁索桥和一座石板桥，地势险要，易守难攻。敌军这时已用机枪封锁进城的通道。雷高升一面组织18名敢死队员，从铁索桥上强攻，一面令战士将鞭炮放入煤油箱中燃响，一时似乎机枪声大作，声势颇壮。在激战中，敌机枪手被击毙，红军喊声震天，奋勇冲进城内。国民党县长郑禧仓皇弃城逃跑。红军占领缙云城后，召开民众大会，宣布成立苏维埃，同时打开监狱门，释放被抓群众，烧毁县政府的文契，将没收的食盐、布匹、钱物等分给穷人。缙云之战，红军缴获步枪50余支，驳壳枪20支，机枪两挺，子弹九担。不久，敌援军从四面八方向缙云袭来。红军占领缙云三天后，回师楠溪。

    9月9日，雷高升又乘胜袭击瓯渠。瓯渠距温州城30公里，筑有碉堡。原来，西溪所有的土豪劣绅都视此地为安乐乡，携契据借约及贵重物件和全家男女老小，移居于此。瓯渠守敌一个连慑于红军攻克缙云的声威，不战而逃，红军兵不血刃地占领了瓯渠。他们没收了地主豪绅的大量浮财，烧毁了地主的房屋，然后返回表山。

    红军连克缙云、瓯渠，声势大振。温州国民党军闻报，"骇得不知所云"，立即宣布温州全城戒严，城内"无论日夜，禁止演剧、燃放爆竹"。对浙南红军的两次大捷，党中央机关报《红旗日报》及时地作了报道。

    9月21日，红一师一部向台州进发，他们在胡公冕和雷高升率领下，会合黄岩的戴元谱部，攻打乌岩镇和黄岩县城。红军占领乌岩之后，国民党黄岩县长会同浙保五团倾巢出动。敌众我寡，红军队伍被打散。这一时期，国民党不断增兵浙南，"清剿"红军各部，浙南的豪绅地主也组织民团袭击红军，红一师的兵力损失不少。10月中旬，雷高升率红一师一部到达青田峰山，与张学东部会合。在青田北山白岩，他们又遭到国民党浙保四团和当地民团的袭击，牺牲了27人，青田籍士兵大多走散。雷高升率部到达瑞安高楼大京时，又遭敌包围，他率数百人冲出重围，折回永嘉，张学东则率部返回峰山。在敌人优势兵力"围剿"下，部队损失惨重，军部决定分散打游击。

    是年冬，西楠溪红军尚存雷高升部200余人，100余支枪；廿四垅部70余人，50余支枪；章旺部40余人，30余支枪。敌人集中兵力"围剿"西南溪。当地工作基础虽好，但给养十分困难，雷高升认为瑞安工作尚有基础，于是引军进入瑞安山区打游击。沿途不断遭受敌军尾追堵截，到达瑞安西区时，只剩40余人枪。

    这时，中共江南省委巡视员来到温州，指示撤消中共浙南特委，成立中共温州中心县委。中心县委为了"建立和巩固西楠溪红军根据地，仍决定让雷高升返回西南溪工作"。雷高升接到中心县委的指示，和王国桢一起准备回西楠溪。动身时，听说中心县委书记曹珍被捕，许多党组织遭到破坏。1930年12月，温州临时党务会议决定由王国桢任中共温州临时中心县委书记，雷高升任军事委员。雷高升到达西南溪时，那里的革命斗争已被敌人残酷的镇压下去，群众被屠杀约千人，房子被焚烧捣毁5000座以上，有的整乡整村成为焦土。

    1931年5月17日，王国桢在给中共中央的报告中，总结了一年来的工作：我们执行了"立三路线"，到处组织暴动，而导致今天的严重失败。同志被国民党屠杀了700余人，我们最坚决的的干部如王金娒、金贯真、柴水香、潘心殷等，均于此时牺牲了。现在，革命战士被囚禁在黑暗的牢狱里，还有1000余人。各地党组织被摧毁殆尽，红军游击队得不到党的正确领导，也四分五裂，数年来同志们用鲜血换来的结晶，都完了。雷高升也向中共中央写了关于浙南革命带来巨大损失而痛心疾首，但对浙南革命斗争的前途仍充满信心。他们在报告的最后部分说：我们认为浙南革命的失败，是暂时受到的挫折，只要我们百倍努力，运用正确的策略，经过相当时间，必然能发动群众，向国民党进行更大、更剧烈的斗争。

    1931年6月，雷高升、王国桢在上海时，中共中央曾打算调他们两人离开浙南，去别地工作，但王、雷两人考虑到浙南的工作十分重要，一时又找不到合适的人可替代他们，所以仍希望回去，等到浙南工作恢复以后离开。这样，雷高升和王国桢奉中共中央军委指示，肩负着重振浙南革命武装的重任，又回到了西楠溪。当时雷高升的妻子正在上海养病，为了不使妻子悬念，雷高升瞒过她，秘密潜回浙南。妻子发觉后，写信责问他，他回信说："家庭重要，楠溪的革命大家庭更重要。自己既挑起了这副担子，就防不下了，既然干起来了，岂能半途而废！"

    雷高升回到浙南后，回合了永嘉五潄的胡衍真（号青鸡）、胡黄金，溪口的戴家业，港头的周启佑，石染的章华等旧部，并联合黄岩的戴元谱，永康的楼其团，仙居的金永洪等部，又活跃在永（嘉）青（田）仙（居）边界的崇山峻岭中。在强弱悬殊的情况下，雷高升采取避实击虚、与敌周旋的战术，使敌人的进攻屡屡扑空，而相机而动。8月5日，他率部攻下了溪下，国民党浙江省保安队第四团尾追不舍。他将敌诱至仙居吴坑山谷中，又会合了仙居金永洪部，共300余人，出敌不意，突然将敌包围。敌团长朱炳熙慌忙率部突围，在丢掉数具官兵尸体后，才得脱逃。在雷高升的率领下，红一师的游击范围不断扩大。敌人惊呼浙南"匪党越聚越多，势颇猖獗"，纷纷"电催总部迅赐增兵防剿"。

    在敌人重兵"清剿"下，红一团在雷高升率领下，为了突出敌人的包围，并与福建红军取得联系，决定再次南征。1930年10月10日，雷高升在青田黄垟乡峰山，集中二营、三营和补充营1000余名红军，次日从峰山出发，经万山、平桥到东源宿营。遭遇省防军一个连来袭，红军奋起反击，将其击溃。红军续进在船寮击退小股民团拦截。红军南渡瓯江，经万盖、高市水碓基到三官石、东源头露宿。12日向巨浦、北山前进，13日到达白岩召开群众大会，雷高升在会上宣传共产党的主张，号召群众组织起来，与国民党斗，与地主豪绅斗。16日上午，地主林佐青急忙将红军情况报告国民党青田县政府。17日，驻青田省防军四团三营、青田县保卫团加上永嘉县应坑陈华民团、瓯渠保卫团等敌军将红军团团包围。雷高升指挥红军奋力反击，战斗非常激烈，当场牺牲红军70余人。突围后，雷高升、张学东带领部分红军渡过小溪，向岭根撤退。在岭根击退前来拦截的九都民团，然后向景宁县大顺转移。第二天又转回岭根，在铁沙济村驻扎。为了稳定军心，雷高升率部向瑞安转移。进入高楼、大京时，又遭到国民党省防军袭击，红军再受严重损失。突围后，雷高升带领部分红军回到永嘉坚持游击战争。