1933年夏，韦杰于红军总部特科干训队学习毕业，奉命担任红三军团第五师侦察连连长。1934年10月，由于王明“左”倾冒险主义的错误指挥，导致第五次反“围剿”失败，红一方面军被迫撤离中央革命根据地，8．6万余人开始艰苦卓绝的长征。韦杰带领红五师侦察连一直充当全师的前卫。同年11月，他率部参加湘江战役，在广西灌阳新圩一带阻止国民党桂系军阀的疯狂进攻，掩护中央纵队安全渡过了湘江。

1935年1月，中共中央在贵州遵义召开了政治局扩大会议，结束了王明“左”倾错误在中央的统治，确立了以毛泽东为首的新中央的正确领导，从此中国革命转危为安。同年2月24比韦杰率领红五师侦察连在二渡赤水之后，于桐梓县南接到军团长彭德怀的命令：先敌抢占娄山关，为红军再占遵义迂回作战，甩开敌人的围追堵截开辟道路。

娄山关，系川黔通道的咽喉。为了追击北上的红军，贵州军阀王家烈部集结于关南的板桥地区，蒋介石的中央军薛岳部殿后，妄图夺关据险堵击红军。因此，抢占娄山关成为敌我遭遇的关键一仗。韦杰带领的侦察连，大都是广西出来的红七军战士，连指导员覃应机还是自己的同乡战友，并且在中央苏区时都接受过朱德总司令的直接训练，在彭德怀军团长的指挥下多次经受战火的考验，以这些从桂西山区出来身经百战的“老广”作为抢占娄山关的前锋。那真是毛泽东、彭德怀独具慧眼！

抢占娄山关之战，以红十三团为三军团的前卫，而韦杰所率领的侦察连则是红十三团的前卫。韦杰指挥全连换上国民党从校官到士兵的服装，在寂静的夜里，穿山林，走小路，向娄山关急速前进。指导员覃应机带领一个排作前导，韦杰带领的手枪排紧跟其后。天将亮时，侦察连摸到娄山关以北不远的小客店附近。这时，只见几个打前站的王家烈部官兵走进客店。韦杰率部一拥而上，将他们一举擒获，并说是薛岳部队的侦察兵，要“委屈”他们把军情说出来。当韦杰得知王家烈的部队已于拂晓前开拔，正向娄山关行进之时，他立即指挥部队冲向娄山关。然而，迟了一步，王家烈的尖兵队已由南而北从关口下来了。敌高我低，地形对侦察连很不利。韦杰当即命令部队闪伏于路的两旁，待敌人进入埋伏圈后再打。仅20来分钟的时间，就把王家烈的尖兵队消灭了。接着他们一鼓作气，冲上了娄山关，抢占了制高点两旁的山腰要地。敌人的大部队来了，死命往上冲，但已无能为力。韦杰和覃应机率领的侦察连在娄山关死死地阻击，而且我后续部队源源赶到并投入战斗，敌人插翅也休想攻上娄山关。

娄山关战斗，一直持续到第二天的下午。仰攻的敌人支持不住，终于全线崩溃。此战共歼敌两个师又八个团，是长征以来所取得的第一个大胜利。

“雄关漫道真如铁，而今迈步从头越。”毛泽东对娄山关遭遇战的胜利给予了很高的评价。韦杰在总结这次战斗的经验时说，与敌人打这样的遭遇战，一要快二要争，三要活。他作为人民军队中的一名指挥员，在战争的实践中日渐成熟。

此后，韦杰率领侦察连巧渡金沙江，抢渡大渡河，翻越夹金山，直到甘南的艰苦行军作战中，一直担任前哨任务。1935年9月，徐海东率领的红二十五军自鄂豫皖革命根据地西征到达陕北，与刘志丹领导的红二十六、二十七军会师，合编为红十五军团。11月，中央红军打下直罗镇后，韦杰被任命为红十五军团七十三师第二二三团参谋长。翌年2月，为了扩大抗日武装和陕北革命根据地，以实际行动尽快落实瓦窑堡会议提出的策略方针，促进抗日民族统一战线的形成，韦杰奉命率部随“中国人民红军抗日先锋队”渡河东征。5月回师后，韦杰调任第二二四团团长。9月，又奉命担任军团部直属骑兵团团长。

1936年9月，红二、四方面军战胜了张国焘右倾分裂主义的干扰和敌人的围追堵截，挺进甘肃。中共中央及时作出了红军三大主力会师会宁的伟大战略决策。9月30日，韦杰接到军团长徐海东的命令，先敌王均、马鸿逵等部攻占会宁城，为三大红军主力会师打开通道。

韦杰率领的骑兵团驻扎在宁夏同心城，距会宁约300余里。9月30日当夜，韦杰率骑兵团飞驰到会宁以北的打拉池隐蔽起来。10月1日，韦杰根据调查到的敌情，召集干部制订攻城方案，并进行紧张的攻城准备和战斗动员。下午五时，骑兵团迅猛直扑会宁。当时会宁城驻守有敌保安团400余人，国民党王均、马鸿逵部正向会宁运动。10月2日晨五时许，韦杰率领骑兵团直逼会宁城下，分兵从北门和西门突击。前卫连旋风似地进抵城门外约300米处，以猛烈的机枪火力扫射欲关城门之敌，随即冲入城内，迅速围歼据守城西街学校之敌。韦杰率领两个连的骑兵冲入敌阵，挥刀杀敌，喊声震天，仅经十多分钟的激战，就全歼保安团一个营和县常备队一部，俘敌300余人，缴获长短枪300余枝。

10月22曰，红军三大主力胜利会师于会宁、静宁地区，伟大的长征胜利结束。在会宁举行的庆祝胜利会师大会上，朱总司令、徐向前、陈赓等分别讲了话，盛赞骑兵团开路之功.