1927年8月1日，南昌起义爆发。“八七”会议后，中共中央和广东省委决定在广州举行武装起义，建立中国临时革命政府，将中共中央迁往广州。根据中央决定，两广区委改组为广东省委，杨殷任省委委员兼省革命军事委员会主任、省肃清反革命委员会主席。

    杨殷在此后一段时间，化妆成商人奔波于广州和港澳三地，把大革命失败后逃散的党员和工人骨干召集起来，组成3000余人的工人赤卫队，亲任总教练进行训练。起义不是拿着刀枪开干就行，还需要大批经费。杨殷便把自己广州、香港的几处房产卖掉，又回老家翠亨村动员弟弟把家里的50亩良田卖了，全部作为广州起义的经费。

    周文雍、陈铁军的革命爱情故事曾激励过无数中国青年，而杨殷则是周、陈二人的战友，和他们在广州起义中浴血奋战的见证人之一。起义前夕，杨殷常和周文雍等一起在禺山市场一个叫陈少泉杂货店的二楼召开军事会议，分析形势，部署赤卫队、郊区农民武装的进攻目标。

    1927年12月11日凌晨3时，在广州北部的教导团员将营内的反动长官解决后，由杨殷与张太雷、叶挺、恽代英等起义领导人带领教导团举行起义宣誓，打响起义的第一枪。杨殷率敢死队攻下广州市公安局，起义总指挥部随即迁到这里，随即召开了广州苏维埃成立的工农兵代表大会，发表了《苏维埃政府宣言》，颁布了政府政纲，通过了政府组成人员名单：张太雷任政府代主席，叶挺任总司令，杨殷任人民肃清反革命委员会主席。

    到第二天中午，兵工厂、电话局、电报局、财政厅等市各机关和西关七、九、十区全部占领。张发奎、陈公博、黄琪祥等国民党大员惊惶失措，狼狈万分。驻在沙面的外国列强争先恐后逃亡香港。

    杨殷下令各路起义军立即组织搜捕小组，肃清反革命，把沾满共产党员和工农革命分子鲜血的国民党反动头子沈藻修等，押到街上，宣判死刑并没收财产。

    12月13日中午，杨殷出席了广州工农兵拥护苏维埃政权群众大会。会后，张太雷乘车赴观音山战场，途经惠爱路、大北直街交叉口时，遭市内国民党残部袭击壮烈牺牲。杨殷继任广州苏维埃政权代理主席，指挥调度全盘工作。

    国民党军队开始从四面进行反扑，因力量悬殊，起义军撤出广州。杨殷、周文雍指挥工人赤卫队，掩护工农红军正、副指挥叶挺、叶剑英率队撤向海陆丰。周文雍就是在那场掩护阻击战中被捕的，后来就有了他和陈铁军在刑场上的婚礼。杨殷在最后撤离市公安局往西关途中，被敌人发现穷追不舍。一个叫谭灿新的赤卫队队长抡着大刀与敌肉搏，壮烈牺牲，为他赢得了时间。杨殷被陈李济的工人拉进了分店，摆脱了敌人的追捕，又在陈李济东主陈少泉的帮助下安全转移到了香港。不久又辗转来到海陆丰，与彭湃一起展开粤东区游击战和土地革命运动。