1921年春，广东成立了共产党组织，不久，杨匏安经谭平山介绍加入了中国共产党，成为中共广东早期党员之一。杨匏安入党后，他的住家杨家祠成了党的活动据点，党早期的许多会议都是在这里召开的。他和杨章甫还在杨家祠办起了注音字母训练班，为党的活动作掩护。

　　这时，杨匏安已离开时敏中学。《广东中华新报》也已被陈炯明封闭了。他由新闻界老友名律师陈大年的介绍，先后转到南武中学和甲种工业学校任教。“南武”和“甲工”的学生运动十分活跃，特别是“甲工”，“五四”以来一直是广州学生运动的支柱。后来著名的革命烈士阮啸仙、刘尔崧、周文雍等都出自这所学校。周文雍还是杨匏安教过的学生。

　　1922年2月26日，广东青年团创办《青年周刊》，由杨匏安撰写创刊《宣言》，署名“夕ㄢ”。《宣言》公开向读者宣告：“我们最服膺马克思主义”，因为它“能把资本制度应当崩坏的纯经济的、纯机械的历程阐明”，“指示我们实现社会主义的实际道路”。最难能可贵的是：这篇短短的“宣言”，已初步把马克思主义同中国的国情联系起来，明确地提出我国革命除了应注重劳工运动之外，“我们尤其注重的是农民运动”，因为“中国是一个农业国，生产的大部分都是出自农民汗血”。同时号召学生、妇女和军队，同青年团员携起手来，共同革命，号召中国军人要学习苏联红军的榜样。

　　同年三四月间，杨匏安在《青年周刊》第3至7期连续发表长文《马克思主义浅说》，这是用白话文体通俗地、系统地介绍马克思主义三个组成部分的文章，比1919年的那篇《马克思主义——一称科学的社会主义》写得更加深入浅出，准确鲜明。这时，中国社会主义青年团已进行了改组，在团章中规定：“中国社会主义青年团是信奉马克思主义的团体”。广东青年在党团组织积极宣传马克思主义的推动下，学革命理论的热情迅速高涨起来，他们以青年团员为基干，组织了“广东社会主义讨论会”，以“专讨论马克思主义及关于马克思主义各种问题以至如何应用于中国为宗旨”。杨匏安的文章适应了广大青年的学习需要，受到了热烈的欢迎。

　　这时，广东军阀陈炯明已公开背叛孙中山，迫害革命分子。党团活动转入地下，广东区团委书记阮啸仙被迫转移外地，由杨匏安代理区团委书记。1923年5月，广东区团委改选，杨匏安被选为候补执行委员。这期间，他由杨殷介绍任粤汉铁路局广州分局编辑主任。他利用这一合法身份，深入工人群众中，开展党的工作。他与杨殷等吸收了一批铁路工人入党。1922年底，他在黄沙开设了一间“北江商运局”，承运客货，利用滇军押运，以掩护党在粤汉路工人中的活动并为党筹措经费。经过杨匏安等人的努力工作，逐步建立了广三、广九、粤汉三铁路的党团支部，杨匏安、杨章甫等先后任支部书记。