1926年6月，徐介藩与常乾坤、李乾元、黎鸿峰、金震一（朝鲜人）等12位同学一起乘船到上海，然后远赴苏联学习。

1926年7月到达苏联后，徐介藩和常乾坤被安排到列宁格勒红军航空理论学校学习。这里无论是学习环境还是实践条件都好于广东航校，徐介藩系统地学习了空中领航学和空中射击学等专业知识。1927年，徐介藩转入红军第二飞行学校，学习飞机驾驶技术。

1928年10月，徐介藩转入莫斯科东方大学二年级学习政治。1929年4月，徐介藩正式转为苏联共产党（联共）候补党员；10月他从东方大学毕业以后，被苏联内务部分配到远东地区的斯沃博得内公安部门反特务科担任干事。1931年被调往布拉戈维中斯克（即海兰泡）州公安部门担任责任科员。1932年4月，他从组织上得知了一个好消息：苏联共产党（联共）批准他成为联共正式党员，并且他可以领到苏联护照！

在苏联远东地区工作期间，由于公安反特工作的特殊性，徐介藩被迫断绝了与安徽老家家人的一切书信联系。

在孤单寂寞的异域他乡，爱神悄悄地向过了而立之年的徐介藩走来！年轻有为的徐介藩，在布拉戈维中斯克工作期间，勤勤恳恳、任劳任怨，受到了苏联同志和上级领导的一致好评，而单位中一位叫做马尔多夫斯卡的苏联女青年深深地爱上了这位来自中国的同事。在领导和同事们的撮合下，1933年，徐介藩与马尔多夫斯卡喜结连理。

1934年9月，徐介藩被调到符拉迪沃斯托克（即海参崴）公安部门担任科长。1936年正式加入了苏联国籍。在符拉迪沃斯托克工作期间，徐介藩多次受到苏联上级领导部门的奖励，曾经荣获过银表等奖品。9月，他被调到乌苏里斯克（即双城子）公安部门担任科长。

自己的祖国近在咫尺，却不能回去，身在异国的徐介藩经常感到惆怅，他思念他的家人，思念他的战友：看到祖国美丽富饶的东北三省沦陷于日寇的铁蹄之下，徐介藩恨不得自己马上回国，投身到轰轰烈烈的抗日救亡运动中去！

中国抗日战争全面爆发的消息传到苏联以后，身在异乡的徐介藩备受鼓舞，当得知常乾坤等老同学纷纷回国参加抗战的消息，徐介藩再也坐不住了！1938年底，徐介藩向苏联公安部门递交了辞职书，返回莫斯科，找到中共驻共产国际代表团，要求回国投身抗战。在等待期间，徐介藩在莫斯科外交出版社临时找了一份翻译工作。

组织上考虑到工作方面的实际需要，没有答应徐介藩回国的请求，决定把他留在共产国际工作。1939年7月，徐介藩调入共产国际干部部东方干部处担任专员。在这里，徐介藩了解到国内抗战的形势，接触了毛泽东的《抗日游击战争的战略问题》、《论持久战》等著作，在中国抗日民族统一战线问题上，他坚定地支持毛泽东提出的独立自主的原则和全面抗战路线，认为王明提出的“一切经过统一战线”、“一切服从统一战线”的观点，是右倾投降主义路线的产物，不仅会造成党内思想的混乱，还破坏了党的统一。虽然王明的右倾投降主义路线在国内的洛川会议上受到了批评和纠正，但是身在苏联的徐介藩却受到了共产国际内部支持王明的人的错误批评，甚至还被关了禁闭。

1943年5月15日，共产国际执委主席团做出了解散共产国际的决定，考虑到徐介藩是中国人，苏联方面把他调入苏联共产党（联共）中央联络部国际部某秘密机关工作，先后担任中国问题参谋和主任参谋。在此期间，徐介藩参加了苏联莫斯科国防工程建设，多次参加义务劳动，先后被授予“保卫莫斯科奖章”和“卫国战争纪念章”。

世界反法西斯战争在硝烟和烽火中结束了。战后，苏联人民齐心协力医治战争创伤，致力于恢复和发展国民经济，而徐介藩自己的祖国，则由于国民党反动派顽固坚持反共独裁的立场，再次爆发了内战，身在苏联的徐介藩决定回国投身到轰轰烈烈的人民解放战争中去，和战友们一起为中国革命的最后胜利并肩作战。