1948年3月，徐介藩回国的申请经苏联共产党（联共）中央审核，获得批准，他偕同夫人马尔多夫斯卡和3个女儿回到阔别20余年的祖国。徐介藩回国后，留在哈尔滨等待分配工作。中共东北局的领导同志考虑到他俄文方面的特长，决定安排他到中共中央东北局编译局工作，出任《毛泽东选集》俄文总编辑，同时转为中共党员，证明人为李立三。由于徐介藩在黄埔军校时期的入党介绍人和证明人许继慎早已牺牲，考虑到徐介藩的实际情况，组织上决定他的党龄从1926年2月在广东航空学校时期算起。

东北全境解放后，徐介藩于1949年2月调任中长铁路驻沈阳办事处副处长，并且兼任中共东北局直属党委委员、副书记，不久又担任书记。

1949年6月，中共中央决定由刘少奇率领包括高岗、王稼祥在内的中共中央代表团赴苏联进行友好访问，这是新中国成立前夕我党的一次重要出访，有着重大的历史意义。考虑到徐介藩长期在苏联工作和生活，熟悉俄语和苏联的情况，中央调他和师哲、戈宝权、邓力群一同前往苏联。访问结束后，徐介藩随王稼祥留在莫斯科，一方面接收国民党政府驻苏联大使馆，另一方面筹备新中国的大使馆。

1949年10月2日，苏联宣布承认中华人民共和国，中苏两国建立大使级外交关系，徐介藩被任命为中华人民共和国驻苏联大使馆一级参赞。此时，徐介藩尚拥有中苏两国国籍，他认为自己本来就是中国人，现在更是中华人民共和国的外交官，所以不能拥有双重国籍，就办理了退出苏联国籍的法律手续。

1949年底至1950年初，毛泽东第一次赴苏联进行访问，并且与苏联最高领导人斯大林进行了会谈。在《中苏友好同盟互助条约》签订之前，毛泽东和斯大林由于意思表达在双方之间产生误会等原因，发生了不快。面对苏联方面事先草拟的一份协议，毛泽东严肃地指出：“他们拿的那个草案对我们无效”，他提议讨论充实文本内容，并且译成俄文。作为毛泽东身边少数几个精通俄文的官员，徐介藩和伍修权、师哲、戈宝权四人全程参与了这次讨论，以最快的速度将毛泽东、周恩来、李富春等中央领导同志的讨论文本翻译成俄文，最后由徐介藩打印出来，为《中苏友好同盟互助条约》的顺利签署做出了重要贡献。

1950年2月，徐介藩患难与共的苏联妻子马尔多夫斯卡因患癌症，医治无效而逝世，徐介藩万分悲痛。为了国家的工作，徐介藩忍痛把自己的3个女儿托付给马尔多夫斯卡的母亲抚养。6月，根据中苏双方达成的协议，我国在苏联赤塔设立领事馆，党中央派徐介藩前往赤塔筹建中国总领事馆，出任总领事兼党支部书记。但是徐介藩在赤塔工作得并不很顺利。因为当时苏联方面依旧按照传统思维，把一切外交人员当作外国的情报人员一样，处处防备，特别是当他们得知徐介藩曾长期在苏联学习和工作后，克格勃的人更是对他“特别照顾”，对他的活动处处设限，所以徐介藩在赤塔工作一段时间后，就不愿意返任了。