周祖谟三十年代就读北大中文系，师从沈兼士、罗常培，二年级即发表论文《说文解字之传本》，其时北大遂有“前有丁声树，后有周祖谟”之说。毕业后考入中研院历史语言研究所(南京)，有意追随赵元任、李方桂，以加强语言学及方言调查的训练;但未及一年，因母病北返侍奉，旋以抗战爆发，南北阻隔，只得滞留北平。因此他在研究方法上，遂错失亲近审音派的机缘，而终为考古派的代表。

    周祖谟治学，始终以音韵学为重心，而兼及文字、训诂、文献方面;其中尤用力于古语言学文献的校理，为最显著的特色。其论文根柢扎实，多有创获，曾汇编为《汉语音韵论文集》，以后

    增补为《问学集》两册，台湾、日本皆有翻印，为当代引用率最高的汉语史著作之一。专著《汉魏晋南北朝韵部演变研究》第一分册(与罗常培合作)、《魏晋南北朝韵部之演变》，对诗文用韵材料进行通盘清理，藉此重构上古音与中古音之间的历史缺环;《广韵校本(附校勘记)》、《尔雅校笺》、《方言校笺》、《释名校笺》皆为古汉语文献的最佳整理本;《唐五代韵书集成》集敦煌韵书之大观，比勘异同，考订源流，为中古音研究的基础性文献。此外尚有《洛阳伽蓝记校释》，亦远迈前贤，为古籍注释的高峰。

    追溯上古音，须以中古音为初阶;构拟中古音，必以《切韵》为枢纽;而《切韵》的音系性质问题，又为语言学史上一大讼案，至今未有定论。周祖谟于此，六十年代有《切韵的性质和它的音系基础》一文，在中外影响甚巨;张琨虽不尽认同其说，亦承认此文为“最札实详瞻”之作，以为可与陈寅恪《从史实论切韵》并列，为有关中古语音及《切韵》性质问题的两大经典。

    1932年，周祖谟同时报考清华英语系及北大中文系。当时清华的国文试题包括对对子，题为“孙行者”，周祖谟对以“胡适之”，颇为出题的陈寅恪所赏。周祖谟为清华、北大同时录取，以学费原因而选择北大。据说时任北大文学院院长的胡适闻之，多次传言约请周祖谟一见，而周祖谟始终回避。以后周祖谟向旁人解释：胡先生道德文章为一代所宗，但与自己所学并非同一系统，骤然晋谒，有攀附之嫌，云云。然周祖谟以“胡博士”对“孙猴子”，已先有揶揄意味;又不愿低首拜谒，或于胡适不无轻蔑之心欤?

    沦陷时期，周祖谟承陈垣聘任到辅仁大学讲授国文，得以勉强维持生计。当时他与辅仁同事余逊、柴德赓、启功三人关系密切，并时常到陈(垣)校长处请益，启功回忆：“不知是谁，偶尔在陈校长的书里发现一张夹着的纸条，上面写着我们四个人的名字，于是就出现了校长身边有‘四翰林’的说法，又戏称我们为‘南书房四行走’。这说明四个人名声还不坏，才给予这样的美称，要不然为什么不叫‘四人帮’呢?”