1934年，吴宗济从清华大学中文系毕业，获文学学士学位，随即就业于清华大学出版事务处从事编辑工作。1935年，南京中央研究院历史语言研究所因从事方言调查需要，在全国招考研究人员一名。当时在南京、北平(今北京)、上海、武汉均登出了招考启示，四个地方报名者不下百人。当时，北平的考场就设在北海静心斋历史语言所的旧址，主考为语言学家李方桂先生。考试内容和方式，据吴宗济回忆：“试题除音韵学、语音学及国际音标听记外，还加考音乐知识。四个地方的考生中音韵学、语音学好的很多，但没有一个搞实验的。李方桂先生要调查壮歌，要记音，他音乐很好，在钢琴上弹上几组四部和弦，拿过五线谱来，让你背着写。我有这方面的基础，还能应付。其他几个一同应考的全都抓瞎了，心想这是怎么回事?怎么考这些东西?”直到如今，吴宗济先生还略带戏谑地说：“我当时能考进历史语言研究所，完全是瞎猫碰着了死耗子，是碰巧撞大运撞上的。”这样，吴宗济凭着坚实的国学功底和对中国文字、音韵、诗词、辨音辨调等方面的特长，成为唯一一个被录取者而进入历史语言研究所任助理研究员一职，与丁声树(《现代汉语词典》的两位主编之一)、杨时逢、董同龢一起，成为著名语言学家赵元任先生麾下的四大助手，时人曾赠以赵门“四进士”的雅号。至今，吴宗济仍珍藏着罗常培、王力、赵元任、李方桂等四位老师的珍贵照片。

　　到南京史语所报到后不久，语言组就奔赴广西学习傣语，并到百色地区进行方言调查。当时，处于第二次国内革命战争时期，桂系军阀与蒋介石之间也时有战争。吴宗济一个人带着几箱子研究器材从烟台出发，坐船经上海换船到香港，再转至广州，转乘火车至三水，自三水再坐机动船至广西的梧州，最后雇汽车到达南宁。一路艰难险阻，走了半个多月，经过了许多禁区。据吴宗济回忆说：“当时，兵荒马乱，特别是粤、桂之间正在交战，一路上共使用了‘中央票’、‘港币’、‘东毫’、‘桂币’等四种钱币。在广西，李宗仁、白崇僖他们对时任中央研究院院长的蔡元培还是闻名买账的。因为我们说都是蔡元培先生的学生，他们就发给了我们通行证，还给了一面军旗插在我们的车子上，就这样一路畅通地到达了南宁。”

　　从1935年10月到次年的春节，由李方桂先生带领他们以广西的武鸣为中心，在百色、龙州、天保等地进行了为期四个月的壮语调查。这次调查，为以后我国的方言调查积累了最初的经验和素材。于1936年春节前后，又与赵元任、丁声树、杨时逢、董同龢一起进行了一次湖北方言调查，这次调查的成果，后整理成《湖北方言调查报告》一书，于1948年由商务印书馆出版发行。尤其是当时根据调查报告绘制而成的湖北方言地图，成为后来方言调查报告的范本。1937年冬，在南京沦陷前夕，史语所内迁，吴宗济随赵元任等史语所同仁最后落脚到昆明郊区的龙泉镇。当时的条件非常艰苦，据吴宗济回忆说：“天上时常有日军的飞机轰炸，地下在大庙里办公，条件虽然艰苦，但学术气氛很浓!”1938年5月，赵元任先生应美国人之邀赴美讲学，史语所同仁还为其举行了一个简朴的欢送仪式，至今吴宗济还收藏着当时拍摄的一张弥足珍贵的合影，等到吴、赵二人的再次见面，已是30年以后的1973年的事情了。这期间，虽然只跟随赵元任先生3年时间，但赵先生科学严谨的治学态度、对学生的随和与宽容，以及日常生活中的幽默、豁达，都对吴宗济产生了深远的影响。

　　1940年，因种种原因，吴宗济离开历史语言研究所，又继续他的传奇生活。此后的十余年，他曾从事过许多行业。在上海他自己开过仪器公司，当过电台的经理，还一度做过国民党的高级职员，以至于引起了太子蒋经国的注意，并亲自派人说服吴先生，盛情邀请吴先生加入他的体系。多亏不久之后，淮海战役导致了国民党政府的溃败，那些政府的要员们都自顾不暇了，此事才作罢。否则，吴宗济说不定就成了蒋经国线上一个不大不小的特务成员呐。

　　上海解放之后，吴宗济继续在上海的一家仪器公司工作，专门经营进口科学、医疗方面的仪器。据吴先生回忆说：“那时，中科院把购货单交给公司，公司就给他们写一份关于世界各种仪器的报告。当时连一个温度计都需要进口。通过走美国人的私，确实为国内进了不少急需的仪器设备。为此，我曾两次偷渡到香港，去运从英国买的机器。因为我曾经在电影公司干过，对电影业务很熟悉，于是我就冒充昆仑公司的业务员，这样不会引起人们的注意。后来，此事被人告到了毛主席那里，说我是国际大间谍。”当然，吴宗济被当做间谍接受调查还不止这一次。还有一次，据他自己回忆说：“因为大连港的港长知道我摄影技术好，就请我去拍照。大连那时是军港，我把整个港口都拍了一遍，这下可捅了娄子，多亏我把拍好的胶卷都交给了港口的保卫科长。由于当时大连港的正副港长争权夺利斗得很厉害，于是几个副港长就拿这事大做文章。他们写信给毛主席，说港长是个大内奸，请了上海的一个国际间谍吴某人拍军港，泄露国家的军事机密。这还了得?当时注定要杀头的。最后，经过周恩来总理的亲自过问，这事才算了结。”

　　上世纪50年代初期，著名语言学家罗常培主持中科院语言所的工作后，为尽快将实验语言学开展起来，曾多次写信邀请在上海的吴宗济加入研究行列。当时，一则吴宗济的夫人正在病中，难以成行;二则吴先生当时在上海月薪1000多块，而到北京才只有170块左右，经济压力还是有的;这使得吴宗济一直犹豫了好几年。1956年，他夫人病逝，吴宗济这才坦然地踏上北上的征途。吴先生曾动情地说：“罗先生的每句话我是一定要听的，是他把我招回来走上了‘音路历程’。那时，钱还没有现在看得重。”

　　1957年，为了解国外实验语言学方面的最新研究成果，吴宗济受国家委派前往当时的捷克和斯洛伐克共和国进修。到达捷克不久，他就发现当时属于社会主义国家阵营的捷克和斯洛伐克也同样与西方国家隔绝。当时，即使在国内还能看到的美国等西方国家的有关研究成果，在那里却看不到。吴宗济认为，语言调查必须学习最新的语图分析、频谱图分析，于是他就给国内写报告，请求到当时与中国有交往的属于西方阵营的瑞典、丹麦进修。因为当时瑞典皇家工业学院这方面的技术来自于先进的美国，声学方面的知识也很丰富，技术也比较先进。征得国内的同意后，他先到瑞典进修了一段时间，后又转到生理方面设备更先进的丹麦继续进修相关学业。1958年，他结束进修生活回国。此后，在长达半个世纪的时间里，吴宗济一直在实验语言学这一领域辛勤地工作，成为中国实验语言学的奠基人。