徐利治，出生于江苏省沙洲县(今张家港市)东莱乡一个普通木匠家庭。10岁时父亲去世，由母亲帮人做衣维持生活。14岁以年级第一名的成绩毕业于小学，考上全部公费的江苏省立洛杜乡村师范学校。他在校期间成绩优异，并博闻广读，自学《查理斯密大代数》，开始钻研数学经典。许多数学名家的传记故事对他后来从事数学研究颇有启示。抗日战争初始，徐泉涌来不及回故乡，与同学结伴向西南逃亡。1938年考入贵州铜仁国立第三中学师范部。他在生活十分艰苦的条件下发奋读书，尤其热爱数学，做了不少难题，1940年毕业后即以高中同等学历考取西南联合大学数学系。报考大学时，徐泉涌将自己的名字改为徐利治。

入大学不久，由于经济原因，徐利治不得不暂时休学，到四川重庆中学教书。一年后返回大学。当时的西南联合大学人才荟萃，徐利治直接受业于华罗庚、许宝騄等著名教授门下，得益匪浅。他悉心钻研数学名著，参加数学讨论班，接触到研究工作前沿，学会独立思考问题。大学期间他就写出4篇专业研究论文在国际数学杂志上发表。1945年毕业时被华罗庚教授举荐，留在西南联合大学任其助教。

1946年，组成西南联合大学的三所大学(北京大学，清华大学，南开大学)分别迁回北京(当时称北平)和天津。徐利治应聘到北京清华大学任助教。在当时的清华大学，一般人要任六七年助教才提为教员，但徐利治只用了不到3年时间便由助教升为教员。在此期间他相继发表了一批有国际影响的论文。1949年北平解放前夕，徐利治获得了英国文化委员会的奖学金，作为当年该奖学金资助中唯一一名数学研究人员，赴英国阿伯丁大学和剑桥大学访问进修各一年。1951年回国后，担任了清华大学数学系副教授，同时兼任北京师范大学数学系副教授。

1952年，为了支援东北的文化建设，徐利治同王湘浩、江泽坚等人一起自愿去到长春，在原东北人民大学组建了数学系，徐利治任数学系副主任。他每年至少讲授两门数学专业课，从1954年起还创办函数逼近论讨论班，培养了一批从事该方面研究的专门人才，他本人也在渐近分析与函数逼近论等方面取得一定成果。1956年被提升为正教授。

1956年春徐利治作为中国科学院三人代表团成员参加了莫斯科全苏泛函分析及其应用会议。回国后他在东北人民大学数学系创办计算数学专业，与苏联专家合作开设了全国计算数学的第一个培训班，培养出从事计算数学研究的首批专业人员。1958年东北人民大学更名为吉林大学。80年代初吉林大学计算数学专业成为国内第一批博士授权点，徐利治成为国内首批博士生指导教师，这与他当时奠定的基础是分不开的。

1961年徐利治受聘为美国《数学评论》杂志的特约评论员。此时他已发表了50多篇学术研究论文，出版了两部专著。但几年之后，"文化大革命"开始了，正常的教学和科研陷于瘫痪，徐利治就躲在家里潜心研究学问。1970年他被送到吉林省长岭县插队落户，在繁忙劳作之余仍孜孜不倦地钻研数学，先后在国外发表了数篇有创见性的论文。1975年9月他重返吉林大学执教，很快又倡议办起了非标准分析讨论班，并担任主讲。

从1980年起，徐利治除在吉林大学任职外，还在大连理工大学(原大连工学院)和华中理工大学(原华中工学院)兼职。1981年大连工学院成立应用数学研究所，徐利治担任了首任所长，同时兼任华中工学院数学系主任。是年，在大连工学院和华中工学院两校领导的支持下，他创办了全国性专业杂志《数学研究与评论》，并成为首任主编。也是在这一年，大连工学院和华中工学院两校成为国家教育部批准的硕士授权点。1984年徐利治成为大连理工大学博士生指导教师。

1981年8月徐利治赴西德汉堡参加了第九届国际运筹学会议，次年7月又得到西德科技促进会的资助，到波恩参加了国际数学规划会议，并在会上作了中国东北运筹学发展情况的报告。1983年1月他作为中国逼近论代表团团长，去美国参加了在德克萨斯举办的国际逼近论会议。大会单独为他提供经费，并请他作了1小时的全会报告，介绍中国在逼近论方面近年来的发展概况。会后他还应邀到西弗吉尼亚大学、匹兹堡大学和斯坦福大学短期访问，并作学术报告。1985年6月他取得美国国家科学基金的资助。赴美进行科研合作。其间他参加了在加拿大埃德蒙顿举行的国际逼近论会议和在哈里法克斯举行的数值积分高级研究会。1986年夏他又受聘为美国德克萨斯州A&M大学客座教授。1987年初再赴加拿大曼尼托巴大学和里金纳大学访问讲学。