张廷金在交通大学任教近30年，他以自己的成绩和汗水见证并参与了早期交大电机科乃至中国电信事业的建设与发展。交通大学电机系创建于1908年，当时称为电机专科，学制为3年。1910年聘请美籍专家谢尔顿任电机科科长，并建造电机实验室，后又增聘请汤姆生为教授，为以后的电机学科发展打下了初步基础。1915年9月，张廷金应唐文治校长之邀回国，担任电机科教员，专门办无线电专业。1927年5月，张廷金开始担任电机科科长，历任电机工程学院院长、工学院院长。在谢尔顿、汤姆生、张廷金以及其后的钟兆琳等教师的努力下，电机系被认为是交通大学最好的专业，只有成绩最好的学生才能入读。

张廷金在电机系讲授无线电，开设了《无线电原理》、《电学》等课程。他关注国际上相关专业的发展，并将最新的技术引入课堂。他所讲授的电机、火花发电机等，都是他在美国时刚有的。电子管等出现后，他的讲授内容又同步更新到电子管、真空管。他的学生不出课堂就与国际接轨了。张廷金讲课认真，为人严谨，加之他很高的声望，学生们都非常尊重他，上课时认真得近乎“恭敬”。为了使学生理论知识与实践知识相贯通，张廷金还从校外请来庄智焕（曾任工业部电子司司长）、包可永（曾任上海市电报局局长）等两位校友来校兼课教授电话电报。为了训练学生写论文，他要求电机工程系四年级毕业班的每位学生都要写一篇专题报告，在教师指导下轮流向班上同学宣读。这种形式就是seminar，至今仍为各大院校所采用。

张廷金重视实验，他的助教回忆说“ 张 先生动手能力极强，喜欢独自操作新实验”，教学过程中也常用无线电台进行演示。任教不久，他就在交大组建了无线电实验室。 1920年，实验室已配备了他自己设计制造的无线电台以及无线电发射机、微波中继通讯终端站电话机、长波收发报机、短波收发报机、谐义振荡器、真空管振荡器、晶体控制振荡器、真空放大器总阻桥等设备。1921年，成绩优秀的本校电机科应届毕业生陈章被选留校，作为张廷金的助手，协助指导四年级学生的无线电实验，这是国内高校中首次设置助教制度。在张廷金的主持下，交大的无线电实验室在全国高校中独树一帜，实验室条件首屈一指，以至于进出其内做实验的学生们都颇觉自豪。经过严格的专业学习和训练，电信系的学生们实际操作能力非常出色。30年代，“西北王”胡宗南部队筹建无线电台，就直接点名要交大学生。刚刚毕业的电信系学生戴宗溶去到西北，不孚所望，果然在短时间里就把电台建全了，无线电网覆盖了天水、兰州等整个军部。1934年，国际上“业余无线电”研究兴盛，张廷金深刻洞察到无线电通讯的广阔前景，他发动学生们加入这一研究行列，自己则和助教一起从旁指导。半个世纪后，他的学生提及此事时说道：“这是 张 先生的功劳，在这样的时机带动中国学生向无线电进军，加入国际行列”。张廷金的课和实验都是在工程馆后面的小红楼里进行的，因此，学生们称他为“小红楼主人”。电机科学生在毕业纪念册中盛赞 张廷金 教授为“饱学之士”，是“于电机工程极富经验者”。

张廷金认为学生养成强健的人格与良好的学习习惯十分必要。他提出，工程学习者在学生时代“非先培养创始之能力与领袖之精神不可”。他在《工程同学应有创始之能力与领袖之精神》一文中写道：工程学科与其他学科不一样，工程学科绝不能沿袭旧式，要立足于竞争之世界，因此须有创造能力；要负责于工程重任，又此须有领袖决策能力。然而，能力与精神之养成，事业之最终成功，张廷金告诫学生们，还有赖于个人的自觉修习。因为，“事业成功得力于环境对象者十之一二，得力于研摩自修者十之八九”。他写下《赠毕业同学》一文，以“好女勿穿嫁来衣”作譬，叮嘱即将离校的学生们坚持自我修习。他说：“ 诸 君大学四年，课程今已修毕，而将来事业之发展，非仅恃此数年学校之所得可以应付无穷”“吾人在学校所受之学术，不过方圆平直之学；正如嫁来之衣，数量有限，断不能以此自豪。欲来日之自足自给，取之左右而逢其源，则有待乎 诸 君之猛进研摩”。

张廷金负责管理电机系所有上课、实验以及毕业分配等重要事情。特别对于毕业生分配，他一手掌握着重要的用人单位、排列次序，另一手则掌握着毕业同学的学习成绩和工作能力，尽量把合适的毕业生介绍到各单位就业。《上海交通大学纪事》上就载有——1928年5月11日，电机科主任张廷金介绍电信门毕业生舒远泽到安徽省无线电台任事， 6月17日安徽省建设厅函复准予录用——诸如此类的记录。张煦（1934届校友、中国科学院院士）毕业那年，恰逢中央研究院物理研究所请交通大学推荐最优秀的学生前往就业，张廷金了解学生成绩、素质，经认真考察后将张煦分配至研究所。70多年后，张煦回忆求学往事时，仍说：“我记忆最深的是张廷金（贡九）教授……我感谢他处事公正和合理”。张廷金身材高大，看起来很威严，颇具学者风度。然而，他并不严厉，相反，对于学生，他非常宽容，总是尽量满足他们的要求。他的学生罗沛霖（1935届校友、中国科学院院士）对此颇有体会。罗沛霖大学毕业时得知学校有推荐清华留美电讯报考名额，虽自知学业不全面，很可能不会考取，但还是决心一试。于是，他去找在校资历很深的院长张廷金。当罗沛霖提出要求报考清华留美后，张廷金说：“你分数差，条件欠缺。但推荐4个人，现在才只有3个，可以加你一个。”果然推荐他去报考。结果，罗沛霖没有考上。他就再去找张廷金请求分配电讯部门的工作，其实，他的工作，学校已有安排，他却不甚喜欢。张廷金并不说教，仍然和颜悦色为他谋划。

坚实的专业素养、卓越的才能、严谨公正的人品和渊博的知识底蕴，使张廷金成为交通大学最有威望的教授之一，被尊称为“大教授”。他在学校的各种机构和事务中，往往独当一面。南洋公学同学会也数度推举他为副会长、会长。1921年，交通大学上海、北京、唐山3校合并后，张廷金更被委以重任，直接参与学校管理。譬如，1921年张铸任沪校主任（相当于交通大学上海学校校长）期间，如有外出，沪校事务即请张廷金暂为代理。这年11月底，叶恭绰校长签发总办事处函，聘 张廷金 教授代理副主任职务（相当于副校长）。