1979年10月，胡国定教授任南开大学党委副书记、副校长，1984年9月至1987年10月兼任南开大学研究生院院长。80年代中期到90年代中期，还曾兼任南开大学学位评定委员会主席。在担任学校领导职务期间，胡国定教授倾注大量心血，完成了许多卓有成效的工作，为南开大学改革、发展、建设做出了重要贡献。

　　自1981年开始，胡国定教授多次与时任美国数学科学研究所所长陈省身先生联系，商议组建“南开数学研究所”事宜。1985年，经国务院批准成立南开数学研究所，胡国定教授任副所长。1992年—1996年，担任该所第二任所长。他始终和陈省身先生一起，为南开数学研究所的建立、建设和发展呕心沥血、殚精竭虑。

　　80年代中后期，胡国定教授担任国家自然科学基金委员会副主任，致力于推动中国自然科学特别是数学事业的整体发展。他努力推动建立“数学天元基金项目”，并曾担任中国数学会副理事长、天津市科协主席、天津市数学会理事长等职，为中国数学和科学事业的发展做出了积极贡献。