北平和平解放后，张伯苓得到了周恩来请他留在大陆的信息。1949年11月21日下午，张伯苓在重庆的家中午休，蒋介石突然到访，亲自登门劝张伯苓飞赴台湾。张伯苓淡然回绝说：“您抬爱我了。”张伯苓的夫人也说：“蒋先生，他老了，身体也不好，他离不开南开学校和学生们，也离不开3个儿子，他们都在北平、天津。他不能去台湾，更不能去美国。做不了什么事了，也该退休了。你就让他辞职吧。”

蒋介石再三劝说，但见张伯苓夫妇态度坚决，只好怅然若失地起身告别。张伯苓把蒋介石送到门口时，蒋介石准备上车。但由于还沉浸在被拒绝的尴尬状态中，注意力不集中，没有低头上车，只听“咚”的一声，竟一头撞在车门框上，张伯苓忙上前扶住问候，但蒋介石忙说：“没事，没事。”这才低头上车，悻悻而去。

1950年5月3日，张伯苓夫妇乘飞机北归。