1949年4月，渡江战役打响，在我军的英勇攻势下，南京很快就解放。南京解放后，身在上海的国民党人员每个都人心惶惶，尤其是国民党上海市市长吴国桢，更是惶惶不可终日，他也匆匆逃到台湾，并让原先的秘书长陈良担任新任上海市市长。
陈良无力控制上海的局势，他也不想拿着这块“烫手的山芋”，于是陈良就一直琢磨，应该让谁担任上海市市长呢？巧合的是，有一天，陈良恰好从广播中听到我军喊话，要求经济专家颜惠庆、工务局长赵祖康以及张元济留下来，以便将来建设上海。陈良就想到了赵祖康，于是他就把赵祖康叫来，让赵祖康接替自己，担任了上海市市长。
赵祖康出生于1900年，上海松江人，早年时期，赵祖康曾在交通大学唐山工学院学习，1930年，他前往美国康乃尔大学进修道路和市政工程，回国后担任了交通部公路总管理处处长、交通部公路总局局长等职务，为我国公路建设的标准化与制度化发展作出了重要的贡献，是我国著名的公路桥梁专家。
解放战争末期，赵祖康担任了上海工务局长。1949年5月24日凌晨一点左右，赵祖康被叫到陈良家中，到陈良家中后，陈良首先与赵祖康谈了一下当时的形势，然后就向赵祖康说出了叫他来的目的：“我找你来，是请你来代理上海市长！”
原来，在这之前，我军已经开始进攻上海，准备解放上海，在这种背景下，陈良打算离开上海，但他“身负重任”，不能贸然离开，于是他就想找一个人代替自己，赵祖康就是陈良想到的人。不过，听到陈良这么说之后，赵祖康第一时间拒绝，并推说自己长期从事技术工作，不适合担任上海市市长。
值得一提的是，在这之前，我党的情报人员曾找到赵祖康，希望他有机会能接管上海，配合我军解放上海。当赵祖康想到这一点时，他同意了陈良的提议，并担任了上海市市长。从5月24日到5月28日，49岁的赵祖康一共担任了5天时间的上海市市长，任职期间，他努力维持社会治安，保护了人民群众的生命财产安全，保管了上海市的文书档案，为我军顺利接管上海作出了重要的贡献。
上海解放后，赵祖康迅速投身上海的建设工作，他也充分发挥自己的才能，使得上海郊区以及邻近省市的交通情况有了很大的改善。1957年，57岁的赵祖康担任了上海市副市长，他也继续投身上海的发展与建设当中。
1966年，十年浩劫开始后，赵祖康也受到了冲击，1967年1月，张春桥等人在上海制造了“一月风暴”，夺权成功，也是这一年，67岁的赵祖康被夺权，并被暂停了工作。那段时期，赵祖康一身正气，始终以乐观积极的心态面对人生，最终度过了那段特殊的历史时期。
1979年，上海市七届人大二次会议上，赵祖康再次担任了上海市副市长，继续投身上海改革开放时期的建设与发展当中，并积极献言献策，做力所能及的工作。1983年，赵祖康卸任上海市副市长，晚年他主要生活在上海，于1995年因病去世，享年95岁。
