1992年10月6日，在党的“十四大”召开前几天，邓小平给中央政治局写了一封信，对下一届中央军委领导班子的人员构成提出了自己的建议。最终邓小平的意见被中央通过，在党的十四届一中全会上，原济南军区司令员张万年出任中央军委委员、总参谋长。
张万年
邓小平最早知道张万年，是在1979年的对越自卫反击战，时任第43军副军长兼127师师长的张万年带领127师毙俘越军2125人，自身仅减员1000余人，而且没有一个人被俘，战果可谓十分辉煌。
1979年5月12日，《解放军报》刊登了长篇访谈《杀鸡用牛刀——师长张万年谈集中兵力打歼灭战问题》，专门报道了张万年在对越自卫反击作战中的先进事迹。邓小平看完这篇文章后，对张万年赞赏有加，从此他便记住了这个名字。
1982年9月，张万年作为中央军委在全军范围内选拔出的优秀干部代表之一，光荣地出席了党的十二大，并被选为候补中央委员。
1987年11月，广州军区司令员尤太忠调到中央军委任职，在讨论接替尤太忠的人选时，邓小平首先想到了张万年，他问尤太忠：“当年在对越自卫反击战里，那个杀回马枪的张师长在哪里？”
邓小平
1990年4月，张万年调任济南军区司令员，他在去济南上任前对军委领导表态说：“我今年快63岁了，到济南军区再干两年就到了休息的年龄，我在广州的家就不搬了。”
最终张万年未能如愿，邓小平在考虑新一任总参谋长的人选时，认为总参谋部是中国人民解放军的总司令部，作为这一军事首脑机关的领头人，一定要由“真正带兵的人”担任，最终他选中了张万年。虽然张万年对此毫无准备，但他坚决服从了中央的命令。
张万年上任后，首先出任了香港驻军准备工作领导小组组长，负责组建驻港部队和驻军香港的各项准备工作。1992年12月16日，张万年主持了香港驻军准备工作领导小组第五次会议，他在会上说：
最重要的就是进驻香港的部队在政治上要特别过硬，一定要拒腐蚀，永不沾。当务之急是要把驻港部队领导班子配起来，把几个主要领导干部定下来，给他们压担子，由他们参与筹划部队的组建工作。请总政尽快研究几个主要领导干部的选配意见，春节前提出方案报领导小组审核后呈军委审批。
张万年
1993年1月8日，中央军委正式下达了组建中国人民解放军驻香港部队的命令。此后的几年里，张万年为驻香港部队的人员配备、队伍建设做了大量的工作。
1995年，张万年被增补为中央军委副主席。1997年5月下旬，在香港即将回归之际，中央办公厅发出通知，要求军队系统报送参加中央政府代表团的成员推荐名单，成员的具体名额为：中央军委副主席一人，总参谋部、总政治部、总后勤部、中央军委办公厅及驻香港部队各一人。
时任中央军委副主席的张震后来回忆说：
此前中央已经决定，政治局常委中，只有泽民、李鹏两位同志赴香港出席交接仪式。这样，华清同志也就不便去了，只能我和万年、浩田同志中去一人。当初，我曾考虑是否前往参加这一庄严的仪式。但我又想，党的十五大在即，为了军委工作的连续性，应当由万年或浩田去为好。于是，我建议万年参加中央代表团，出席香港交接仪式，得到了江主席的批准。
张震
张万年在得知张震的意见后，非常不安，马上给军委写信：
如果我和张震副主席其中去一位的话，我建议张震副主席去。请速呈江主席，刘、张、迟副主席指示。
在张万年心里，张震是他非常尊敬的老领导，他更希望能由张震出席香港回归庆典。中央军委在经过研究后，最终还是决定由张万年出席。
1997年7月1日1时30分，在香港会议展览中心新翼七楼，张万年随同中央政府代表团出席了中华人民共和国香港特别行政区成立暨特区政府宣誓就职仪式，这一晚他彻底未眠。当晚江泽民对张万年感叹道：“人民解放军进驻香港，从此100多年来香港没有中国军队驻军的历史，终于宣告结束了！”
江泽民和张万年
1998年9月，张万年应美国国防部长科恩的邀请，率领中国高级军事代表团对美国进行了正式友好访问。张万年在参观佐治亚州美军本宁堡陆军基地时，美军陆军司令沙利将军一见到他就一把将他抱住，并激动地大声说：“哎呀，我今天可把你抓到了！当年在越南战场上，我是个侦察兵，在那里我始终没有抓到你，今天我终于把你抓着了！”
原来这位沙利将军曾参加过越南战争，1968年张万年在越南南方考察溪山战役时，他正在9号公路地区作战。两人30年前是对手，今天却成了朋友，这让张万年感慨不已。
随后沙利请张万年登上美军的战车，进行实弹射击。张万年登上战车后，麻利地操作瞄准器，果断地按下击发按钮，竟然两发两中，他也赢得了美军官兵的阵阵喝彩。
临别之际，沙利紧紧地握着张万年的手说：
中国陆军是了不起的陆军，美国陆军也是了不起的陆军，希望我们两国军人永远不要在战场上兵戎相见！
张万年和美军将领握手
2003年3月，张万年正式从领导岗位上退了下来，从1992年到2003年，他直接参与了国防和军队建设及一系列重大军事行动的决策与实施，为国防和军队建设作出了重要的贡献。
