1982年9月，党的“十二大”成立了中央顾问委员会。“十二大”的党章对中顾委的作用、任务和条件进行了明确规定：“党的中央顾问委员会是中央委员会的政治上的助手和参谋。”
9月13日当天，中顾委举行了第一次全会，在此次全会上，邓小平当选为中顾委主任，薄一波当选为常务副主任。邓小平在会上发表讲话说：
原则规定都有了，现在的问题是怎样具体实施。要理出几条，其中也包括我们工作机构的设置。我建议不要建立什么大机构，要简化，几个人就够了。顾问委员会的日常工作，请薄一波同志主持，我想减轻一些负担。
邓小平
此时薄一波说：“有你压阵就行，具体的事情我们干。”
设立中央顾问委员会是邓小平政治体制改革蓝图中的重要一步，目的是实现领导干部的职务由终身制向退休制过渡。中顾委成立后，共选出委员172人，他们都是党、政、军中的功勋和精英，资格老，“牌子”硬，本想为新时期的建设事业大展身手，却由一线退到了二线。要想把这批老同志团结好，完成中央交给他们的历史使命，薄一波身上的担子并不轻。
薄一波刚上任，就向邓小平请示工作，邓小平对他说：“中顾委的日常工作我不管，由你全权负责。”
薄一波说：“比较重要的事情，我们给你写报告。”
邓小平却说：“报告来我也不看。”
邓小平在担任中顾委主任的5年里，只是在中顾委两次全会上讲过两次话，平时根本不在中顾委露面，对日常工作更是从不说话。就这样，薄一波成为了中顾委日常事务的实际领导人。
薄一波
薄一波上任之初，就遇到了一件麻烦事。由于此前党内长期奉行干部等级制度的缘故，所以在党内生活中滋生了一种趋炎附势、人前人后的陋习，许多人在对待老同志的态度上，屡屡出现“人走茶凉”的问题。一些老同志退下来后，对这类问题很敏感，经常会有抱怨。
1983年6月，全国人大常委会副委员长廖承志病逝，一些中顾委常委没有接到通知，最终未能前往参加遗体告别仪式，这引起了他们的强烈不满，他们不仅打电话到中顾委办公室提出质问，几位常委的家属还找到薄一波，当面要求“给个说法”。
薄一波认为此事非同小可，马上给胡耀邦写了一封信，信里不仅反映了老同志的情绪，还希望中央能就老同志阅读文件的范围、参加会议的规格、是否可以见报给出一个明确的规定。
胡耀邦收到信后，马上作出批示：
廖公追悼会对中顾委常委安排不当，责任全在我们。我没有注意把关，也是一次失职。中顾委常委的政治、物质待遇完全按政治局委员同等，这是中央定的，谁也无权独自变更。特别是党和国家的红白喜事，更要安排这些老同志像政治局委员一样地出面。以后谁违反，就追究谁的责任。我们一些部门按老规章、老框框办事的积习太深了，人们说这是“势利眼”，我看要警惕。
胡耀邦
不久以后，中顾委召开常委扩大会议，薄一波在会上传达了胡耀邦的批示，并重申了中央的有关规定，他还劝老同志应该胸襟开阔些，不要过于计较。在薄一波的努力下，老同志的怨气终于被化解了。
中顾委的许多老同志退下来以后，仍然热情不减，他们尝试以种种方式“发挥余热”，想继续多做些工作。但有的老同志对如何发挥自己的作用还把握得不是很准确，有的人还在原单位保留办公室，经常“光顾”机关，干预党委工作，习惯于发号施令，和第一线的领导同志产生了不少矛盾，有些领导同志对此无可奈何，只好把情况反映到了中央。
中央对这个问题非常重视，专门书面通知中顾委要加强对老同志的约束，1984年，胡耀邦还在一次会议上着急地说：“不要老是讲‘发挥余热’了，有人发挥得让别人都受不了了！”
薄一波对中央的意见非常重视，他专门在中顾委内部的一次会议上对老同志说：“我们老同志要做的，只是力所能及的工作，量力而行，尽力而为。提意见是可以的，但是最好不要提干部问题。其他意见可以提，但要注意场合。可以写信给耀邦、小平同志，但不要在省里、市里强加于人，给人施加压力。中央有禁令，不要乱说乱道，特别不要在背后乱说，否则就是和中央不一致，不利于党的团结。”
邓小平和薄一波
薄一波讲完这番话后，中顾委再也不提“发挥余热”的口号，老同志干预一线领导同志工作的情况也减少了很多。
1985年9月，中央决定增选国务院副总理王震为中顾委副主任，薄一波得知这一消息后，在中顾委重新拟定的副主任名单里，把王震排在了第一位。王震对此坚决不同意，他说：“薄老是个老资格，党的八大时的政治局候补委员，常常列席政治局常委会。他文韬武略、出类拔萃，要不然能在阎锡山那里开出一片新天地？他是党、政、军、群、财、文等项工作样样行，我哪能排他前面？”
薄一波听到王震的话后，笑着对他说：“我是常务副主任，有这个权力坚持这个提议，你得听我的。”
王震
最后中顾委在公布副主任的排名时，王震仍然是第一位，此事充分说明了薄一波高风亮节的政治品格。
1987年，陈云在党的“十三大”上当选为中顾委主任，薄一波仍任常务副主任，陈云在担任中顾委主任的5年里，只是在1989年主持召开过一次中顾委常务会议，中顾委的日常工作仍由薄一波主持。
1992年，在党的“十四大”前夕，邓小平和陈云认为中顾委的历史使命已经完成，可以在“十四大”上撤销这一机构了，薄一波对此坚决拥护，但有相当一部分的老同志仍要求要保留中顾委，在“十四大”召开的前几天，中顾委内部围绕应该撤销还是保留中顾委的争论仍然十分激烈，意见无法统一。
在这个关键时刻，薄一波当机立断，他马上组织中顾委成员召开大会，并在会上说：“关于十四大以后不再设中顾委，小平同志考虑这件事不是现在，而是在两年前。直到十四大前，小平同志又严肃地讲，中顾委必须撤销！陈云同志也托陈丕显同志带话给我和宋任穷同志，面对这个严肃的问题，我和任穷同志只有执行，不可能有别的想法。”
晚年的薄一波
薄一波继续说：“为了把这个问题解决得好一些，体面一些，我们还是主动提出撤销中顾委为好。”他讲到这里时，会场内响起了掌声。薄一波接着说：“听到大家的掌声，表示大学同意，这件事就这么定了！”会场内再次响起掌声，难题就此化解了。
在党的“十四大”上，中顾委如期撤销，完成了它的历史使命。党中央对中顾委10年的工作作了高度评价，认为它协助中央“做了大量卓有成效的工作，在新的历史时期为党、国家和人民建立了历史性功绩”。这同样是对主持10年中顾委日常工作的薄一波的一个中肯的评价！
