秦王政二十六年（公元前221年），赢政灭六国，最终完成了统一，建立了秦帝国。赢政取“三皇五帝”之名而成皇帝之号，自称“始皇帝”，极大程度地加强了君主权力。与此同时，以丞相、太尉、御史大夫为首的三公九卿制度也建立了起来，初步奠定了秦汉官僚政治制度的基础。
秦灭亡后，刘邦建立起了汉朝。汉袭秦制，继承了秦代的三公九卿制度。刘邦起事，最终夺得天下，依靠的是和他一起出生入死的一班功臣，所以汉朝刚刚建立的时候，功臣的权力往往很大，很多人也敢于与皇帝面折廷争，丞相一职往往是由开国功臣担任。汉高帝元年 （公元前206年），汉高祖以萧何为丞相，十一年更名相国，“相国、丞相，皆秦官，金印紫绶，掌丞天子助理万机”。
刘邦初设丞相时，尚在与项羽争夺天下，“何守关中，侍太子，治栎阳。为法令约束，立宗庙社稷宫室县邑，辄奏上，可，许以从事；即不及奏上，辄以便宜施行……上以此专属任何关中事”。 这个时候天下未定，皇权尚未完全建立起来，萧何对刘邦的辅佐起到了关键作用，所以丞相此时的权力很大。在这样的情况下，刘邦不时对萧何产生疑心，“数使使劳苦丞相”，查探萧何每日的情况，直到萧何听从别人的建议，“遣子孙昆弟能胜兵者悉诣军所”，以亲族作为人质换来了刘邦的信任。
刘邦获得楚汉相争的胜利后，在全国范围内建立起了汉朝的统治秩序。即位后不久，刘邦就逐渐开始进行中央的君主集权，讨伐异姓诸王，翦灭了韩信、彭越等异姓诸王，逐步将权力从异姓诸王手中转移到刘氏同姓诸王手中。在这个过程中，刘邦经常亲自率军讨伐诸王，而相国萧何则留守关中，为刘邦固守后方并提供后勤支援，“拊循勉力百姓，悉以所有佐军”，即便如此，相国的权力过大对于处在君主集权过程中的刘邦仍然是心中不时的顾虑。
“汉十二年秋，黥布反 ，上自将击之，数使使问相国何为”，表现出对相国萧何的不信任。萧何听从门客的建议，“贱强买民田宅数千万”，“贱贳贷以自污”，“上乃大说”。通过汉高祖与相国萧何的君臣关系可以看出，在西汉建立之初，君主集权的程度还不深，皇帝的权威还没有完全确立起来，臣下的权力仍然很大，以致皇帝在出征时要不时担心留守朝廷的重臣，刺探其情况。
萧何去世后，曹参继为相国，“举事无所变更，一遵萧何约束”，惠帝怪相国不治事，通过曹参之子委婉向其表达不满，曹参回答：“今陛下垂拱，参等守职，遵而勿失，不亦可乎”，敢于当面顶撞皇帝的意见，不改自己的初衷。汉文帝时申屠嘉任丞相，文帝倖臣邓通对丞相有怠慢之礼，申屠嘉当面向文帝抗议说：“陛下爱幸臣，则富贵之，至于朝廷之礼，不可以不肃”，向皇帝申明丞相的权威。汉武帝时田蚡任丞相，“荐人或起家至二千石，权移主上”，非常跋扈专权，以致武帝对他说：“君除吏已尽未？吾亦欲除吏”。 可以看出，西汉建立之后的很长一段时间内，丞相的权力不时和皇权发生矛盾，朝廷中枢权力经常处于臣下和皇帝的争夺之中，也体现出了帝国建立初期，皇权集中的程度不深，官僚政治制度的不成熟。
与丞相同列于三公的还有太尉这一官职，“太尉，秦官，金印紫绶，掌武事”。汉高祖最初以卢绾为太尉，“高帝五年，太尉卢绾”， 但卢绾很快迁为燕王，太尉这一官职空缺。直到高帝十一年 （公元前196年），刘邦又以绛侯周勃为太尉，“后官省”。这说明，在西汉建立之初，太尉这一官职并不总是有人出任，而是经常会出现空缺的情况。在王朝刚刚建立的过程中，皇帝往往亲自四处征战，经常是由皇帝自己掌武事，所以太尉这一官职也就经常空缺而无人出任，呈现一种断断续续的状态。
“惠帝六年，置太尉官，以勃为太尉”。诸吕之乱时，太尉周勃与丞相陈平合力，诛诸吕而迎立代王为汉文帝。可以看出，此时太尉的权力非常大，可以直接发动政变，废立君主。这样难免对后来继任的皇帝构成威胁，所以文帝即位后，“孝文三年，罢太尉官，属丞相”。太尉这一官职因为掌握军权，会对皇帝构成威胁，而且其位高权重，一直为皇帝所顾虑。所以在文帝之后，太尉一官经历了数次设立与撤销，“孝景三年，置太尉官。七年，罢太尉官。孝武建元元年，置太尉。二年，罢太尉官”。在这一过程中，太尉这一官职的设立往往是同国家的军事需要联系在一起，国家发生战事，需要有人指挥军队作战，皇帝往往才会重新设立太尉。“孝景三年，吴楚反。亚夫以中尉为太尉”，周亚夫被任命为太尉平叛吴楚七国之乱，就是很明显的例子。
西汉初年，同作为三公的太尉与丞相，二者之间的地位和权势并没有明显的差别，基本上是同等尊贵。武帝初即位时，“建元元年，丞相绾病免，上议置丞相、太尉”，武安侯田蚡的谋士籍福就曾劝说田蚡：“魏其为丞相，将军必为太尉。太尉、丞相尊等耳，又有让贤名”。《通典》 卷二十 《职官二》 中的太尉条下也记载“汉文三年省，景帝三年复置，其尊与丞相等”。由此可以看出，一直到武帝初年时，太尉仍然是与丞相地位相等的官职。
汉武帝即位后，要改无为而有为，采纳了董仲舒的“推明孔氏，抑黜百家”的建议，推行儒家的“天人感应”学说，进行了泰山封禅、改正朔、易服色等一系列活动，将皇权加以神化，大大加快了君主中央集权的过程。与此同时，针对政治体制中丞相的权力过大这一问题，武帝也采取了相应的一系列措施。元朔五年 （公元前124年），武帝改变以功臣子孙列侯任丞相的传统，任命平民出身的公孙弘为丞相，封平津侯。弘本无爵，所得丞相与爵位皆武帝所赐，所以对武帝唯唯诺诺，“每朝会议，开陈其端，令人主自择，不肯面折庭争”，在公孙弘后相继的六任丞相，获罪自杀的两人，下狱处死的三人，皇权得以大大加强，而丞相的权力则被大大削弱。
在任用平民为相的同时，武帝还于“元狩四年初置大司马，以冠将军之号”，将太尉改为了大司马大将军，提升太尉的权力地位以压制丞相的权力。在实行这些措施之外，武帝还建立了内朝，以与丞相为首的外朝相抗衡。武帝晚年以外戚霍光为大司马大将军，领尚书事，属意霍光辅佐幼子即位，是为汉昭帝，而霍光“行周公之事”，“帝年八岁，政事一决于光”， 大司马大将军的权势得到极大加强，而丞相的权力则被继续削弱。
汉昭帝去世后，因无子嗣，奉皇太后诏命，群臣迎立昌邑王为帝。但昌邑王即位后品行昏乱，不合霍光之意，因此霍光与亲信大司农田延年谋废昌邑王，做出决定后，“召丞相、御史、将军、列侯、中二千石、大夫、博士会议未央宫”，此时大司马大将军已体现出了在朝廷中召唤百官、决议政事的主导地位，而在表面上，虽然丞相仍然是与大司马大将军同列三公之位，地位似乎相等，甚至在废昌邑王的奏表中，群臣联名的次序为“丞相臣敞、大司马大将军臣光……”，丞相的位次排在了大司马大将军之前，显示丞相仍然是名义上的群臣之首。但是此时真正掌握实权的已经是大司马大将军，“万姓之命在于将军，唯大将军令”。
大司马大将军权势地位的迅速提升，也导致了皇权一定程度上的削弱。西汉末年，王凤、王商、王音、王根乃至王莽相继出任大司马大将军，辅佐朝政，直至王莽篡汉，这一制度的影响一直延续到东汉末年。
总体来说，西汉王朝建立初期，臣权尚可以体现出其强的一面。随着国家政治秩序的稳定与逐渐成熟，皇权进一步集中，臣权不断受到削弱。而到武帝时形成了君主的高度集权，之后所形成的大司马大将军辅政制度，也是借助依托于皇权才显示出其权力的强大。西汉的中央政权发展进程仍然清晰地体现出了逐步中央集权的趋势。
