1991年12月21日，苏联11个加盟共和国在阿拉木图签署了独立国家联合体（简称“独联体”）协议议定书，正式宣告了苏联的解体。军队是苏联这个国家解体后唯一保全下来的泛苏设施。它有着一个单一的指挥系统。它的350万军人仍然在所有的共和国包括波罗的海共和国服役。它的核武器保持在统一的军事控制之下。就在1991年12月在明斯克举行的一次会议上签署的《关于武装力量和边防部队的协定》中规定，“独联体国家有权组建自己的军队。
1992年1月17日，5000名军官集会莫斯科，强烈要求保持军队统一，叶利钦和沙波什尼科夫亲自到会打气。在这前后，沙波什尼科夫遍访独联体国家首都，企图说服它们同意建立防御联盟，以保持军队统一。但乌克兰、摩尔多瓦和阿塞拜疆组建本国军队的决心已定，白俄罗斯和乌兹别克斯坦也将步其后尘。3月16日，曾一再声称最后一个建军的俄罗斯成立国防部，拟在两年内组建成150万现代化军队。
3月20日，独联体国家元首会议在基辅召开时，沙波什尼科夫正式放弃了保持统一军队的主张，说这种思想“已经过时”。
而按照先前达成的协议，这支武装力量包括战略力量和常规力量两部分，由联合武装力量总司令部统一指挥，总司令由沙波什尼科夫空军元帅担任，总参谋长由萨姆索诺夫上将担任。但独联体各国对什么叫战略力量的看法却大相径庭。俄罗斯认为，战略力量包括原苏军的战略火箭军、防空军、空军、海军、空降兵、航天部队、核技术部队、战略战役侦察部队和战略力量的作战支援部队，而乌克兰等国家却认为除了战略火箭军和携带核武器的潜艇、飞机外，包括海军在内的所有部队都不是战略力量，都应隶属于所驻在的国家。1992年5月26日，独联体各国的国防部长们聚集在莫斯科，在经过一番激烈的争吵之后，将军们达成了一项关于独联体战略力量构成的协定，即战略力量只包括战略火箭军、空军的战略轰炸机、海军的战略核潜艇和航天部队。
但这次会议仅仅解决了战略力量、常规力量的概念区分，却没有也不可能解决隐藏在概念之争背后的关键问题——作为原苏军遗产的主要部分，独联体常规力量由谁来指挥？
在独联体国家元首理事会会议上，只有俄罗斯、哈萨克斯坦、吉尔吉斯斯坦、塔吉克斯坦和亚美尼亚同意由联合武装力量总司令部统一指挥常规力量，乌克兰等几个国家表示坚决反对。同时，许多国家还提出，联合武装力量总司令应是跨国性人物，不应从属于任何一国，各国家间要保持平等的伙伴关系，应充分尊重各国主权。更有甚者，乌克兰、白俄罗斯等国还纷纷建立起自己的国家军队，接管境内除战略力量之外的所有原苏军部队。
如何分配这笔庞大的军事遗产？独联体各国政府和有关军事专家从不同的角度提出了自己的方案：
一种方案是由俄罗斯提出来的。它根据各国领土面积、居民人口及国境线的长度，提出按以下比例分配：阿塞拜疆4.3%，亚美尼亚2.8%，白俄罗斯6.6%，格鲁吉亚3.8%，哈萨克斯坦4.3%，摩尔多瓦2.3%，俄罗斯54.1%，乌克兰21.8%。按照这种分配方案，俄罗斯将分配到原苏军所属的7114辆坦克、10820辆装甲车和7128门火炮。由于这样一来，乌克兰、白俄罗斯等国在独联体各国的常规军力上并不占多大优势（俄罗斯除外），他们显然不同意这个方案，并相应提出了按“就地归属”的原则分配常规武装。而按照新方案，乌克兰可以得到4800辆坦克、5000辆装甲车、5000门火炮和1100架飞机、500架直升机。这在世界军事强国的行列里也不是最弱的角色。
当俄罗斯和各国政府正就如何分割这块“大蛋糕”争吵不休的时候，一些国家已借着组建本国军队的机会，擅自按照“就地归属”原则开始瓜分苏联军队了。俄罗斯不同意这种分配方法，但除了在一些具体问题上取得进展，拒绝了有关国家接管原苏军部队的要求，将该部队撤回俄罗斯境内之外，总的说来仍依从了乌克兰等国提出的陆上常规部队分配方案。
1992年1月5日，叶利钦总统颁布命令，要求驻俄罗斯的官兵宣誓忠于俄罗斯联邦。3月16日，他签署了成立俄罗斯国防部的命令，并亲自担任国防部长，同时决定在今后两年内建立120万至150万俄罗斯军队。4月7日，叶利钦在第6次俄罗斯人代会正式宣布，俄罗斯境内的全部军队和军事设施以及派驻德国、波兰、蒙古、波罗的海地区和外高加索以及各共和国的军队均归俄罗斯统辖。
在苏联各加盟共和国中，乌克兰人口众多、经济发达。在它的境内有原苏军的基辅、敖德萨、喀尔巴阡等大军区和黑海舰队。其中有陆军20个师；空军战术飞机600余架、轰炸机200余架；防空军飞机200余架。1991年8月和9月，乌克兰组建国防部，任命莫罗佐夫为国防部长后。1992年1月3日，乌克兰军队正式建立。国防部长莫罗佐夫原为苏联空军第17集团军司令，对原苏军内部的体制和人事都相当熟悉，很快便接管了境内的3个陆军军区、3个空军集团军和1个防空集团军，只是在黑海舰队的接管上与俄罗斯发生争执，一时陷入僵局。乌政府接管驻乌军队后，随即采取了一系列的整编措施，竭力消除遗留下来的苏军旧痕迹。首先，要求全体编入乌军的原苏军官兵宣誓忠于乌克兰，否则，将被解职或退役。其次，取消军区一级建制，只保留战役集群；压缩军队规模，只编入原驻乌军队人数的1/2或1/3，兵力总员额大约为22万人。其三，宣布乌克兰军队为无核军队，只建立陆军、海军和空军三大军种。陆军组建7-8个合成师，6-7个摩步旅或坦克旅，6-7个炮兵旅，2-3个航空兵旅及其他后勤保障部队。空军最高领导机关为指挥部，下设西部、南部和中央3个航空兵集群，每个集群下辖若干个航空兵团。指挥部也管辖防空兵部队。海军则由若干舰艇支队组成，同时管辖海军航空兵和岸防部队。
同乌克兰一样，白俄罗斯也是苏联各加盟共和国中实力比较雄厚的一员。境内驻有陆军10个师，空军战术飞机360架、中程轰炸机160架，防空军战斗机110架。白俄罗斯早在1991年9月就建立了自己的国防机构，1992年1月将该机构正式改组为国防部，着手接管境内的全部原苏军遗产。但它的行政长官任命得比较晚，直到3个月之后，才宣布由原苏军中将科兹洛夫斯基出任该职。
白俄罗斯议会已于1月11日把部署在该国境内除战略力量以外的一切武装部队转归白俄罗斯部长会议统辖，并通过了忠于白俄罗斯的军人誓词，要求在1991年11月起入伍的军人宣誓忠于白俄罗斯，所有在境外服役的白俄罗斯籍官兵均应召回国服役。
5月，白俄罗斯领导人决定取消原苏军白俄罗斯军区，将隶属于该军区的所有部队（属于独联体的战略力量除外）都统统归属白俄罗斯国防部指挥，而该军区司令科坚科上将也被任命为国防部的第一副部长，协助部长组建新军。根据该国军费不超过国家财政支出10%，兵员总额不超过国民总数1%的规定，和平时期白俄罗斯军队的总兵力约为9-10万人，分为陆军、国土防空军、空军和若干其他兵种。
阿塞拜疆虽然在1991年9月就成立了国防部，两个月之后又宣布要接管境内原苏军所有财产。但该国独立后，国内政局一直动荡不安，战乱频频发生，连总统和国防部长都走马灯似的换了好几茬，所以该国在苏联南高加索军区第4近卫集团军和里海区舰队的基础上组建陆、海、空军种齐全的阿塞拜疆武装力量的要求遭到拒绝。驻于其境内的陆军5个师、空军战术飞机100架、防空军战斗机30架基本撤回俄境。该国只好重头做起，组建自己的军队，只是建军速度相当缓慢。
摩尔多瓦独立后，很快就建立了共和国卫队和军事问题局。1992年2月，军事问题局被改组为国防部，由原内务部长科斯塔什出任首任国防部长。由于原苏军第14近卫集团军驻扎在摩尔多瓦的季腊斯波利，科斯塔什决定在该集团军的基础上组建国家军队。但独联体联合武装力量司令部和该集团军的广大官兵都不同意。在第14近卫集团军做出撤离该国的决定后，摩尔多瓦国防部决定组建一支以陆军为主体的军队。该军队包括4个作战集群，每个集群由1个摩步旅和1个直升机大队组成。
亚美尼亚境内原驻有3个陆军师，这些部队后来都被撤回到俄境内。该国1991年11月成立国防部后，根据国土面积有限的特点，组建了诸如空降突击旅这样一些快速机动部队，每个旅人数都保持在1500至2500人左右。
哈萨克斯坦宣布独立后，一度同意独联体保持统一的武装力量。但随着独联体各国纷纷建立自己的军队，哈萨克斯坦也将原国防委员会改组为国防部，任命努尔甘别托夫上将为国防部长，原苏军驻阿拉木图的第40集团军司令里亚布采夫中将为国防部第一副部长，在第40集团军的基础上组建一支总人数为17万人的本国军队，军种则包括陆军、空军、防空军和海军等。原驻于哈萨克斯坦境内的陆军4个师、空军战术飞机240架、战略轰炸机40架，防空军战斗机30架，除战略轰炸机外，大都被该国接收。
土库曼斯坦的国防事务部成立于1992年1月，由科贝科夫中将任首任部长。但直到3个月之后，该国根据与独联体武装力量总司令部之间的协议，正式接管驻阿什巴哈德的原苏军第52集团军，才算有了自己的军队。6月，俄罗斯与土库曼斯坦成立联合部队，由两国共同指挥，以保卫土库曼与俄罗斯的安全。但不久土库曼斯坦也将国防事务部改组成国防部，着手组建本国军队。根据该国的财力基础和国防需要，土库曼斯坦军队为两个师的编制，约2.8万人。而原苏军驻土的陆军5个师的装备，空军战术飞机90架、防空军战斗机70架，基本上都成为新军队的基础装备。
乌兹别克斯坦国防事务部成立于1991年9月，部长兼国民卫队司令为艾哈迈多夫上校(后晋升少将)。第二年7月，国防事务部改组为国防部，部长仍为艾哈迈多夫。11月，乌兹别克斯坦总统决定接管驻撒马尔干的原苏军第15防空师，并陆续组建起包括陆军、空军、防空军和国民卫队等几种力量在内的本国军队。原苏军驻于乌境内的陆军2个师的装备和空军260架战术飞机、防空军30架战斗机都归属于新建的本国军队使用。
塔吉克斯坦独立后，受国内政局动荡的影响，军队建设十分缓慢。直到1993年1月才正式成立国防部，任命希什利尼科夫上校为部长。鉴于原驻其境内的原苏军第201摩步师及1个防空火箭旅、1个雷达旅都被俄罗斯接管，塔吉克斯坦只能新建立一支规模不大、机动能力强的本国军队。
吉尔吉斯斯坦独立后，一开始只建立了一支拥有数百人的国民卫队。1992年2月，该国成立国防事务委员会，由乌马塔利耶夫少将出任首任主席。5月吉尔吉斯斯坦政府接管了驻比什凯克的原苏军第8近卫摩步师。在此基础上，该国国防部组建了一支人数不超过1万人，以陆军为主、航空兵为辅的军队，同时仿效瑞士建立大量的预备役部队。
苏联解体前，海军已辖有北方、太平洋、黑海、波罗的海4个大舰队及里海分区舰队，地中海、印度洋和南海3支分区舰队，装备有59艘战略核潜艇、163艘攻击潜艇、151艘大型水面舰只（其中有5艘航空母舰），1638架飞机及561架直升机。
根据独联体各国海岸线及海疆归属情况，前苏联海军的40余个基地和港口分布在俄罗斯、乌克兰、阿塞拜疆、格鲁吉亚等8个国家境内。其中，北方舰队和太平洋舰队位于俄罗斯境内，当然归其所有。在苏联4大舰队中名列末位的波罗的海舰队虽然舰艇少，实力弱，却因位于苏联西部，是与西欧各国联系的重要门户。而波罗的海沿岸国家爱沙尼亚、拉脱维亚及立陶宛宣布独立后，虽然没有提出瓜分舰队的要求，但客观上已使原属波罗的海舰队的10个主要基地减少到6个，其中包括港口设施齐全，水域宽阔，适宜停泊大型军舰的长年不冻港塔林；一直是优良的潜艇基地及训练中心的利那帕亚。鉴于多年苦心经营的基地设施损失较多，俄罗斯只好把该舰队重新安置在加里宁格勒州。曾游弋于地中海和印度洋的第5战役分舰队和第8战役分舰队则随之解散。
至于里海舰队，根本就没有什么像样的大型舰艇，俄罗斯对其装备得失并不太在意。位于里海沿岸的阿塞拜疆、土库曼斯坦、哈萨克斯坦都分得了一些舰艇，随后俄罗斯海军将该舰队司令部由巴库迁往阿斯特拉罕重建。
分割海军遗产最严重的分歧表现在黑海舰队身上。黑海舰队的实力在苏联海军四大舰队中名列第三，拥有塞瓦斯托波尔、巴拉克拉瓦、波蒂和敖德萨4个主要海军基地及遍布黑海北岸的中小军港。
到1991年12月苏联解体时，黑海舰队共有舰艇833艘，其中有“库兹涅佐夫苏联海军元帅”号航空母舰1艘、直升飞机航空母舰2艘，其他大型作战舰艇42艘，潜艇28艘，还有飞机150余架、舰载直升机85架及大量的岸防和空防装备，总兵力约8万人。俄罗斯军方认为，黑海舰队的主要作战舰艇和作战飞机都具有携带战术核武器的能力，因此它应属于战略力量，应当归于独联体联合武装力量总司令部的统一指挥之下。而更深一层的原因还在于黑海舰队所处的优越地理位置。因为黑海是暖海，一年四季都可以通航。相比之下，北方舰队及波罗的海舰队驻泊港口一年中有9个月的冰冻期，只有3个月的时间可以从北边进入大西洋。对这样一个战略地位重要的海域，俄罗斯当然不会轻言放弃。
1992年1月3日乌克兰总统克拉夫丘克突然宣布接管黑海舰队，令俄罗斯政府大吃一惊。1月8日，俄罗斯总统叶利钦出面表示，黑海舰队是独联体的战略力量。它不仅在历史上始终是俄罗斯的，现在和将来也都属于俄罗斯。担任独联体联合武装力量总司令的沙波什尼科夫空军元帅也指责说，乌克兰在分配苏联武装力量的问题上表现得过于匆忙。跟着，那些原苏联海军的将领们都纷纷站出来指责乌克兰的这一做法。
11日，俄、乌两国代表团就黑海舰队的问题达成一项协议。乌克兰同意把黑海舰队的大部分作为战略力量由独联体联合武装力量总司令部领导和指挥。俄罗斯也同意将黑海舰队的一部分交给乌克兰。至于这个“一部分”是多少，两国领导人的理解大相径庭。乌克兰认为这是指黑海舰队的70%，俄罗斯则表示反对，说顶多只能给30%。鉴于当时独联体各国纷纷接管境内原苏军部队和装备，造成俄罗斯不得不承认的既成事实，俄罗斯海军悄悄地将原属黑海舰队的“库兹涅佐夫苏联海军元帅”号航空母舰、另一艘基辅级直升机航空母舰及一些大型舰艇调离黑海，编入其他舰队序列；同时命令黑海舰队悬挂原苏联海军军旗，以表示独联体武装力量总司令部仍对其有绝对的指挥和控制权力。
4月6日，大概是对两国长时间激烈的讨价还价不耐烦了，克拉夫丘克宣布接管舰队，第二天又任命科任为乌克兰海军司令，在所接管的黑海舰队的基础上组建乌克兰海军，用于执行该国沿海防卫任务。作为对乌克兰强硬态度的反应，俄罗斯也急忙于当天宣布接管黑海舰队。两天后，形势峰回路转，俄、乌两国总统决定组织一个专门委员会来解决这个问题，紧张的矛盾至此得到缓解。
8月3日，俄、乌两国总统在雅尔塔这个曾经召开过第二次世界大战中最重要会议的地方签订协议。不过这次协议的内容与战争无关，而是决定黑海舰队脱离独联体武装力量总司令部的指挥，由俄、乌两国共同指挥，舰队基地也由两国共同使用。1993年1月15日，由叶利钦和克拉夫丘克共同任命的黑海舰队司令巴尔京海军中将上任，管辖当时拥有常规潜艇3艘、巡洋舰3艘、驱逐舰2艘、护卫舰20艘，其他各类型水面舰艇约250艘，各种作战飞机160架的俄、乌黑海舰队。两国关于黑海舰队的激烈争夺就此告一段落。
两国划分黑海舰队的最后方案直到1997年5月29日才终于敲定。按照这个方案，黑海舰队常规武力的30%归乌克兰所有，其余的常规力量及战略力量归俄罗斯所有。俄罗斯黑海舰队可以使用塞瓦斯托波尔、费奥多西亚等港口为基地，俄租用塞瓦斯托波尔基地20年。
作为20世纪70—80年代世界上的两个超级核大国之一，苏联在90年代初拥有核武器发射系统2277件。这里面包括立足于陆上的洲际弹道导弹发射系统1388件，能从潜艇发射的弹道导弹912件，能够发射弹道导弹的远程战略轰炸机177架。如此庞大的核力量，其威力足以将地球毁灭数十次之多。然而，随着苏联的解体，它们会控制在谁的手里，也就成为全世界都十分关心的问题。
在苏联解体时，这些核武器发射系统分布在俄罗斯、乌克兰、哈萨克斯坦和白俄罗斯四国境内。除了俄罗斯，在乌克兰部署有SS—19型和SS—24型陆基弹道导弹176枚，在乌克兰的普里卢基空军基地部署有图—160战略轰炸机19架、图—95MC轰炸机25架；在哈萨克斯坦部署SS-18陆基弹道导弹106枚；在哈萨克斯坦的斜米帕拉丁斯克空军基地部署图—95MC轰炸机40架；在白俄罗斯则部署有SS-25陆基弹道导弹81枚。
一开始，各国领导人为了保持核威慑能力，都打算保留部署在本国的战略核力量，只是在如何使用它们的问题上有争论。1991年12月分别在明斯克和阿拉木图召开的独联体各国领导人会议，决定核按纽由俄罗斯总统叶利钦控制，但只有在乌克兰、哈萨克斯坦和白俄罗斯总统一致同意的情况下方可启用。但随后几个月里，独联体各国的国防部长始终没有达成战略核力量指挥权限的具体协议。四个国家形成了三种意见：乌克兰坚持要对境内的战略核力量有行政指挥权，哈萨克斯坦主张战略核力量仍由独联体联合武装力量总司令部管辖，俄罗斯和白俄罗斯则同意将战略核力量交给俄罗斯管辖。
美国和西欧各国对威力惊人的战略核武器可能分散在四个独联体国家内十分不安。他们对乌克兰、哈萨克斯坦、白俄罗斯各国政府施加了巨大的政治和经济压力，使各国领导人不得不改变初衷，于1992年5月在里斯本与美国、俄罗斯共同签署议定书。根据这一议定书，俄罗斯依然奉行1991年7月美、苏两国签定的《削减战略武器条约》，而乌克兰、哈萨克斯坦和白俄罗斯则将境内所有的核武器销毁。乌克兰、哈萨克斯坦和白俄罗斯在致美国总统的信中再次保证了这一点。这样，俄罗斯就成为独联体内惟一的核国家。
哈萨克斯坦议会很快便在1992年夏天批准了“里斯本议定书”，第二年又批准加入不扩散核武器条约。1995年，哈萨克斯坦将106枚陆基弹道导弹移交给俄罗斯，随后开始拆除导弹发射井。而俄罗斯因为国内远程航空兵的战略轰炸机多有老旧报废者，不等与哈萨克斯坦打招呼，就于1994年让第79远程航空兵师的40架图-95MC轰炸机飞回国内使用。白俄罗斯议会批准该议定书是在1993年2月。当年年底，驻波斯塔威的火箭师撤回俄罗斯国内，两年后驻莫孜里的火箭师也撤回俄罗斯国内，它们装备的SS-25型导弹随之被拆除交给俄罗斯。
相比较而言，乌克兰销毁核武器的过程却是一波三折。1993年，俄、美两国签署第二阶段削减战略武器条约之后，乌克兰政府提出，位于其境内的战略核武器是乌克兰的财产，只有当所有有核国家都承诺不对乌克兰使用核武器，并且在有效利用拆除的核武器方面对其提供帮助，乌克兰才能将核武器转移和销毁。接下来，乌克兰政府采取了一些新的措施，提出一些新的建议，以表示他们的认真态度：
1993年1月，乌克兰决定控制驻文尼察的原苏联第43战略火箭集团军。
1993年3月，乌克兰提出他们可以将核弹头交出，但要保留176枚导弹，相关导弹发射井也要保留，还提出乌克兰要以有核国家的身份加入“核不扩散条约”。
1993年6月，乌克兰总理提出，乌应宣布自己是一个有核国家，并且要暂时保留部署在境内的部分核武器。
1993年11月，乌克兰议会决定只销毁境内42%的核武器和36%的发射井，并以此为附加条件，批准削减战略核武器议定书。
美国和俄罗斯千方百计要将乌克兰重新拉回到“里斯本议定书”的立场上来。为此，美、俄两国政府对乌克兰的安全做出了保证。美国还决定出资收购所拆除的核弹头中的浓缩铀供发电使用，提供1.75亿美元的核武器拆除补偿经费，再提供1.55亿美元的经济援助。俄罗斯也同意将向美国出售的浓缩铀收入按比例分给乌克兰。这样，俄、乌、美三国于1994年1月在莫斯科签署了销毁乌克兰境内核武器的协议。按协议规定，乌克兰要在7年内将境内全部核武器运往俄罗斯销毁。后来由于俄罗斯答应为乌克兰已销毁的战术核武器提供补偿，乌克兰又将原定的7年之期改为3年。至1996年6月，其境内的全部核武器都被运至俄罗斯，在专家的监督下销毁。至于那44架能为空基弹道导弹提供发射平台的图-160和图-95MC型轰炸机，俄罗斯则打算买回去供自己军队使用。但乌克兰对这些飞机的开价颇为可观，令经济上本来就捉襟见肘的俄罗斯军方大吃一惊，双方谈判没有结果。根据第一阶段削减战略武器条约的规定，这些飞机最迟在2001年底都要销毁，那时候它们就只是一堆废金属，不复有任何利用价值。所以，乌克兰政府一方面于1998年11月开始销毁第一架飞机，另一方面则提出要用轰炸机抵偿乌克兰所欠俄罗斯的石油款项，总之是尽可能开发这些吃不能吃、穿不能穿的金属庞然大物的价值。
