1894年7月，日本经过长期的精心准备，发动了侵朝侵华战争。清政府对战争缺乏准备，但在战争中还是动用了大量军队。参战的中国军队主力是李鸿章一手指挥的淮系，战争后期刘坤一又率6万湘军开赴辽东作战。结果中国一败涂地，割地赔款，蒙受了巨大的耻辱。
中国军队失败的重要原因之一是军制的落后。湘淮勇营制度是曾国藩为镇压太平天国而创办的一种军制，这种军制既吸取了明代戚继光的练兵方法，又加上了曾国藩因时制宜的创造。湘军无论水师陆军，皆以营为单位，每营除一亲兵营（营官自带）外，设前后左右4哨，每哨设8队，以队为基本单位。每哨8队中，二、四、六、八队使用刀矛，一、五队使用抬枪，三、七队使用小枪，热冷兵器并用，长短兵器配合。全营官兵505人。营之上设统领，辖营数个到几十个不等。统领直接听命于大帅，全军服从曾国藩一人。湘军的营制，以节制之师代替了绿营平时分散成守、战时零星征调之法，避免了绿营弊端，从而具有一定的战斗力。
湘淮勇营兵制在镇压太平天国等人民起义中发挥了作用，挽救了清政府覆灭的危机。但到甲午战前，湘淮军日益腐朽没落，军队纪律松弛，缺乏训练，弊端丛生，“兵则半属空名，操则虚应故事”；将则养尊处优，骄奢成性，后继乏人。正如时人所说：“淮军万不可用也，宿将久经凋谢，继起者非亲戚，即其子弟，均未经战阵之人。皆以贿成，扣饷早怀积怨，况功名已成，习气已成，骄奢居人先，战斗居人后。”这样的军队怎么能在战争中获胜?
西方主要国家早在19世纪初就形成了多兵种的合成军制，而湘淮军后来虽然增加了炮兵，从而具有了步、骑、炮3个兵种，但在编制上仍是单一军制。西方军制建制齐全（军、师、旅、团、营等），以一个兵团为战略单位，而湘淮军以营为单位，营之上设统领，无建制单位；虽设长夫，但无后勤保障，这就不能适应近代战争的需要。近代战争要求信息传达敏捷、部队调动迅速、作战区域广泛、各兵种协同作战、后勤保障系统完备，以营为单位的湘准军制当然瞠乎其后了。袁世凯对这种兵制的弊端有深刻的认识：
窃查此次军兴，往往易为敌乘、送见挫败者，虽由调度之无方，实亦军制之未善，若不权时度势，扫除更张，参用西法，认真训练，则前车之鉴，殊足寒心。诚如宪台原奏，不得不为易之图，作补牢之计也。按泰西操法，每营分为四队，每队分为三大排，每大排分为两小排，均有弁目，层层节制，又节节策应，故战每制胜，即败亦不溃。向来湘淮营制，以五哨为一营，若照西人操法，分为四队，递分大小排，官弁头目，各失其伍，平时仅可饰观，临阵最易溃乱，似必须参用泰西军制，始可照西法操练。
战争的失败给中国人以极大的刺激，唤起了中华民族的觉醒。正如梁启超所说：“唤起吾国四千年之大梦，实自甲午一役始也”战后中国社会各个阶级、阶层提出了众多的挽救民族危机的方案，其中练兵自强是共同点，无论是维新派、洋务派，抑或是清廷，练兵自强，创建一支新式军队的呼声一浪高过一浪。
其实，早在甲午战争过程中，许多有远见的官员就已经看到了中国军队的弊端，并要求按西法练出一支新军，开赴前线作战。如时任津海关道的盛宣怀说：
湘淮将领，多不服西法，虽亦购其枪炮，习其操阵，仅学皮毛，不求精奥……平壤、九连两战两北，可信西法用兵实胜中法。查德国陆队，二百五十人为一哨，一千人为一营，六千人为一小军，一万二千人为一大军，额不缺，饷不扣，枪炮不杂，号令不歧。敢请速练枪队两大军，计二万四千人；炮队一军，计三千人；马队一军，计三千人。
李鸿章的军事顾问汉纳根也向清廷提出了大致相同的意见。清廷部分接受了汉纳根的意见，令胡燏棻练兵，“拟令先练十营，足成五千人之数，俾成劲旅，徐图扩充。”几乎与此同时，张之洞也开始在南京编练自强军。
甲午战后，练兵自强的呼声达到了高潮，“一时内外交章，争献练兵之策”。 清廷也以练兵相号召：“嗣后我君臣上下，惟期坚苦一心，痛除积弊，于练兵筹饷两大端实力研求”。袁世凯编练新军也顺应了这股民族自强的潮流。
