1940年元月21日，日军驻蒙军第26师团、独立混成第2旅团分别从张家口、大同、归绥等地驰援包头，至此，牵制华北日军的战役企图已经实现，傅作义下令撤出战斗。
中国第八战区的部队，突袭包头，让日军损失惨重，但是，日军并不会善罢甘休的。
五原塞北也就是现在的河套地区，在这里北面是乌加河，南面是黄河，东面是乌梁素海，西面是乌兰布沙漠。
在这样的情况之下，除了小岛吉藏之外，日本驻蒙军司令官冈部直三郎，也不得不考虑，必须向五原冲击，拔掉这颗眼中钉。在这样的背景之下，塞北的日军开始集结，准备在五原打一场会战。
但是，冈部还接到一个命令，他的上级华北方面军，虽然同意了五原攻略，但是，要求战斗一结束，就必须回到各自的守备区域。
原因很简单，日本没有足够的兵力，将战线拉得太长，直接将塞北地区划归为防守区域，态度就是能不打就不打，能少打就少打。
但是小岛，还有驻蒙第26师团长——黑田重德，联名向冈部请示，要求对五原地区，进行长期占领。但是，冈部直接拒绝，原因也很实际：
占领五原，并不能解决中国部队的侵扰，最多是在塞北地区多一个据点而已，战线拉得太长，兵力分散，依据现在的兵力，根本对五原无法进行长期占领。
就这样，1940年1月28日，日军以第26师团为主力，还有骑兵集团、独立混成第2旅共3万余人及伪蒙军、伪绥西联军各3个师，大举进犯绥西，企图歼灭傅作义部。
而傅作义以第81军和骑兵第6军等部分别在乌镇和西山嘴地区阻击日军，第35军集结在五原地区，准备随时机动歼敌。
1940年1月28日，日伪军由包头分南北两路西进。
2月1日，在敌酋黑田师团长统一指挥下，日军在飞机的掩护下，首先进攻河套右翼前沿阵地蓿亥滩、马七渡口要点，我方守军骑七师师长门炳岳亲临前线督战。
当时正值隆冬，风雪交加中，敌军以及优势的兵力，借火力的强大，向骑七师阵地猛攻硬冲，战况十分激烈。
危难中，师长门炳岳告诫官兵说：“生是阵地，死是坟地。”激励将士在冰天雪地中，敢于击退进犯日寇，全师官兵，无一退畏。
第19团2连连长吕学启率全连坚持到最后剩下6个伤员，还死守阵地，直至第二天敌军在重创下，狼狈败退。
日军见右翼进攻失败，随即转向左翼乌镇、乌不浪口等地，我守军第35师马腾蛟部，事先侦知敌情，第6团于30日凌晨就进入乌镇阵地，以待敌临，官兵们昼夜警惕，三天三夜，卧冰饮雪，啃烙饼，无人叫苦。
2月1日黄昏，他们发现敌人的车辆灯火直奔阵地而来，接着车辆停下来了，机步枪、大小炮火，就开始向己方阵地猛烈射击。
团长张海禄亲到各阵地巡视，并传令：“敌人不接近，不准开枪”（因当时第35师武器陈旧不堪，不能远战，所以只好近战）战士们爬在战壕里，日军逐渐接近阵地，发起冲锋时，我军以短兵相接，连续击退了敌人的多次冲锋。
三营正面战斗尤为激烈，全营虽只剩下轻重伤员100来人，仍坚守阵地未动。激战一夜后，伤亡渐多，而后援不继，加之防守乌不浪口阵地的第5团，触敌后立即撤退，致使乌镇守军形成孤立无援之军。
第二天（2月2日）天亮后，团长下令向后方苇滩里撤退，可惜由于援兵不到，后勤无人，很多伤员无人救运，活活冻死于战壕中。
乌镇、乌不浪口两个前沿阵地被敌军占领后，第35军101师未及时增援两地守军，即向折桂乡方向撤退，新31师也沿狼山南麓、乌拉壕北岸移动，仅有一部第93团在乌拉壕北岸，伏击敌人，阻敌前进。另一部在三女店、黑石虎之间夜袭敌军汽车，两处共毁敌汽车七辆，毙伤敌100余名。
2日下午，日军在炮空火力掩护下，冲破我军各防守阵地，长驱直入，傅作义所部全面撤退，放弃了河套平原。
随后，日军于2月5日占领了五原、临河、陕坝、三盛公等河套城镇及两条公路近旁的村庄，四处骚扰、奸淫烧杀、抢劫牲畜财物，尤为伪蒙军为甚，迫使老百姓逃入山里和黄河南岸避难。
日军占领五原后，小岛等人坚持留下部分部队驻守，但是，冈部坚决不同意。
可是不久，一个人的到来，事情出现了转机。原来，华北方面军参谋长——笠原幸雄，从北平飞来五原视察。
小岛趁机在开会期间，向其表述，长期占领五原的好处，于是，笠原被说服了，同意在五原成立特务机关，并留下一支伪蒙军驻扎。
要知道，不让占领五原是笠原幸雄下的命令，现在他一反悔，尴尬的只能是冈部，但是，冈村也提出了几个条件：
第一，五原只是暂时的据点，主要工作是搜索情报。
第二，一旦中国军队压迫式归来，就必须立即撤回。
第三，别指望我手下的部队前来支援。
第四，只是单纯地留下部队，不要搞什么地方政权。
最后，冈部很不满的说道：中国军队肯定会反击五原的，你们等着吧！
于是，从2月18日开始，日军逐步撤出三盛公、陕坝、临河等城镇，撤回绥东原来的防地，五原境内留驻部分日伪军。
此时，日军将外围据点由大佘太、西山咀，展伸到河套重镇五原。守可以保包头，进可以窥甘肃、宁夏。
所以，日军虽主动撤出河套平原，而对五原则占而不走，并调来日军要员水川伊夫中将（系裕仁天皇家族）为酋，另外，还从东北调来文职技术人员百余人，及宪兵队、特务队、守备队等千人。
随后，日军在政治上收罗汉奸，设置伪政权；经济上，企图组织日中联营合作社，倾销日货，掠夺中国资源；军事上除构筑五原县城核心工事，近郊守卫阵地碉堡处，并令伪军在外围构筑据点，准备长期占领五原。
在我军冬季大反攻中，败退的宁夏地方部队，撤回了宁夏境内；门炳岳的骑七师，撤至黄河以南伊盟地区；傅部主力及杂牌部队分别撤至狼山南麓、黄河南岸以及阿拉善旗亚马来等地区，士气低落、军容涣散。
五原失守之后，傅作义的部队，一直在一个叫亚马赖的小村庄休整，他深知，唯有激励将士，破釜沉舟、奋勇抗敌，攻克五原，方能扭转战局，舍此绝无他路。
遂于2月下旬下令将马秉仁、新31师第91团团长刘景拳，交军法处法办，并给予第101师师长董其武以撤职留任、戴罪立功的处分。
随即，向大家说明当前战局，敌己方双方态势，让大家各抒所见畅所欲言。经过讨论，决定到绥河解冻，道路泥泞，导致日军汽车，坦克，重炮行动不便之时，收复五原。
傅作义的第35军，还剩下7000多人，主力是3000多没有受伤的战士，从人数上来看，比较薄弱。于是，傅作义又从垦荒旅和游击旅，各调来一部，兵力达到5000人。
孙兰峰的部队新编第31师安春山的第93团，经过多次的大战，只剩了100多人，这些人可谓是九死一生，是精英中的精英。
傅作义让孙兰峰将他们组织起来，成立一个敢死队，负责攻打南门军需仓库。
孙兰峰的新编第31师与垦荒旅、游击旅直插五原新城。袁庆荣的第32师攻打五原旧城。
董其武的部队，作为预备队，同时拦截从包头，固阳，安北来的援军。
军直属骑兵团监视伪蒙军骑兵，并派出一支队伍，到乌梁素海附近伏击，从五原撤退的日军。
傅作义还亲赴各部队驻地集合指战员讲话，鼓励官兵，同仇敌忾，奋勇杀敌。各部队经过整饬，完成了战役准备。
五原城分新、旧两个城，日军一个联队，外加宪兵队、特务队、守备队共计约五千人驻五原新城（隆兴长）。指挥部设在屯垦办及皮毛坊内，守备司令由水川夫中将兼任。
日军分别占据屯垦合作社、实行小学、天主堂、耶稣堂、平市官钱局等据点，并将各点互相打通，连成核心阵地，外围用铁丝网，满布地堡掩体。
伪军王英部，驻防于西关，旧城及近郊村庄，筑有防御阵地及土堡，构成外围阵地。伪蒙军李守信部驻守五原以西新公中、郝进桥、蛮克素、南牛犋、梅林庙等处，城西北的广盛西驻有重兵，并在乌加河、乌拉壕上架有桥梁多处，后方交通线亦派有敌伪军守护。
傅作义在对敌兵力部署、防务、及后方交通运输等均作了详尽的侦察，并制定出收复五原的作战计划：
一、派部队深入敌后，破坏交通线及所有桥梁，便于阴击增援之敌，孤立五原守敌；
二、派连长王步云等沿线侦察地形敌情，并伪装敌“宣扶队”混进五原城，详细侦察城内敌情，另派官兵乔装老百姓，混进了城内，替敌人铡草喂马、担水，以为内应；
三、发动当地群众为向导，组织民众担架队、运粮弹队，支援作战；四、反攻时机决定在黄河初解冻之时，把黄河之水流入各干支渠，叫农民提前放水淌地，使河套地区成为泛滥区，使敌军寸步难行，特别是汽车、坦克、炮、骑兵等，更难活动。
四、令第101师董其武部推至丰济渠口，新32师袁庆荣部，进驻郝进桥桥以北，并架好渠上便桥；
骑兵第7师门炳岳部调至临河南台子、德和泉一带，作进攻五原准备；
马腾蛟部第35师接替天吉太桥防务；
游击部队李作栋各部均预先潜入南茅庵一带隐蔽，安华亭旅潜至安北、西山咀、马七渡口等处，阻敌增援和截击逃溃之敌。
决定：攻城时间为3月20日。新31师师长孙兰峰任攻城总指挥，五临警备旅旅长徐子珍任副总指挥。
20日前，傅作义各部夜行昼伏，第101师已到达五原西北40华里的陈旺圪旦附近，新31师、新32师已到达五原西云柜什巴圪图地区，骑7师已推至乃马召。
就在这时，安春山的敢死队，在城外意外搞定了伪军的一个团，套出了五原的城防配置，还有当晚进城的口令，就这样，这100多号人，身穿便衣，潜入城中，开始破坏通讯系统，并很快就占领军需仓库，获得大量的物品，弥补了第35军军需不足的苦恼。
3月21日上午， 孙兰峰的新编第31师，所有的士兵穿上伪军的衣服，趁乱潜入了五原新城，与早已经潜伏下来的便衣队，里应外合发起了攻击。
与此同时，袁庆荣的新编第32师（缺第93团），拔掉了城外的据点后，也开始对五原旧城广盛西、前后补红之敌猛攻；
屯垦部队（第203旅）奋力攻进南门，并攻下了屯垦合作社等南街敌据点。战斗中，该旅不惜牺牲（阵亡营长2员，连长7员），歼灭顽抗之敌近500名，肃清了南门及南街之敌，为攻城战中，立下首功。
随后，我军各部已经占领了实行小学、屯垦合作社、皮毛坊、日军司令部、天主堂、耶稣堂等重要据点。但城内未歼残敌，均聚集在屯垦办事处、平市官钱局两个据点内，抵抗待援。
但是，第302团已于20日夜将乌加河二财主圪旦守桥敌军（蒙伪军）一个团击溃、俘虏多人，随将桥梁破坏。新6旅亦于21日拂晓前，将乌拉壕、万和长桥梁守敌击溃，将桥梁破坏，有力地阻敌增援。
及至21日晨，旧城、前后补红、广盛西之敌，仍在抵抗中。
绥西中国军队机枪阵地旧照 图片来自网络
由南茅庵向郝进桥、蛮克素进攻的李作栋部击溃守敌王英部后，跟踪尾追。骑七师于20日夜，由乃马召向新公中进攻，守敌蒙伪军骑八师曾顽强抵抗，因受挫只得回师救应五原。
这时，五原内外之敌，皆处于腹背受攻之境，大部溃散，一部就歼，残部除五原城内屯垦办事处和平市官钱局、旧城、前后寂红、广盛西、黑头圪堵及新公中之敌，尚在垂列换气待援外，21日晨，各线敌伪阵地均被击破。
八时，日机即临五原上空低空盘旋侦察，因我军当夜攻下敌各据点，没扯下太阳旗，敌机不敢投弹，反把增援中的日军守备队炸伤炸散。
随后，攻城部队在拂晓后集中兵力、火力，向屯垦办事处、平市官钱局两据点猛攻，突击队营长阎梦云中弹阵亡，攻势稍挫。
接着，敌机10余架，先向我军城外四周攻城部队投弹，继以炸弹、机抢投掷、扫射城内突击队，两据点敌军持枪出来反扑，作决死之斗。
我军官兵奋不顾身，反复冲杀7、8次，双方死伤累累，进攻和反扑形成争夺战的焦点。接着，部分日军由屯垦办事处出来反攻，突击队官兵用手榴弹将其打回。
午后，日军特务机关长桑原荒一郎登上屋顶指挥，被击中腹部毙命。筱原市之助代理机关长维续顽抗，结果头部被击中倒地，他摆出武上道架式十字剖腹，同时，令特务机关员成濑用手枪射向其眉心毙命。
当天下午，新31师全部赶到，加入战斗，敌势受挫退入据点，继续火力阻止我军前进，但是，因缺乏攻坚火器，只得凭人硬拼，及到22日下午，调来炮25团三营，猛轰后，两据点顽敌，才被全部消灭，我军全部收复五原县城。
此时，敌军固守的西门和黑头圪堵，经五临警备旅贾世海团反复冲杀，并用黄色炸药逐屋爆破，于21日午后聚歼全部守敌，但团长贾杨世海不幸阵亡于激战中。
固守广盛西之敌仍据险阻击，第95团赵寿江营，先攻旧城及前、后补红，付出重大代价（营长赵寿江阵亡，全营官兵只剩7名）后，才将前、后补红占领，守敌伪蒙骑一师退入旧城。
第95团（欠赵一营）强攻广盛西一日一夜后，两营长负伤，官兵伤亡尤重，但官兵士气未衰，仍然前仆后继、奋勇拼杀，宋海潮团八连主动参加战斗，猛扑猛攻，迫使敌军后退。该连自连长张步青以下全部壮烈牺牲，敌伪丧胆。
及至21日下午，敌军在我军炮兵及宋团的全力猛攻下，放弃广盛西，向东溃逃。旧城之敌，见此情况亦随之溃退，至此，新32师全部攻克了旧城，外围之敌亦全线溃散。
自3月20日午夜开始至22日下午，经48小时激烈争夺战，我军官兵虽损伤很大，但士气始终旺盛。当时战区及后方人民，听到反攻五原，人人斗志昂扬，男女老少争着支前，烙烙饼送前方，抬担架运伤员，身背车拉运弹药，老大娘、小脚媳妇亦抢着支前抬担架，出现了一场军民合作打鬼子的雄壮局面，粉碎了日寇占令五原，侵入河套的迷梦。
当我军猛烈围攻五原城时，企图增援之敌由汽车80余辆，装载2000余人，加上坦克大炮，于21日晨，在飞机掩护下，到达万和长，但因桥梁遭我军破坏，即在乌加河北向己方炮轰击，并强修桥梁，开始渡河。
这时，担负阻击任务的第101师及时赶到，在河南构成两侧桥头堡阵地，该师301、302两个团奋力阻击，歼灭大量来攻之敌后，又行反击，使来援之敌被阻力于乌加河北岸。
不过，由于城内歼敌任务完美收工，董其武第101师接下来没有再强力阻挡日军，向后方撤退了十里。
于此同时，傅作义下令攻城的士兵也全部撤退，日军赶到五原之时，面对的只是尸骨累累的空城而已。
这个时候，中国军队已经走远，也失去了追击的时机，冈部只能下令日军在22日下午全部撤回。
紧跟其后，傅作义下令炸毁乌加河大堤，河水汹涌北去，淹没了五原到包头的所有公路，日军在水泽中狼狈退去，一部分中国军队继续追击，另一部分中国军队占领五原。
就在3月22日五原日军阵地被彻底攻破前，其守备司令水川等三人乘混乱之际，逃出五原城，向东逃窜。
23日早晨，他们来到李发红湾和二驴子湾之间，当时，还有不少蒙古军三两一伙地、有的没戴帽子、提着枪，结果，遇到了附近一支中国军队游击队——绥远游击军第一支队第二团第一连。
得知情况后，连长张汉三立即集合队伍，并命令二班向油房东包抄过去，其余的快步出发歼敌，一部伪军正在冰滩上走动，游击队立即开枪，伪军当了活靶子，不一刻钟时间，全部被歼灭。
这时，东北角枪声骤起，原来三个日本官和几个蒙古军，凑在一起，爬在一条旧渠背后，向游击队还击。
连长张汉三当即令一班长由侧面向前攻，自己由北面向敌射击，三个伪蒙军被撂倒了。接着，日伪军刚想向东逃走时，游击队冲了上来，日军慌张应战，六个日伪军在十分钟内全被击毙。
连长张汉三赶忙跑上去，发现这是水川随身携带的天皇赐给的军刀。后来，双方都证实，在二驴子湾被击毙的敌酋水川伊夫中将。
3月22日夜，只听见五原方向枪声没有停，虽然城北北牛犋村没见来一个兵，可是村民们都睡不着，不时出来向县城方向瞭望。
夜色茫茫中，只见有个光着脑袋、一只脚没穿鞋的人，一颠一跛地直向武经理（是管义和渠的经理武增气，和王英有老交情）家走去。
等到天发白时，又见武经理拉着小骡子和这个人边走边谈。直到这时，蹲在暗处的李祥才方看清那个人正是三财主——伪军头目绥西联军司令王英。
这时，他已戴上皮帽、穿上棉鞋，还披了一件白茬羊皮袄，王英骑上骡子说声“再见”便迅速地由荒地向东跑掉了。
后来证实：王英从五原逃出后，经北牛犋到了黑泥池，被土匪邬四儿接走了。
日军在五原的失败，使绥包敌人企图境援以挽回败局的希望宣告破灭。
不过，水川伊夫下落不明，使日军尤不甘心，曾派飞机沿乌加河两岸低飞找寻，并于3月25日派出汽车2辆，到二驴子湾下来10余人安营，继续寻找无果。
五原之战共歼灭日伪军5000余人，其中击毙日军步兵联队长大桥大佐、特务机关长桑原荒一郎中佐及尉官以上的警务官等共300余人，击杀日兵1100余人，生俘日军指挥官观行宽夫等50余人，俘获伪蒙古军和伪军1500余人，缴获各种炮30余门等大量军用物资。
傅作义所部也付出重大代价，伤亡3000多人。此战，有力配合了全国各抗日战区其他战役。
国民政府给傅作义嘉勉电，指出五原之捷“不仅保障西北，而且奠定收复失土、驱逐敌寇之基础。在抗战全局上，关键尤为重要，功业彪炳"。
