在第二次世界大战中，德国装甲师的出现大幅改变了现代战争的面貌，它通过一系列快速而犀利的战役向世人证明，装甲师已成为新型战争的强大机器，而由闪电战理论武装起来的装甲师更是战斗力惊人。在第三帝国军队的内部文件中，对装甲部队的定位是：一支快速集中大量火力的部队，能在开阔的战线上突破敌军防线，深入敌方阵营消灭敌人，以迅速取得战果。在第三帝国的历史上，德军共组建了28个正规装甲师，它们的编制当然不是一成不变的，实战经验的积累和装甲车辆性能的提升都推动了装甲师的快速演进。
从1933年开始，在元首的大力支持下，德国装甲部队的雏形开始显现，并于第二年成立了第一支装甲部队，而第三帝国历史上有正式番号的第一装甲师就是由这支装甲部队而来。1935年，希特勒撕毁凡尔赛条约，把防卫军扩军计划端上了台面，第一装甲师由此成立。第一装甲师成立之初为旅级单位，名称为第一装甲旅，下设两个装甲团，其他单位还包括第一射击兵旅、第四侦察连、第七三炮兵团和第三七通讯连等。
每个装甲团下设两个装甲大队，每个装甲大队又由四个轻装连组成，每个连下设一个本部排和三个装甲排。本部排和装甲排都装备着五辆坦克，一开始是一辆二号坦克和四辆一号坦克，后来升级为三辆二号坦克和两辆一号坦克。这是因为一号坦克本就属于过渡型装备，武器仅是小型机枪，在大规模的战争中，一号坦克显然难堪大用。随着战力更为强大的三号和四号坦克问世，一号坦克便彻底退出了历史舞台。
第一装甲师并没有参与兼并奥地利和捷克的行动，它参与的第一场战役便是象征着二战全面爆发的波兰战争。当时德军共出动了42个师入侵波兰，其中有6个装甲师和4个轻装师，其余部队都是徒步作战的步兵。在此次战役中，第一装甲师被编派到了南方集团军群下的第十六装甲军中，下辖的每个装甲团各装备有150—156辆坦克，其中有12辆是装甲指挥车。战争开始后不到一个月，德军的装甲部队就攻到了华沙外围，此前被掠过未打的波兰波莫罗兹军不久便回头反击，德军随即派出一支机动部队应战，第一装甲师就位列其中。在随后的布楚拉河一役中，德军一举歼灭和俘虏了波兰19个师，波兰战役宣告结束，第一装甲师也于当年12月凯旋归国。
在1940年5月爆发的法国战役中，第一装甲师于2月早早的就移师西壁防线，为西欧战事做准备。战役前夕，第一装甲师和第七师、第十师都属于古德里安的第十九军节制，在色当突破盟军防线后，便一路攻打到英吉利海峡，直到英军从敦刻尔克撤退后，德军才重新整编开始向南进攻。6月5日，第一装甲师参与了攻击法国艾纳的初期行动，经过一番激战后，法国全线崩溃，随后德军的装甲部队势如破竹一路南下，法国于6月22日选择投降。
法国战役结束后，第一装甲师被调到第十六装甲军中，成为东普鲁士第十八集团军的一员。1941年3月，第一装甲师又成为第四装甲集群的预备部队之一，并扩大编制增加兵员，为即将开始的巴巴罗萨行动做准备。6月22日战役爆发后，第一装甲师隶属于李伯所率领的北方集团军群，从东普鲁士地区出发后，第一装甲师持续向列宁格勒推进，并在杜纳堡等地与苏军展开激烈战斗。
10月，第一装甲师又被调到第三装甲集群中，成为中央集团军群的一员。第一装甲师在苏联日谢夫作战近一年后，开始撤出前线到法国休整。除了第一装甲师遭受的巨大损失外，第一装甲团的第一装甲大队也被转调到了第十六装甲师中，并被重新命名为第116装甲大队。第一装甲大队被调出后，第一装甲师的整体实力大减，在接下来的半年时间内，该师的兵力从未超过7辆四号坦克、26辆三号坦克以及12辆二号轻型坦克。
1943年1月，第一装甲师被调回德国，随后奉命前往希腊，直到当年11月再次被派回东线。12月，第一装甲师被编派到第48军麾下，并参与了第四装甲集团军在基辅所发起的反击行动，随后又参与了别尔季切夫地区附近的防御作战。随着苏军在第二年6月发起了大规模攻势，德军在南翼逐渐难以支撑，包括第一装甲师在内的德军部队只能一路西撤，最后退守到了维斯杜拉河附近。1944年10月，第一装甲师又被调往匈牙利，最后在战争结束之际向美军投降。
