二战时日本陆军地面作战部队组织结构是：总军一方面军一军一师团、独立混成旅团等一步兵旅团/步兵联队一大队一中队一小队一分队。
日本陆军军衔共计6等17级（1941年）：大将、中将、少将；大佐、中佐、少佐；大尉、中尉、少尉；准尉；曹长、军曹、伍长；兵长、上等兵、一等兵、二等兵。将官以下的军衔冠以兵科区分。
职务与军衔的一般对应关系是：
总军总司令官/大将，方面军司令官/大将、中将，军司令官、师团长/中将，旅团长/少将，步兵联队长/大佐，特种兵联队长/大佐、中佐，步兵大队长/中佐、少佐，步兵中队长/大尉、中尉，步兵小队长/中尉、少尉，飞行分队长/曹长、军曹，步兵分队长/军曹、伍长。
日军部队指挥官没有副职（舰艇除外），陆海军有一种官衔叫“司令部附”，不算司令部正式成员。“附”的涵义大致包括待命、赋闲、伤病、挂起来（吉冈安直曾任关东军附兼满洲国皇帝附、关东军参谋兼满洲国皇帝附，这个“附”应当是联络官）。英帕尔作战时第31师团长佐藤幸德因对抗上级命令，被第15军司令牟田口廉也撤职。佐藤幸德改任缅甸方面军司令部附，不久就退出现役。驻汉口第34军司令佐野忠义因病于1945年1月改任中国派遣军总司令部附，7月亡故。1942年11月14日雾岛号战列舰在第3次所罗门海战被美舰华盛顿号击沉，岩渊三次舰长死里逃生后任第11航空舰队附、横须贺镇守府附半年，实为军、方面军、总军。
七七事变后日本陆军组建军、方面军、总军司令部指挥对外侵略战争。
1939年9月始陆续组建5个总军：中国派遣军、南方军、第1总军、第2总军，并将原关东军升格总军。总军辖若干方面军、直辖若干军，一般不直辖作战部队。
1937年8月组建华北方面军始先后有21个方面军，日本战败时有17个方面军。方面军司令部指挥军司令部及直辖师团、飞行师团、战车师团、独立旅团等部队。
战前已有的台湾军、中国驻屯军、关东军、朝鲜军，指挥驻屯当地的师团、旅团等部队，日本发动全面侵略战争后这些军的演变各有不同。
1937年8月中国驻屯军改编为第1军始，先后组建53个军（包括上海派遣军、蒙疆驻屯军、泰国驻屯军、法印驻屯军、关东防卫军、婆罗洲守备军、东京防卫军）。日本战败时有41个编号军及蒙疆驻屯军、东京防卫军。军司令部指挥师团以及独立旅团等。
特种部队的军级建制有机甲军、航空军。
北海道第5方面军、新不列颠岛第8方面军、台湾与日本西南诸岛第10方面军、中太平洋第31军、小笠原兵团是由大本营直接指挥的独立集群。
方面军、军司令部有固定编制，可以脱离所辖部队调动。
师团、旅团
日本陆军的战车师团、高射师团、飞行师团、航空师团番号即标明为特种部队，而称为“师团”的是步兵、炮兵、骑兵（搜索）、工兵、辎重兵合成编制。师团是日本陆军第一级有确定编制的独立作战单位，一些资料中的“步兵师团”并非规范的术语。
1937年9月30日前日本陆军师团编制结构是：
师团一步兵旅团一步兵联队一步兵大队，共辖48个步兵中队。
1942年12月后有两种师团编制结构：
1.师团一步兵联队一步兵大队，辖36个步兵中队2.师团一步兵旅团一独立步兵大队，辖32个步兵中队。
师团直属部队有炮兵、骑兵（搜索）、工兵、辎重兵、通信、卫生等，编成联队或大队或队级单位。
独立混成旅团与独立步兵旅团下辖独立步兵大队、独立警备队下辖独立警备步兵大队，官兵5000—7000人，在指挥体制中均与师团处于同一层次，不同的是在使用上极少发生跨总军的调动。这些部队本为占领地警备任务而组建，员额、合成程度、作战能力依次递减，但实际也参加军级以上野战行动，以弥补日军战线过长、兵力不足。
独立守备队、国境守备队、驻屯队也是独立的战术单位，编组此类部队的任务目标各异，编制虽有不同，都是相当于旅团级的部队。
混成旅团、支队、派遣队、派遣兵团、兵团是从已有部队抽调单位与人员临时编组、任务完毕归还建制的部队。混成旅团的组成基干为师团属步兵旅团，直接套用该步兵旅团番号。支队、派遣队的组成基干是步兵联队或几个步兵大队，番号以主官或地名命名。有些派往海岛的支队、派遣队因受环境制约至终战未归还建制。
更小的独立作战单元有独立步兵联队、独立混成联队，一般用于岛屿驻防。
战争期间陆军部队曾有过很多编制类型，随着日军的节节败退，驻屯、警备类部队相继进行野战化改编，终战时就只有师团与独立混成旅团了，外加中国派遣军专有的独立步兵旅团与独立警备队四种编制类型。
陆军的群（团）
日本陆军军语的“团”对应“Group”或“Brigade”，“联队”、“战队”对应“Regiment”。1941年底前组建的三联队师团辖有“步兵团/InfantryGroup”，常见的中文译名是“步兵团”，致使与原有中文名词“团/Regiment”混淆。日本机构、职务的中译法历来各执一词，造成许多麻烦。简单的办法是，只要日文本身的含义足够清楚，即以照搬：外务省就是外务省，军就是军，大将就是大将。不仅避免了迻译走样，附带的好处是视觉效果好极了。但此处的“团”却不得不替换一词。
英美军队的RegimentalCombatTeam，中文译为“团级战斗群”、日军称为“連队戟圆团”，因此妥当的方案是将日军“步兵团/InfantryGroup”依英文直译为“步兵群”。
陆军航空有“飛行团/FlyingBrigade”建制，介于飞行师团（FlyingDivision）与飞行战队（FlyingRegiment）之间，也是译为“飞行群”较妥。类似将陆军的“砲兵团”、“戟車团”、“挺進团”统一译为“炮兵群”、“战车群”、“挺进群”。
步兵群：1937年9月开始组建三联队师团，师团下设步兵群。步兵群并非一级部队组织而是师团司令部的一个部门，步兵群长实即师团的步兵指挥官。实际证明设置步兵群乃多此一举—一师团长怎么可能不直接掌握步兵联队呢?战争后期步兵群相继撤销或转用，至“8·15”时仅存新几内亚第18军所辖第20、41、51师团步兵群司令部。由于师团长必须是中将，致使步兵群撤销后师团长与其部属联队长军衔至少相差两级。
独立步兵群：1941年3月在本土组建第61-67独立步兵群。独立步兵群为3个步兵联队之合组，群长少将军衔。独立步兵群是过渡性编制，即尚未成军的裸师团，至1944年1月均用于组建师团或以步兵联队编入其他部队。
战车群：几个战车联队的合组，组建战车师团之前最大的战车部队单位。
炮兵群：师团在作战期间若配有几个支援炮兵联队可能设炮兵群司令部统辖。
挺进群：陆军空降部队，下辖挺进联队，其上级单位是第1挺进集团（相当于师团级）。
骑兵、机甲兵、炮兵
战时日本陆军骑兵部队有两类：作为独立作战单位的4个骑兵旅团；编入师团、担任侦察任务的骑兵联队。随着骑兵作用的减弱，有3个骑兵旅团改制或撤销，师团属骑兵联队大多改为搜索联队。
机甲部队基本单元是战车联队。独立的战车联队直属军、方面军。战争期间编组4个战车师团、9个独立战车旅团，下辖若干战车联队及机动步兵联队、机动炮兵联队等。
唯一的军级战车单位—一机甲军辖两个战车师团，仅存在一年即撤销。
日军的队属炮兵部队有师团炮兵联队、师团炮兵队、联队与步兵大队属炮中队等。
支援炮兵在战争前期有野战重炮兵第1-6旅团，1940年后不再有炮兵旅团建制，作为集群支援火力的炮兵以独立炮兵联队、独立炮兵大队建制编入军或方面军序列，在辖有较多炮兵单位时可能组建炮兵队或炮兵司令部。
要塞炮兵编组为要塞重炮兵联队、大队，番号多冠以要塞名。
步兵基本单元
1885年5月始建步兵第1-10旅团，1888年成为新设日本陆军师团的下属单位。战争前期17个常设师团与10个特设师团的步兵旅团辖两联队六步兵大队，这54个步兵旅团到1943年初都撤销了。
1942年2月陆续编组了24个新型两旅团制师团，每个步兵旅团辖4个独立步兵大队，旅团长军衔有降至大佐者。两类步兵旅团仅员额就有一倍半的差别。
步兵联队辖3个步兵大队及炮兵队。1874年12月始建步兵第1-3联队，步兵联队为全陆军统一编号的基本单元，陆军传统联队旗由天皇授予。战时约有484个步兵联队，有10余个联队因战败覆没而撤销番号。
步兵大队一般辖4个步兵中队及炮兵小队、机枪中队，步兵中队辖4个步兵小队，步兵小队辖3个步兵分队、1个掷弹筒分队。
独立步兵大队为全陆军统一编号，用于组建新型两旅团制师团、独立混成旅团、独立步兵旅团等部队。
独立步兵大队辖3—4个步兵中队及机枪中队。独立警备步兵大队用于组建独立警备队，其兵员、火力更低于独立步兵大队。
陆军步兵大队长军衔中佐、少佐，后期降至大尉、中尉。驻上海第161师团步兵第102旅团长石田寿少将属下四个独立步兵大队长都是大尉，安庆第131师团步兵第96旅团长海福三千雄少将属下竟有三名中尉大队长。
陆军航空部队
1910年底，日本陆军工兵大尉德川好敏赴法国学习航空归来，进行了首次飞行。两年后海军大尉河野三吉首飞水上飞机，陆海军发展各自的航空兵专业，直到战败投降。
陆军航空部队组织关系多有变更。七七事变前是：航空兵团——3个飞行群（分驻本土、朝鲜、台湾）——飞行联队。还有关东军飞行集团下辖飞行联队。七七事变后派往中国关内作战部队序列为：临时航空兵团——飞行大队——飞行中队，随着战争规模扩大1938年8月改为：航空兵团——飞行群——飞行大队——飞行中队。
1939年废飞行联队改置飞行战队专事飞行任务，飞行战队按机种、任务编组，有飞机24-36架，战队长中佐或少佐。1939年9月中国关内编制形式为：第3飞行集团——飞行群——飞行战队——飞行中队，直属中国派遣军。
1942年4月飞行集团改称飞行师团、航空兵团改航空军，航空部队编制序列成为：航空军——飞行师团——飞行群——飞行战队——飞行中队。
实行“本土决战”时成立陆军航空总军，统辖本土及中国东北、朝鲜的第1、2、5、6航空军。终战时有飞行师团9个、飞行群26个、飞行战队约92个，飞机约3000架。
七七事变前夜的日本陆军
七七事变前夕陆军师团执行平时编制，挽马制11858人、驮马制11715人，陆军总兵力计25万，部队组织结构情况是：
（1）本土：近卫师团，第3、5-11、14、16师团，骑兵第2旅团，野战重炮兵第1-4旅团，航空兵团，东京湾、由良、函馆、长崎、对马、下关、壹歧、舞鹤要塞。
（2）关东军（长春）：第1、2、4、12师团，独立混成第1、11旅团，骑兵集团（骑兵第1、4旅团），骑兵第3旅团，第1-5独立守备队，关东军飞行集团，旅顺要塞。
（3）朝鲜军（汉城）：第19、20师团，镇海湾、罗津、（元山）永兴湾要塞。
（4）台湾军（台北）：台湾守备队，基隆、澎湖岛、高雄要塞。
（5）中国驻屯军（天津）：中国驻屯步兵旅团。
（6）航空兵团：有22个战斗机中队、6个轻轰炸机中队、8个重轰炸机中队、15个侦察机中队等，编成14个飞行联队，近千架作战飞机。
终战时日本陆军部队组织
二战时，在大本营、参谋本部指挥之下陆军部队依作战地域划分为战略集团，不同时期这些集团的担任地域、番号、规模、存废多有变动，日本战败投降时的陆军部队结构是：
（1）第1总军（东京），担任铃鹿以东本州岛防御，辖第11方面军（仙台）、第12方面军（东京）、第13方面军（名古屋）
（2）第2总军（广岛），担任铃鹿以西本州岛、九州、四国防御，辖第15方面军（大阪）、第16方面军（福冈）
（3）航空总军（东京），担任本土、中国东北、朝鲜航空作战
（4）第5方面军（札幌），担任北海道、南库页岛、千岛群岛作战（5）中国派遣军（南京），作战地域中国大陆（除东北、热河省），辖华北方面军（北平）、第6方面军（汉口）
（6）关东军（长春），作战地域中国东北、热河省、朝鲜，辖第1方面军（牡丹江）、第3方面军（沈阳）、第17方面军（汉城，自8月10日起归属关东军）
（7）南方军（大叻），作战地域东南亚大陆、荷属东印度、东部新几内亚、菲律宾、帕劳群岛，辖缅甸方面军、第7方面军（新加坡）、第14方面军（吕宋岛）、第18方面军（曼谷）
（8）第10方面军（台北），作战地域台湾地区、与论岛以南的日本西南诸岛
（9）第8方面军（拉包尔），作战地域俾斯麦群岛、所罗门群岛
（10）第31军（特鲁克岛），作战地域中太平洋
（11）小笠原兵团（父岛），作战地域小笠原群岛。
