初始日军师团下有旅团。下辖4至9个联队（团），因兵员匮乏到了后期采用三联队（团）。二战初的师团长一般是中将衔。后期大部分是少将了。此外，日军的师团也分等级的。
1、班
日军每班13人,包括班长、4名机枪射手和8名步枪兵。有一挺轻机枪，编制四人(指挥官、射手、两名携弹药的副射手),这四人是配备自卫手枪的,在战斗中有时也携带步枪（机枪射手除外）；其余八名步枪兵,每人一支单发步枪。特别加强的部队中，加强班会多配置一个两人携带的50毫米掷弹筒。
2、小队：
日军的一个小队有前述编制的三个班和一个装备三个掷弹筒的掷弹筒班。共54人。
3、中队：
日军的一个标准的180人的步兵中队包括：一个19人的中队部：中队长，执行官，3个军士，4个卫生员，军官的勤务兵，司号员，8个通信员），3个前述54人的小队。
4、大队：
日军一个标准的1100人编制的大队包括：30人的大队部，一个110人的运输中队（大车和骡马），有的大队将所属的运输中队合并到联队里。四个前述的步兵中队（一些只有3个）；一个174人的机枪中队（14人的连部和3个机枪排，1个弹药排），每排4挺重机枪，总数12挺（有的连只有8挺）；一个55人的炮排（1个10人的排部，1个15人的弹药班，两个15人的炮班各装备1门70mm九二式步兵炮），极少的部队配备一个122人的炮连（包括一个27人的弹药排，两个31人的炮排各装备2门步兵炮）。在这些少量的炮连中，极幸运的一些可以分到20MM反坦克枪的部队，可以编成4个24人的装备2挺反坦克枪的排，这种情况下，弹药排要扩充为39人。
5、联队：
日军的一个标准的3800人的联队包括一个54人的指挥部；一个121人的运输队（大车和骡马），携带团部和直属各连一日份的给养以及可能配属师的野战厨房；一个81人的弹药排携带一日份的弹药。三个步兵大队；一个122人的炮兵中队，包括一个25人的连部，一个观察班，一个31人的弹药排，三个31人的炮排（各有2个15人的炮班，装备1门70mm九二步兵炮）。极少数联队有一个364人的炮兵大队，编两个170人的中队，各4门炮。联队属反坦克中队有122人：20人的连部，21人的弹药排，3个33人的炮排（各有两门37mm反坦克炮）。通信中队有一个电话排（4到6个电话班，每班3部电话，一个交换机），一个无线电排（5到8台电台），在战斗中电话和电台配属到各大队和各直属队。联队的卫生系统配备很薄弱，联队只有2名医生和2名卫生员，大队有3名医生和四个卫生员，中队有四个卫生员。
