陆海军中央机构
陆军省、海军省的核心机构都是军务局，负责国防政策、军队建制编制、动员预算。陆、海军省军务局长是仅次于大臣、次官的第3号人物。军务局的特殊地位也体现在28个甲级战犯名单中军务局长占了3个名额：陆军的武藤章、佐藤贤了，海军的冈敬纯，当然他们都是在关键决策时期的军务局长。至于武藤章为什么被处死，可能还因为他是攻占南京时的华中方面军参谋副长（司令松井石根时在苏州养病、不在前线，参谋长冢田攻已死）。
参谋本部、军令部的核心机构都是第1部，即作战部。田中新一任参谋本部第1部长时，与首相东条英机因征用船舶事争执，一言不合竟敢当面斥骂东条混账。1937年11月华中方面军（特别是第10军）要求突破嘉兴——苏州限制线向南京进击，第1部长下村定向参谋次长多田骏反复进言力主发起南京作战。在大本营尚未决策时，下村定27日竟致电华中方面军参谋长冢田攻称“攻占南京，本部有坚强的决心，现正逐步进行审议，在未裁决之前，敢请先有了解”，可谓肆意妄为。
陆、海军的第1部长都现场参加了密苏里号战列舰上的日本投降签字仪式。
参谋本部内设机构及职责：
总务部，下辖总务课、第1课教育
第1部（作战部），下辖第2课作战、第3课编制动员
第2部（情报部），下辖第5课欧美、第6课俄国、第7课中国、第8课谋略
第3部（运输通信部），下辖第10课铁道船舶、第11课通信
第4部（战史部）
军令部内设机构及职责：
第1部（作战部），下辖第1课作战与部队编成、第2课教育与演习
第2部（军备部），下辖第3课军备与兵器、第4课动员
第3部（情报部），下辖第5课美洲、第6课中国、第7课苏欧、第8课英欧(https://www.daowen.com)
第4部（通信部），下辖第9课通信计划、第10课密码暗号
1898年陆军省设教育总监部，两年后改为直隶天皇，形成陆军大臣、参谋总长、教育总监的陆军三长官格局。教育总监部（1945年3月）辖炮兵监部、工兵监部、辎重兵监部、化兵监部、通信兵监部、高射兵监部，直接管理陆军军官养成学校与各术科学校（航空除外），负责陆军部队的训练、编组，实为通常意义的“训练总监部”。
1941年随着骑兵科的废止，原属教育总监部的骑兵监部撤销、改设机甲本部，作为陆军省外设局负责机甲部队与骑兵部队的训练、教育、编组、技术开发。
1925年设置陆军省航空本部，1938年设航空总监部，与航空本部兼任。因而航空总监不但不能成为陆军四长官之一，更造成职能交叉、混乱。航空本部有关作战、动员归参谋总长，航空专门教育以外归教育总监。
陆军省的重要外设机构除机甲本部、航空本部外还有筑城部、兵器本部、燃料本部。另外，陆军大臣指挥各军管区，负责兵役与动员。
参谋总长直接指挥部队有船舶司令部与内地（本土）铁道司令部。
海军没有教育总监部，也就没有海军三长官，而是海军两长官。海军省原本有海军教育本部属于外设机构，1923年教育本部缩小为海军省教育局（内设局），局长少将军衔。海军大学与海军军官养成学校——海军兵学校、海军机关（工程）学校、海军经理学校直属海军大臣，所有术科学校由所在镇守府管辖。海军发展步伐毕竟落后于陆军，1933年才取得与陆军平等地位，三长官制可能是尚未来得及建立。
海军本身有一个致命的军令体制缺陷。近海防御与舰艇岸上基地由各镇守府（直属天皇）、警备府担任，外洋作战部队组成联合舰队，因此海军对外作战资源——几乎全部舰艇部队、航空部队——尽归联合舰队司令。又规定联合舰队司令部设在军舰，司令随舰出海，联合舰队司令与军令部总长构成近于二元结构。1945年成立海军总队所有海军部队都归海军总司令指挥，军令部总长更加处于尴尬地位。
有说法称海军大臣、军令部总长、联合舰队司令是海军三长官，不过这与陆军三长官不能比拟，仅仅表明联合舰队司令职务重要，军令部总长与联合舰队司令毕竟是上下级关系。
海军省重要外设机构有舰政本部、航空本部、施设本部、运输本部。
日本陆海军两大军官养成学校是陆军士官学校（陆士）与海军兵学校（海兵），两所学校名称本应翻译，否则会与中文的“士官”、“兵”涵义相悖，但“陆士”、“海兵”已在中文资料中广泛通行，只能不去翻译它了。陆海军的指挥学院分别是陆军大学校、海军大学校。
陆军士官学校担任陆军基本兵科中的步兵、炮兵、骑兵、工兵、辎重兵教育。航空兵教育属于陆军航空士官学校（1937年另设），毕业期数同于陆军士官学校，统称陆士某期。
海军兵学校担任指挥军官养成教育，各类术科学校担任专业教育。