枢密院是最高统军机构。除怯薛外，“天下兵甲机密之务，凡宫禁宿卫、边庭军翼、征讨戍守、简阅差遣、举功转官、节制调度，无不由之”（《元史·百官志二》）。最高长官枢密使，也不常设，实际上的长官是知枢密院事，下设同知枢密院事、枢密副使、佥枢密院事、同佥枢密院事、院判、参议等官。元朝枢密院与宋、金枢密院略有不同，即遇有大征伐，另在用兵处分置行枢密院。行枢密院简称行院，是临时性的，事已则罢。元朝军队分宿卫（戍卫京师）和镇戍（镇守全国各地）两大系统。宿卫军又分怯薛和五卫亲军。怯薛军入元后仍然保留，处于功勋军的地位，设怯薛长，归皇帝亲自统辖。怯薛待遇优厚，元朝高级军政官员多出身于怯薛。所以，官员以怯薛出身者最显贵。五（左、右、中、前、后）卫亲军是中央常备军，各设都指挥使、副都指挥使等官，由枢密院管辖。镇戍军也由枢密院调动，有蒙古军、探马赤军、汉军、新附军，其编制为万户府、千户所、百户所、牌子四级，分别由万户、千户、百户、牌子头统率。各级军官都是世袭，地位高于文官。
御史台是最高监察机构。忽必烈曾说：“中书朕左手，枢密朕右手，御史台是朕医两手的”（《草木子·杂制篇》）。设官有御史大夫、御史中丞、侍御史、治书侍御史。元代御史台地位高于唐、宋，一改以往以低品位官员监察高品位官员的传统。御史台直属机构有殿中司和内察院。殿中司设殿中侍御史，主管检查朝廷礼仪、考核京官。内察院设监察御史，主管刺探举报各种违法之事，有一定独立性，称作天子的耳目之司。元朝还在江南、陕西分设行御史台。御史台（内台或总台）与江南行台（南台）、陕西行台（西台）分辖二十二道，腹里与河南、辽阳二行省八道隶内台，江浙、江西、湖广三行省十道隶于南台，陕西、甘肃、四川、云南四行省四道隶于西台。每道设肃政廉访司（初设时称提刑按察司），置使、副使、佥事、经历等员。廉访官分临所管道监察，称为分司，每年八月至次年四月出巡，监察地方官吏，复审案件。元代御史台可以自选从总台到肃政廉访司的官员（需奏皇帝批准），这在历朝监察官的设置上是绝无仅有的，反映了元朝监察制度的特点。
元朝是一个开放型的政权，重视利用中外各种宗教加强思想统治，因此设有管理宗教事务的各种机构。最重要的是宣政院和崇福司。宣政院设院使、副使、同知、佥院、同佥、院判、参议等官，主管全国释教僧徒及吐蕃事务。吐蕃著名佛教领袖八思巴曾为宣政院第一任总领，被尊为“帝师”、“大宝法王”。如吐蕃有事，宣政院另设分院往治。崇福司，一度改称崇福院，掌管也里可温（基督教）事务，管理本教教士和十字寺（教堂）。设官有崇福使、同知、副使、司丞、经历、都事、照磨等官。据考证，元朝有也里可温教寺院72所。道教则由集贤院兼管。江南道教由皇帝敕封的正一道天师掌领。元朝对各种宗教寺院大加保护，主管祭祀典礼的太禧〔xi喜〕宗禋〔yin因〕院同时负责对寺院的修缮。
元朝称院的机构特别多，主要有两类。一类设官是院使、同知、副使等。除前面提到的几个以外，还有宣徽院，掌管皇帝酒膳及朝廷筵宴。光禄寺是宣徽院的子机构。太常礼仪院，掌管礼乐、祭享宗庙社稷、封赠谥号等事。太史院，掌管天文历法之事。太医院，掌管医药和各种医药机构，同时制奉御用医药。将作院，掌管官府手工业。通政院，掌管全国驿站，后分置大都、上都两院。典瑞院，掌管皇帝的印玺信物。中政院，掌管皇后宫中财政、营造、供给。储政院，初名詹事院，掌管辅翼皇太子之事。另一类设官是各种名目的学士。有翰林兼国史院，负责拟写诏令，纂修国史。蒙古翰林院，负责翻译文字。集贤院，负责学校和征集人才，同时兼管道教、阴阳、占卜等事。下辖国子监和国子学。监负责学的教令，设祭酒、司业、丞等官。学负责教授生徒，以博士领衔管理。又有蒙古国子监和蒙古国子学，不隶集贤院，而归蒙古翰林院管理。奎章阁学士院，掌管进呈经史书籍，考校历史，纂修《经世大典》。下辖群玉内司，掌管图书宝玩；艺文监，主管以八思巴文字翻译儒学经典。
此外，还有称府、称寺、称司、称监的机构。称府的有大宗正府，设扎鲁忽赤若干，由诸王为之长，掌管治理诸王、驸马以下蒙古、色目人的刑名诉讼，也兼管蒙、汉相关的刑狱。侍正府，设侍正府侍、同知，掌管内廷近侍之事。称寺的机构设卿、少卿。多为主管斡耳朵的机构。如长庆寺、长秋寺、承徽寺、长宁寺、延徽寺等。蒙元皇帝、皇后的斡耳朵各有私产和人户，死后由亲族继承。除这一类机构外，还有武备寺，掌管兵器的制造和供应。太仆寺，掌管马政。尚乘寺，掌管皇帝御用车马。值得注意的是元朝不设大理寺，以其职掌归入御史台。称监的机构有太府监，设太卿、太监、少监，掌管财务库藏。领内、右、左库藏。都水监，设监、少监、丞，掌管河堤渠防。又在地方分设大都河道提举司，山东、河南行都水监等机构。秘书监，设卿、太监、少监，掌管图书。司天监，设提点、监、少监，掌管历象研究及教学。又有回回司天监，设官同司天监，是少数民族星象学者观察天象的专门机构。设司的机构有大司农司，设大司农、卿、少卿，掌管农桑、水利及赈济之事。大都（今北京）留守司，设留守、同知、副守，掌守卫京城。
