中书省乃是元朝的最高行政部门，负责总理全国政务，腹里地区直接归中书省管辖；行中书省、腹里、路、府、州、县则属于行政区划，其中行中书省、腹里为最高一级行政区，只不过将都城周边地区称作腹里，而将其他地区称作行中书省，至于路、府、州、县则是行中书省和腹里之下的四级地方行政区划。
中书省：全国最高行政机构，直接管辖腹里
忽必烈以前，蒙古实行的还是蒙古式的统治，各级行政机构大多也以蒙语为主。直到忽必烈于中统元年（1260年）即位后，才开始沿用中原官制，对管理机构进行全面汉化。
在这种汉化的趋势下，作为全国最高行政机构的中书省便成立了，主要负责总理全国政务。中书省的官员设置，则沿用了金国尚书省的制度，以中书令为最高长官，一般由皇太子兼任，如果还没有册立皇太子，则予以空缺。
中书省的实际长官则是左右丞相（元朝尚右，右在左上）各一人，负责中书省的日常政务。设平章政事四人，作为丞相的副手；另设左右丞各一人、参知政事两人，为执政官，这些被统称为宰执。此外，设参议中书省事4人，分别执掌左司、右司文牍，且有参与议定军国重事的权力。左司、右司则分别设郎中、员外郎、都事等官员。
中书省直接统领六部，乃是全国政务运转的中枢，且直接管辖腹里。
行中书省、腹里：一级行政区
元朝在逐渐统一全国的过程中，开始在各地区相继成立中书省、腹里，作为直接由中央朝廷管辖的一级行政区。
1、腹里，由中书省直辖。根据《元史·地理志》所载，“中书省统山东西、河北之地，谓之腹里”，也就是指黄河以北、太行山以东和以西的地区，即今天的河北、山西、河南、山东和内蒙的一部分。腹里其实有心腹之地的意思，因为这些地区都在京师周边，故而极为重要，这便类似于之后明清时期的直隶地区。
2、行中书省，由中央政府管辖。行中书省意为各地的中书省（也曾称行尚书省），乃是中央政府为维护其统治，在各地设立的最高行政机构，简称“行省”或“省”，是除腹里之外的一级行政区。各行省一般设平章政事两人（从一品），为最高行政长官，但也曾短暂设置丞相之位。元朝先后在全国设立岭北行省、辽阳行省、陕西行省、河南行省、江浙行省、江西行省、湖广行省、云南行省、四川行省、甘肃行省、征东行省等十一个行省，不过征东行省（高丽国）与其他行省不同，拥有更高自治权，故而又通常认为只有十个行省。
腹里和行中书省的区别在于，腹里由中书省直辖，而行中书省则拥有一定的自治权。
路、府、州、县：四级行政区划
在元朝之前，历朝历代普遍采取二级或三级行政区划来实行对全国的统治，例如西汉的“郡-县”二级制和东汉的“州-郡-县”三级制，又如隋唐时期的“州-县”二级制和“道-州-县”三级制，以及宋朝的“路-州-县”三级制。但到了元朝，除了一级行政区之外，在其下还设置了四级行政区划，从而形成了“省-路-府、州-县”四级制，层级管理更为明晰。
其中，腹里和行省下辖路，路则领府、州，府、州则辖县。其中诸路设总管府，最高长官称总管。散府则设知府或府尹，诸州则设州尹（上州）和知州（中州、下州），县则设县令。
例如腹里下辖大都路、上都路、兴和路、永平路等路，而大都路又下辖霸州、通州、蓟州、顺州、檀州等州，而通州又下辖潞县、三河县。
又如四川行省下辖成都路、嘉定路、广元路、顺庆路等九路、五府，其中广元路又下辖保宁府和剑州、龙州、巴州、沔州，保宁府则下辖阆中、南部、苍溪、西水、奉国、新井、新政七县。
需要注意的是，元朝的府分为直隶府和属府，直隶府直属于行省管辖，属府才属于各路管辖。此外，元朝的路、府、州、县分别分为上、中、下三等，分别决定了其最高长官的品级，例如虽然同为知州，但中州的知州乃是正五品、下州的知州则只有从五品。
元朝实行行省制度。元朝废除尚书省和门下省，保留中书省与枢密院、御史台分掌政、军、监察三权，地方实行行省制度，开中国行省制度之先河。元朝地方最高行政机构，并为一级政区名称。简称行省，或只称省。元置中书省总理全国政务，也称都省；因大元幅员辽阔，除腹里地区直隶于中书省、西藏地区由宣政院管辖外，又于诸路重要都会设立十个行中书省。以分管各地区。
在世祖、武宗朝三次短期设立尚书省主管政务期间，行中书省也相应改称行尚书省。元人称其制为：“都省握天下之机，十省分天下之治。
