历史上中书省是丞相领导的。
在明朝之前，经常出现君权与相权相争的现象。有时候君主独断政事。但有时候掌握中书省的丞相掌握大权，皇帝沦为傀儡。
所以在明朝以后皇帝就废掉了丞相一职。中书省分成了六部。直接受皇帝管辖。
而行省是元朝开始设立的，主要是管辖全国各地。是秦朝郡县制，汉朝州牧制，以及唐朝州县制的延续。
“中书省“与”行中书省“的区别：中书省是皇帝直属的中书官署，为秉承君主意旨，掌管机要、发布皇帝诏书、中央政令的最高机构。而行中书省则是直属中央政府管辖的一级行政区，当时主要作为军事管理，掌管所辖省内的钱粮、兵甲、屯种、漕运及其他军政事务。中书省中书省，古代皇帝直属的中枢官署之名。封建政权执政中枢部门，汉朝始设中书令，魏国建秘书监，有监、令，魏曹丕改称中书监、令。晋朝以后称中书省，为秉承君主意旨，掌管机要、发布皇帝诏书、中央政令的最高机构。沿至隋唐，遂成为全国政务中枢（三省六部制）。宋元时中书省设中书令和中书丞相，明清时期废其名称。行中书省是元朝地方最高行政机构,并为一级政区名称.简称行省,或只称省.元置中书省总理全国政务,也称都省；因幅员辽阔,除腹里地区直隶于中书省、吐蕃地区由宣政院管辖外,又于诸路重要都会设立十个行中书省,以分管各地区.在世祖、武宗朝三次短期设立尚书省主管政务期间,行中书省也相应改称行尚书省.元人称其制为：“都省握天下之机,十省分天下之治.”
