由山西巡抚岑春煊和英国人李提摩太共同创办,设中学专斋和西学专斋,而这笔钱就是用的庚子赔款,由山西自筹赔款50万办学,每年缴5万两,10年为期,开设西学由李提摩太负责,开设英语、数学、文学、法律、物理、化学、采矿、格致、西洋史、世界史、体操、图画等,并开有物理和化学实验课。
1911年,10年期满,李提摩太顺利结束了自己的使命,便移交西学专斋。1911年辛亥革命以后,山西大学堂改名山西大学校。1918年7月,山西大学校列入国立范围,被称为国立第三大学。直至此时,全国公立(官立)大学仍只有北京大学、北洋大学和山西大学三所。