云岗石窟是属于北魏佛教里面很有浓郁气息的真实色彩，曾经北魏主要是由鲜卑人建国，刚开始不信奉佛教，自从建国之后，佛教依靠皇权快速发展起来，从而导致寺院经济膨胀，对国际经济利益造成影响，加上佛道之间有很大的竞争力，造成出现规模很大的灭佛事件。
太武帝生前由于对废掉佛教之举有很大的回忆，因此在文成帝顺利继承了皇位之后，又开始推出了复兴佛教的想法，然后昙曜表示可以开凿石窟，各种不同的佛像获得了文成帝的认可，因此昙曜就开始去打造云冈石窟。
北魏，云冈石窟的开凿从文成帝和平初（460年）起，一直延续至孝明帝正光五年（524年）止，前后60多年。此后的东魏、北齐、隋及初唐，平城改为云中郡恒安镇治。
唐代，据金皇统七年（1147年）曹衍撰《大金西京武州山重修大石窟寺碑记》载："贞观十五年（641年），守臣重建"；唐慧祥撰《古清凉传》卷上（古今胜迹三）记载，当时有一位俨禅师"每在恒安修理孝文石窟故像……以咸亨四年（673年）终于石室"。初唐以后，平城呈现萧条景象，云冈石窟的建设因受多方面因素的影响未有大项工程。
辽金，辽兴宗、道宗时期，辽皇室曾对武州山石窟寺进行过延续十年之久的大规模修整。修建了石窟前接木构窟檐的通乐、灵岩、鲸崇、镇国、护国、天宫、崇福、童子、华严、兜率十座大寺，并对一千余尊佛像进行了整修。辽保大二年（1122年）金兵攻占大同，"寺遭焚劫，灵岩栋宇，扫地无遗"（《大金西京重修华严寺碑》）。金皇统三年至六年（1143-1146年），住持法师禀慧重修"灵岩大阁"（今第三窟外的阁楼），"自是，山门气象，翕然复完矣。"
