卫青是病死的。卫青率兵去攻打匈奴，因长途跋涉，日夜兼程，经常是一面行军一面作战，在漠北、漠西等地的路程偏远并且气候恶劣，导致卫青的身体负荷太大，落下了病根。
卫青回到长安后，虽然多加休养，但是病情一直不见好转，并且以一年比一年更严重的趋势恶化，以致卫青到了四十多岁便因病去世。
卫青去世后，汉武帝为纪念他的战功，在茂陵东北修建了一座阴山形状的墓冢，“起冢象庐山”，谥号为“烈”，可见汉武帝对卫青的尊敬。
卫青是在元封五年(前106年)病逝的，他的死和任何人没有关系，但是他的家人就非常的悲惨了，被灭九族，而且可以说是被冤枉的。卫青死后，汉武帝到了晚年，卫家在外势的权力慢慢没落了，晚年的汉武帝已经没有年轻时候的那种精明了，所以当时就被江充等小人借机制造了“巫蛊之祸”，害死了太子刘据和卫子夫等人，当时受牵连的人接近数万人，而卫青的九族人也在里面，当汉武帝悔悟的时候，为时已经晚了。
《资治通鉴》卷二二记述了汉武帝与卫青、太子之间的故事。当初，汉武帝在29岁时才生了太子，这是武帝第一个儿子，自然非常喜爱。随着太子一天天长大，武帝观察到太子个性仁慈宽厚、谦和，似乎没有自己那样精明强干，因此感觉有些遗憾和失望。后来，武帝的其他几位夫人陆续为他生刘闳、刘旦、刘胥和刘髆几个皇子。
皇后和太子觉察武帝对他们母子的逐渐疏远，开始常常陷入惶恐不安之中。武帝知道后，让卫青向皇后、太子转达：我朝很多大事都还处于草创之中，周边外族对我们侵略不断，朕不得不对内厉行改革，对外大力征伐；否则后代子孙治理政务没有法度可以遵循，国家也没有真正的太平局面。
武帝特意请卫青做中间人，显然是有深意的。与其说，他这些话是在安慰皇后、太子，不如说，他主要是为安慰自己这位战无不胜的大将军。这位在战场上敌人不可战胜的大将军，是西汉以强盛帝国的姿态屹立于世界东方的重要因素。
