曲阜孔庙的历史可以追溯到孔子逝世的第二年,即周敬王四十二年(鲁哀公十七年,前478年)。宗庙规格按照周代礼制规定:“天子七庙,诸侯五庙,大夫三庙,士一庙,庶人无庙。”士与大夫的庙设定在其住宅东侧,与住宅同为一大门之内。孔子在鲁国从政时,最高任过“大司寇”,但在其周游列国回国之后,一直未重新从政,所以论其身份,仍为“布衣”。
后人为其立庙,实际上有所不同于常礼。最初的立庙是为了追慕悼念孔子,将孔子生前所穿过的衣物、乘过的车、用过的琴等遗物收集于孔子生前故居内,做以纪念。此时的孔庙布局尚无记载,只能按常理推测为庙屋三间。