雷祖祠历史悠久，洞内文物十分丰富，有千年五人、乾隆御赐匾额及历代碑刻30余通。历代显宦名流，骚人墨客，游览之余无不留下感人的诗篇。寇准有诗，东坡有赋，丁谓作记，车钢题碑，这些诗赋碑刻历尽人世沧桑至今尚珍藏于洞内，堪称祖国文物之瑰宝。雷祖祠神话传说纷经，其中千年五人就有一段美丽的传说：五代后梁开千四年，寇贼符盘容等不输税粮，倡乱骚扰，还煽动民族纠纷，闹得雷州无宁日。铁差都知司马陈真，带领12只船的兵力，围剿征讨。当时，符孟喜等驻师届中，因朝廷官兵不熟悉情况，屡战不胜。后来，除禁虔诗雷祖，并于庙前张榜招兵。次日复战，陈没远远望见香祖陈文工与汉太剧李广协同阴兵助战，这场战斗果获大胜，但贼首来挽。至夜，陈霞梦见雷祖对其回：“赋来降我，我收在庙前，化为石人。”黎明起规，果见四石人跪于庙庭，其中一个被杀了头。雷州从此得以太平，陈嘉等拜谢雷祖，并具疏奏闻朝廷，于开平改元乾化二年，朝廷命郡官重建雷祖庙宇，并于雷祖庙西建李大尉庙，塑太尉像，与英山石神列而为三，称“雷祠三段”。
唐贞观年间，南合州境内居有黎、瑶、壮、泉、侗、苗等少数民族。唐王朝为了稳定边疆，便启用土著陈文王出任本州刺史。陈文玉任职期间，精察束治，巡访境内，消民疾苦，政教并行，使人民安居乐业，民皆富庶，风俗大变。在施行德政之余，文玉深感本州乃天南重地，四海有事，兵家必争，为使黎庶安宁，便大修城池，公款不足则自捐薪俸，不费民财，并具流把古台州改名雷州。雷州之名乃始于唐贞观八年(公元634年)而沿用至今。
雷祖祠自唐贞观十六年组建，迄今已1350多年了。方志典籍多有记载，唐代刘们的岭表录异人宋代太平查字记入来本方舆览胜火明末清初的《广东新语》 ， 《于不语》以及当代出版的华夏诸神入《超凡世界》 、 《中国崇拜物》等书部均有记述。古代闻名于世的“天下四绝”(雷州换鼓、钱塘江潮、广梅埋藏、登州海市)中的“雷州换鼓”就是发生在雷祖词的民俗事家。“雷州换鼓”是古代雷州人在雷祖洞内举行的一种隆重的“条香”仪式。 《雷祖志》载：“‘至于……雪车雷鼓等物，各以板囹藏于庙内，令郡民当里役者依样修造，逢上元日，齐候文武各官送入商致祭，名曰‘开雷’。又办酒席—官民同乐，组得风调雨顺，不然则岁悍年凶，自是有待则应，银都获享国泰民安之福”。《广东新语》云：“六月二十四日，雷州人必供雷鼓以刚雷，诗而得雷公之墨，光莹如漆，则以治邪览惊底”“雷公墨”即陨石，古代雷州人称为“雷公石”或“因留雄”，并当作一种驱邪避灾之物，可见古代雷州人把雷公作为一种能造福或降祸于人的强大力量象征而铭刻于心，所以“秦香”仪式的隆重也不言而喻了。现在，“雷州换政”早已失传，当代雷州人只能从典籍中窥见一二。
