林州历史悠久,古名隆虑,出自战国韩国“临虑邑”。
在夏属冀州,春秋时先属卫,后属晋。 战国时为韩国临虑邑,后属魏国,而后又属赵国。 秦属邯郸郡。
西汉高帝二年(公元前205年) 置县,以西邻隆虑山取名置“隆虑县”,属河内郡。 东汉延平元年(公元106年) 因避殇帝刘隆讳,改名林虑县,建安十七年(公元212年) 属魏郡。 三国属魏国朝歌郡。
西晋泰始元年(公元265年) 属司州汲郡,永嘉元年(公元307年) 属前赵。 东晋大兴二年(公元319年) 属后赵,永和七年(公元351年) 属前燕,太和五年(公元370年) 属前秦,太元九年(公元384年) 属后燕。 北魏太平真君六年(公元445年) ,并入邺。 太和二十一年(公元497年) 复置林虑县。
永安元年(公元528年) 由林虑县分置临淇县,置林虑郡,属相州。 北齐天保七年(公元556年) ,废林虑郡。
北周复置林虑郡。 隋开皇三年(公元583年) 林虑郡废,南部分置淇阳县,开皇十六年(公元596年) 置岩州,大业元年(公元605年) 废州,淇阳县、临淇县并入林虑县,属魏郡。 唐武德二年(公元619年) 复置岩州,武德五年(公元622年) 废州为县,属相州。 金贞佑三年(公元1215年) 升为林州,属河北西路彰德府,兴定三年(公元1219年) 增置辅岩县,属林州。
元至元二年(公元1265年) 废州为县,辅岩县并入, 至元六年(公元1269年) 复升为州,划辅岩入安阳县,属中书省彰德路。 明洪武三年(公元1370年) 降州为县,改名林县,属河南布政司彰德府。 清属河南省彰德府。
中华民国2年(公元1913年) 属河南省河北道。 中华民国29年(公元1940年) 3月分为林县和林北县,林北县属晋冀鲁豫边区太行区第五专区,林县属国民党统治区。 中华民国32年(公元1943年) 5月成立林县抗日民主政府,林县属晋冀鲁豫边区太行区第七专区。 中华民国35年(公元1946年) 6月林县、林北二县合并,复称林县,属晋冀鲁豫边区太行区第五专区。 1949年8月属平原省安阳专区。 1952年11月属河南省安阳专区。