梁山原名良山。至汉代,汉文帝第二子被封为梁孝王,此人挥金如土,广游南北,经常在此狩猎,晋代袁宏在其《北征赋》中有“背梁山,截汶波”之句。孝王死后葬于良山北麓,良山改名梁山。现在梁山北麓尚有梁孝王墓遗迹。
梁山县的地势比较低洼,北宋年间三次黄河决口都在梁山附近,常与南面的巨野泽连一片,从而形成号称方圆八百里的“梁山泊”(实际上方圆只有四百里左右)。《水浒》中的一百零八将在此“聚集”,梁山泊因此驰名中外。
水泊梁山相传有宋江等人在此起义。宋江起义的时间在宣和元年到宣和三年。起义主要涉及的地域在太行山及山东及江苏北部一带,“横行河朔,转略十郡”。起义的首领是宋江。起义具有流寇性质,不一定有固定的根据地。起义的结局是严重受挫后投降。起义的中心区域梁山泊,距东京汴梁仅百公里左右,严重威胁着京城的安全。
起义所涉及的地区,在北宋是比较发达的。梁山泊在宣和年间是广济河中部的个湖泊,而广济河上游就是从北宋的都城汴梁城中流出,广济河又是京东重要的漕运通道,占据广济河中间的梁山泊,对于北宋朝廷的政治、经济、军事威肋可想而知。宋江起义的故事在宋史上能够记上一笔,在民间广为流传,足以说明它的影响。