1949年9月，山西省人民政府成立以后，吕梁境内设兴县专区和汾阳专区，兴县专区辖有兴县、临县、离石、方山、岚县等11县，汾阳专区辖县有汾阳、孝义、交城、文水、中阳、石楼等9县。
1951年3月27日汾阳专区撤销，交城、文水、汾阳、孝义等县划归榆次专区，中阳县划归兴县专区；石楼县划归晋南专区。
1952年7月1日，兴县专区撤销，兴县、岚县划归雁北专区；临县、方山、离石、中阳划归榆次专区。
1954年7月1日，离石、方山二县合并为离山县。
1958年11月10日，文水、交城二县并入汾阳县，中阳县与离山县合并为离石县，孝义县并入介休县，岚县分别划入静乐和兴县，石楼县并人吕梁县。
1959年9月19日除孝义县以外其它各县恢复建置，1961年5月恢复孝义县建置。
1971年5月1日。吕梁地区组建，同时恢复方山县，新增设娄烦、交口二县；1972年4月，娄烦县划归太原市；1971年10月5日，新增设柳林县。1992年孝义撤县设市；1996年离石市撤县建市；1996年汾阳撤县建市。
2003年10月23日，国务院批准吕梁撤地设市，同时下辖的离石由县级市改为市辖区，下辖的孝义、汾阳两个县级市改由山西省直辖、吕梁市代管。
2004年4月14日12日,中共吕梁市委在330万老区人民的欢笑声中挂牌成立。新成立的吕梁市委仍设在原吕梁地区所在地离石市。原离石市撤销市的建制改为离石区。
2004年7月9日，吕梁市正式挂牌成立。
