一般说，临沂地质地貌，构造复杂，地层发育比较齐全，从太古界至新生界，除上奥陶统、志留系、泥盆系、下石炭统、三叠系及中、下侏罗统、老第三系古新统、新第三系地层缺失以外，其他各期地层都有发育。
主要构造以郯庐断裂带（境内称沂沭断裂带）为主，郯庐断裂带经郯城北北向延伸，纵贯全市，以断裂为界，临西为鲁西台背的一部分，属华北地台范畴，临东为胶南隆起的一部分，属扬子大陆块范畴。
临沂以沂、沭河为中心，西、北、东三面群山环抱，向南构成扇状冲积平原。山地、丘陵、平原面积比例为2：4：4。
山地集中分布在沂水、沂南、蒙阴、平邑、费县、莒南等县。地势较高，一般海拔400米以上。山地植被比较茂密，是发展林果业、畜牧业的主要基地。
丘陵主要分布于山区外围，沂水、沂南、莒南、兰山、兰陵、临沭、郯城、平邑等地都有分布，以沭河以东分布最广，一般海拔200米─400米。
平原有沂沭河冲积平原、山间沟谷平原、涝洼平原。沂沭河冲积平原主要分布在沂水南部、沂南东部、河东、兰山、罗庄、兰陵、郯城。山间沟谷平原主要分布在费县、平邑中部，蒙山前平坦谷地，蒙阴、沂南、沂水等县的山间沟谷之中。涝洼地平原主要分布于兰陵和郯城南部。
临沂境内山脉自北而南，有沂山、蒙山、尼山3条主要山脉，海拔1000米以上的山峰有10余座。其中蒙山海拔1156米，为山东第二高峰，素称“岱宗之亚”，久负盛名，享誉中外。境内有不少由流水侵蚀造成的桌状山，当地称为“崮”，素称沂蒙七十二崮。
