据年逾70岁的香山寺住持释觉庭大师说，香山寺其实是由商山寺念转音流传下来的。而商山寺的寺名则是由一个传说演绎而来。
很久以前，豫东南这一带有一对姓商的贫穷夫妻，年过半百，膝下无子，心地善良，从不杀生。有一次这夫妻俩下地干活回来，在路边拾了一只“鸟蛋”，没舍得煮着吃，却把它白天揣在怀里，夜晚放进被窝，想孵化出一只小鸟，谁知却暖出了一条小蛇。夫妻俩心怀慈悲，便把这条小蛇留了下来，精心喂养，还给小蛇取名“小山儿”，就像对待亲生儿子一样尽心尽力照看着。
有一年，当地大旱，颗粒无收，商老汉夫妇二人便拉着“小三儿”和铺盖卷沿路乞讨，来到永宁西山一个叫纸房的地方住了下来。小蛇一天一天长大，食量一天一天增加。本来就家贫如洗的老夫妻实在无力再喂养日渐长大的“小三儿”，便把它带到少女峰的树林边，流着泪说：“三儿啊，你看我俩越来越老了。家里又没啥吃，实在养活不了你，你就到山里逃条活命吧！”说完，挥泪把他们心爱的“小山儿”放归在密林里。然后，这对老夫妻也离开纸房一路向西沿门讨饭走了。
几年以后，“小三儿”已长成了一条大蟒蛇。由于没人看管，日渐露出了伤害生灵的野性，在罗岭一带祸害百姓。一时间，吃得路断人稀，闹得人心慌慌。官府广贴告示，招聘高手除害，却无人能降服这一条蟒蛇。
无奈之际，有人到官府禀告了这条蟒蛇的来历，要官府寻找那对老夫妻。官府又四路下帖子，寻找那对老夫妻。再说那商氏老夫妻俩在外地要饭，也听说了罗岭一带蟒蛇伤人的事。夫妻俩暗自思量是不是咱那“小三儿”成了精在那里伤人？真要是它，这才是咱俩造的孽啊。想到这儿，夫妻俩又一路向东讨饭，赶回罗岭。
一天，老夫妻俩来到路断人稀的蟒蛇出没之地，正待呼叫，忽然一阵阴风骤起，树稍忽忽摇晃，耳边沙沙作响，刹时一条水桶粗细的青色巨蟒向老夫妻俩扑来。说时迟那时快，这对老夫妻齐声大叫：“小三儿，你要干啥？”一语喊出，那条蟒蛇竟然真的停了下来，乖乖地爬到老夫妻脚下，一动也不动了。一时风停树静，万籁无声。老夫妻见状，涕泪双流，嘴里一个劲儿地数落：“小三儿啊小三，我们把你当成家里一口人，给你喂养大。之所以把你放归深山，是我们实在无力再养活你。不料几年不见，你却在这里伤人害命，叫我们咋有脸面面对父老乡亲。想想这几年你伤害了那么多的人，我们一死也难谢罪。”说着，老夫妻俩都一头撞死在大树上。
再说这“小三儿”一看是由于自己作恶害得恩重如山的俩老人撞头身亡，也悔恨不已，自感只有一死方可报答俩老人的养育之恩。于是，高高跃起，重重摔下，如此几回，命断气绝。
自此，罗岭一带又恢复了往日的平静。人们厚葬这对夫妻，也把通达人性的“小三儿”掩埋了。为了纪念这对老夫妻，人们便把连伤三命的地方叫做“伤三”，由于那对老夫妻中的老汉姓商，人们又把这座小山改称“商山”，尊称这两位老夫妻为“商山爷”和“商山奶”，并且在山上盖庙塑像，香烟供奉。这便有了“商山寺”。由于豫西一带方言浓重，“商”和“香”音转，久而久之，“商山寺”被念成“香山寺”。到这里烧香祷告的人一年比一年多，商山寺整天香客如云，香气沁人，慢慢地人们就把这“商山寺”改称“香山寺”了。
