传说：
很早以前，青羊宫那个地方还是块大坝子，是人们赶场买卖羊子的地方，叫青羊市。
有一天，人们正在赶场，天上忽然飘来一大朵五彩云。云头上面，有个清瘦的白胡子老头儿端坐在一头青牛背上，牛屁股后头还拴了两只羊子，随着彩云慢慢降落。牛四蹄一着地，老头儿就从牛背上跨了下来。有人惊呼呐喊地说：“哎呀，这是李老君嘛啷个他也来卖羊子呢”很多人丢下羊子，都跑去围倒李老君。远处，一个断了腿的叫化子想往这边爬，又没得力气。老君分开众人，走到这个叫花子面前，用手中的蚊帚子在他断腿上一扫，叫花子马上就长出了新腿。他起身对着老君就拜。
这下子不得了，大家都给老君磕头，求他医这医那。老君笑呵呵的，依次用蚊帚从他们头上扫过，结果瞎子不瞎了，齁包儿不齁了，聋子也不聋了。治好了大家的病，李老君就跨上牛背，驾起五彩云飞走了。
临走，李老君把随身带来的两只青羊点化成铜羊，留在了青羊市。这两只铜羊灵奇得很，不管是哪一个，只要自己身上哪个地方痛跑去摸一下铜羊身上相同的地方，马上就不痛了。
后来，大家凑钱在这块坝子上盖了座庙子，把李老君骑在青牛背上的塑像供奉在大殿内，又把铜羊搬来放在大殿门口左右两边，庙子就取名叫青羊宫，这座大殿就叫老君殿。
