公元前210年，传说秦始皇第五次出巡回归，至金陵时，几个陪同的望气术士见金陵四周山势峻秀，地形险要，就对秦始皇说：金陵有天子气。秦始皇一听大为不悦，命人开凿方山，使淮水流贯金陵，把王气泄散，并将金陵改为秣陵，此时的湖泊更名为秣陵湖。
东汉建安末年，诸葛亮出使江东路过南京，作出“钟山龙蟠，石头虎踞，此乃帝王之宅也”的风水评价，玄武湖在六朝时面积比如今大，而且直接与长江相通，湖中可以成为水军训练场所。[8]
汉末时期，因秣陵都尉蒋子文葬于湖畔。
三国时期，吴大帝孙权为避祖父孙钟名讳，改名“蒋陵湖”，并引水入宫苑后湖，因为玄武湖位于燕雀湖和太初宫之北，故又名“后湖”、“北湖”。
东晋到南朝时期，玄武湖先后有过昆明湖、饮马塘、练湖、习武湖、练武湖等名称，玄武湖进入历史上的第一个鼎盛时期。
六朝时期，玄武湖是封建帝王的游乐之地。出于帝王都“四神布局”的需要，又由于刘宋元嘉二十五年（448年）湖中两次出现“黑龙”，因而又称玄武湖。宋大明三年曾在湖上设立上林苑，南岸还设立乐游苑、华林园。齐大明年间，武帝常半夜出猎，或到钟山，或到幕府山，上万宫女严装陪同，天亮时回来刚刚听到鸡叫，“玄武湖中玉漏催，鸡鸣埭口绣襦回”之句源出于此，至今武庙闸附近还有鸡鸣埭的地名。
刘宋元嘉初年，宋文帝对玄武湖进行了一次大规模的疏浚，挖出来的湖泥堆积在一起，成了露出水面的小岛。其中最大的为“蓬莱”、“方丈”、“瀛洲”三岛，合称“三神山”，这就是今天玄武湖中梁洲、环洲和樱洲的前身。
玄武湖古称桑泊、秣陵湖、后湖、昆明湖等。相传南朝刘宋年间，有黑龙出现，故称玄武湖。北宋时王安石实施新法，废湖为田，从此玄武湖消失。明代朱元璋高筑墙，玄武湖疏浚恢复，成为天然护城河。1911年做为公园开放，1954年后，开始大规模园林建设
