哈尔滨的历史源远流长，是一座从来没有过城墙的城市。早在22000年前，旧石器时代晚期，这里就已经有人类活动。大约5000年前，哈尔滨地区进入新石器时代。大约3000年前，殷商晚期，哈尔滨进入青铜时代，属于黑龙江地区最早的古代文明国家--白金宝文化的分布区域。
哈尔滨是金、清两代王朝的发祥地。公元1115年，金代在上京（哈尔滨阿城市）建都。19世纪末，哈尔滨已出现村屯数十个，居民约3万人，交通、贸易、人口等经济因素开始膨胀，为城市的形成与发展奠定了基础。
1896年至1903年，随着中东铁路建设，工商业及人口开始在哈尔滨一带聚集。中东铁路建成时，哈尔滨已经形成近代城市的雏形。20世纪初，哈尔滨就已成为国际性商埠，先后有33个国家的16万余侨民聚集这里，19个国家在此设领事馆。与此同时，中国民族资本也有了较大发展，建立起哈尔滨在当时的北满经济中心和国际都市地位。
哈尔滨是中国马克思主义思想传播较早、工人和学生运动比较活跃的城市。1923年，哈尔滨成立东北地区第一个党组织。1927年，在哈尔滨召开了东北地区第一次党代会，并成立满洲临时省委。哈尔滨成为党领导东北人民进行革命斗争和后来抗日斗争的指挥中心。
1932年，哈尔滨沦为日伪统治。在中国共产党的领导下，哈尔滨人民进行了艰苦卓绝的斗争，先后涌现出赵尚志、杨靖宇、李兆麟、赵一曼等名垂千古的民族英雄和革命烈士。1945年，哈尔滨从日伪统治下解放，人口已达70余万。1946年4月28日，哈尔滨正式建立了人民政权，成为全国解放最早的大城市。
新中国成立后，哈尔滨迅速恢复和发展国民经济，在“一五”时期，哈尔滨是国家重点建设城市之一，前苏联援建的156项重点建设工程，有13项设在哈尔滨，成为国家重要工业基地，并迅速由一个消费城市转变为新兴工业城市。1958年至1965年，哈尔滨经历了“大跃进”和经济调整的曲折发展过程。“文化大革命”期间，哈尔滨的国民经济遭到严重挫折，正常的经济、社会秩序受到严重破坏。
1996年，国务院批准松花江地区与哈尔滨市合并组成新的哈尔滨市。哈尔滨市辖七区十二县（市），行政区划面积5.3万平方公里，全市总人口948.3万人。
2004年2月4日，国务院批准了哈尔滨市部分行政区划调整。调整后的哈尔滨市辖道里、道外、南岗、香坊、动力、平房、松北和呼兰8个区和宾县、巴彦、依兰、延寿、木兰、通河、方正7个县，代管五常
