日本的一级行政区划单位为都道府县,全国划分为1都、1道、2府、43县。
部份市因人口较多,在当地影响较大,而被指定为政令指定都市、中核市、特例市。
都道府县下的行政区划为市町村,此外还有郡、支厅、区、特别区等行政单位。根据地理与人文、经济特征,日本通常被分为八大区域,包括了北海道地方、东北地方、关东地方、中部地方、近畿地方、中国地方、四国地方和九州-冲绳地方。
郡是日本自1878年起所设立在都道府县下的行政区域,通常辖有数个町或村的自治地方,市级的自治地方则不隶属郡的管辖;但此日本郡制已于1926年废止,目前郡只作为地名的表示,并无任何治理功能。