6500万年前就有了日本岛：日本的神话中说：“伊邪那岐和伊邪那美将天沼矛插入海水，再将矛拔起，矛上的海水滴下，凝固成为淤能棋吕岛”。后来，两位神仙在岛上结婚，创造出十四个岛，这些岛最终被命名为“苇原中国”。这就是神话中日本列岛的起源。
神话终究是神话，回到现实中。早在6500万年前，日本列岛就在板块的相互作用力下开始形成。第三纪和第四纪（更新世、完新世）这数千万年间，日本列岛的基本构架逐渐形成。在此期间，世界经历了至少两次的冰暖交替，海平面经历过剧烈的变化。
但根据一些考古依据，考古学家判断出，日本最初并不是“列岛”，而是与大陆相连的，从两点就能判断得出。
第一：大陆架
日本列岛及其周边延伸着大陆架，最深处的大陆架约深200米，而在日本的部分海峡，水深最大仅40米左右，南北两端的大陆架均和大陆相连。
第二：生物化石
考古学家曾在日本列岛更新世的地层处发掘出大量的古生物化石，包括长毛象这一类大型动物的化石和各种其他兽类生物的化石。可以判断出，这些生物是从亚欧大陆，沿着大陆架到达日本的。
综合地质学和生物学的研究结果，科学家判断，大陆架的形成最早可追溯至约100,000年前，最晚的可追溯至20,000年前。而后来，由于地壳隆起，在距今约10,000年前，日本列岛最终形成。
