日本是世界上第一个建成实用高速铁路的国家。1964年10月1日东海道新干线正式开通营业，高速列车运行速度达到210公里/小时，从东京至大阪间旅行时间由6小时30分缩短到3小时。这条专门用于客运的电气化、标准轨距的双线铁路，代表了当时世界第一流的高速铁路技术水平，标志着世界高速铁路由试验阶段跨入了商业运营阶段。

东海道新干线以其安全、快速、准时、舒适、运输能力大、环境污染轻、节省能源和土地资源等优越性博得了政府和公众的支持和欢迎。东海道新干线投入运营后，高速列车的客运市场占有份额迅速上升，每天平均运送旅客36万人次，年运输量达1.2亿人次。从而使包括东京、横滨、名古屋、大阪等大城市在内的东海道地区，原本旅客运输十分紧张的状况一下得到了缓和，也取得了预期的经济效益。使一度被贬为“夕阳产业”的铁路，显示出强大生命力，预示着“铁路第二个大时代”的来临。

1971年日本国会审议并通过了《全国铁道新干线建设法》，掀起了高速铁路建设的浪潮。1975年山阳新干线通车营业，列车最高时速270公里；1985年东北新干线通车营业，列车最高时速240公里；1982年上越新干线通车营业，列车最高时速240公里；1997年长野新干线通车营业，列车最高时速260公里。

日本修建高速铁路的成功经验，极大地刺激了西欧各国，终于促使一直对修建实用性高速铁路犹豫不决的西欧国家政府痛下决心，奋起直追。

继东京——大阪东海道515公里新干线建成通车以后，其他主要运输方向也都修建了高速新干线，主要有东海道(东京——大阪)、山阳(大阪——博多)、东北(东京——盛冈)、北陆(高崎——长野)和九州(八代——鹿儿岛)等新干线组成，总长2175.2公里。

日本正在实施扩大全国高速铁路网建设规划，初步计划到2013年建成的线路有：从八户到青森长96.5公里高速线(东北新干线延长线)；从青森到札幌长300公里的高速线(北海道新干线)；长野—富山—小松—大阪长473公里的高速线(北陆新干线延长线)；福冈—熊本—八代长130.9公里和福冈——长崎长140公里的九州新干线的2条支线。