日本で初めての鉄道が本開業したのは、1872年10月14日（当時使用していた旧暦では9月12日）のこと。その区間は、現在の東海道本線と根岸線にあたる新橋～横浜間でした。
現在の東海道本線などの線路は、開業当時とほぼ同じ場所に敷設されています。ただし、大きく変わったのはその周辺の風景。品川やみなとみらいのビル群が150年前に無かったのはもちろんですが、当時は今ほど埋め立てが進んでおらず、海岸線は今よりも陸側にありました。
そのため、開業当時のこの路線では、一部区間で海上に線路を敷設していました。東京側では、現在の田町～品川間で築堤を建設し、汽車が海の上を走っていました。横浜側でも、現在の横浜駅付近では、海上に大きなカーブを描く築堤が建設されていました。東京側のものは、鉄道開業後の埋め立てによって「消滅」していましたが、近年の品川駅や高輪ゲートウェイ駅付近の工事によって出土。「高輪築堤」と呼ばれ、一部が保存・公開されることとなっています。
ちなみに、なぜ線路をわざわざ海上に通したのかというと、現在の田町～品川間では、当時は鉄道建設よりも軍備増強との声を挙げていた旧薩摩藩の藩邸、そして兵部省（陸軍省・海軍省の前身）の土地があったことで、土地収用に反対されたから、とされています。ただし、これには異論もあるようです。
また、横浜側の築堤に関しては、東京側のような土地問題の有無にかかわらず、当初から海上を通す計画だったようです。現在の横浜駅周辺は、鉄道開業当時は現在の環状1号線（旧東海道）付近まで入江となっており、築堤は線路をショートカットさせるために建設されたと考えられます。仮に高輪築堤付近であったとされる土地収用問題が解決し、田町～品川間に海上築堤が建設されることがなかったとしても、日本初の鉄道は海の上を走る路線となっていたのでしょう。
