Sau khi chiếm được Miền Bắc, thực dân Pháp bắt đầu công cuộc khai thác thuộc địa. Đường sắt là phương tiện chuyên chở chủ yếu. Để nối Hà Nội với Hải Phòng, người Pháp đã cho xây dựng tuyến đường sắt dài 102 km nối liền hai thành phố này. Ngày 16-6-1902, toàn tuyến được chính thức đưa vào khai thác và kèm theo đó là sự ra đời của ga Hải Phòng.

Ngày 21-10-1946, sau khi dự hội nghị Fontainebleau trở về đến Cảng Hải Phòng, chủ tịch Hồ Chí Minh đã đến ga Hải Phòng và khởi hành về thủ đô Hà Nội.

Sau chiến dịch Điện Biên Phủ năm 1954, Pháp đồng ý rút hết quân về nước. Hải Phòng là điểm sau cùng của đường sắt miền Bắc còn bị chiếm đóng. Cùng với nhân dân, công nhân khu đường sắt Hải Phòng, công nhân nhà ga đã có 12 cuộc đấu tranh bảo vệ máy móc, vật liệu. Ngày 13-5, bộ đội Việt Nam tiếp quản ga Hải Phòng. Sáng ngày 15-5-1955, nhà ga hoạt động bình thường, đón tiếp tàu chở bộ đội và cán bộ tiếp quản vào thành phố; tuyến Hà Nội - Hải Phòng hoạt động trở lại như thường lệ.