1881年，在李鸿章的多番争取下，清朝建成了第一条铁路--唐胥铁路。令人感到好笑的是，拉火车车厢的牵引车不是火车头，而是几头骡子。骡子拉火车，每次拉一节车厢，在铁路上驰骋，这条铁路被当时的人们戏称为“马车铁路”。
这条铁路的修建过程和李鸿章的努力分不开。1879年左右，开平煤矿产量增加，煤炭运输成了大问题。
李鸿章当时担任直隶总督，多次向朝廷上奏，希望修一条从唐山煤矿到天津港口的铁路，好让北洋舰船和工厂有足够燃料。当时传统的车马和船运效率低，耗费人力物力多。
朝廷里有些官员坚决反对，说火车声音大，烟尘会影响庄稼，还可能惊动东陵祖陵。李鸿章只好先组织人力挖运河运煤。
挖到胥各庄附近，地势高，工程难推进。他又上书，只修唐山到胥各庄这一小段，名义上叫“快车马路”，不用火车头，只用骡马拉车厢，这样才得到批准。
1881年6月9日，唐胥铁路正式动工，由开平矿务局出资，聘请英国工程师金达监修。线路全长9.7公里，采用1435毫米标准轨距，用每米15公斤的钢轨，11月就建成通车。

建成后，确实先用骡马拉运煤车厢，一次拉一节，往返矿区和码头之间。当时人觉得新鲜，就叫它马车铁路。
李鸿章这么做，主要为了先把铁路建起来，让事实说话，避免反对声音太大。实际运行一段时间后，运输优势显现出来。
1882年左右，中法战争前夕，煤炭需求猛增，李鸿章以战备需要为由，申请用上火车头。朝廷同意后，先是中国自造的龙号机车投入使用，后来又从英国买来两台机车，铁路才真正发挥作用。

1886年，开平铁路公司成立，负责经营。1887年，在醇亲王奕譞支持下，铁路向西延伸到芦台。
1888年继续修到天津，全长130公里，改称唐津铁路，李鸿章还主持了通车仪式。1894年，线路再向东延伸到山海关，天津到山海关段叫津榆铁路，成为连接华北和东北的重要干线。
李鸿章一直推动这些扩展，直到1901年11月在北京病逝。这条铁路后来不断并入更大网络，成为京奉铁路和京山铁路的一部分。
1976年唐山发生大地震，铁路设施受损，轨道变形，枕木移位。但震后很快修复，首批救援物资就是通过这条线路运进灾区。