交通銀行最早成立于1908年3月4日,總部設在北京。時值清政府末期,正是中國歷史巨烈變革之時。當時外商銀行進駐中國不僅攫取了中國鐵路的筑路權,還通過賠款的清償,控制了中國的關稅收入。國內的銀行很難與外商銀行相抗衡。在朝野一片要辦“自己的銀行”的呼聲下,1907年11月,清政府郵傳部正式奏請設立交通銀行。
交通銀行成立后做的第一件事就是負責借款贖回京漢鐵路。1908年12月,京漢鐵路收回,交通銀行完成了創辦的初期使命。
1928年,交通銀行總管理處由北京遷至上海。1935年11月國民政府實行法幣政策,交通銀行所發行的貨幣亦被定為法幣。
1949年,交通銀行在國內的大量外匯資金陸續移至菲律賓交通銀行。上海宣告解放后,軍管會接管了交通銀行。1949年11月1日,經過接管和整編,交通銀行復業。業務重點是公營工礦、交通事業的信貸服務。該年12月,總管理處又由上海遷至北京。
1954年,中國人民建設銀行成立。根據形勢的需要,交通銀行自1958年起,除香港分行繼續營業,內地業務分別并入當地中國人民銀行和建設銀行,其內地各分支機構亦不再存在。
1984年底,上海市政府和國務院調研組聯合向國務院提出關于上海經濟發展戰略的報告,提出要恢復上海作為太平洋西岸重要的經濟、金融和貿易中心城市的地位。同年12月,國務院調研組進一步建議“在中國人民銀行之下,設立一個新的全國性銀行,與4個專業銀行平行,總部設在上海,經營對內對外長期短期存放匯業務,可以與其他銀行業務交叉,允許在外地設立分支機構。……