1896年，刑部左侍郎李端棻上奏《推广学校》一折，建议自京师以及各省府州县皆设学堂。
1896年3月，由清代著名翻译、近代小学教学方法改良的先行者钟天纬开办的三等公学开学。
盛宣怀将上海电报局总办经元善捐出的高昌庙经正书院旧屋暂借给钟用作该校校舍。
钟天纬于当日发布启示，先开蒙馆三塾，将来待经费许可，再开设六塾，将学有成效者，送南北洋大学堂。9月得到盛宣怀批准，由电报总局拨助常年经费洋1000元办学。盛宣怀在上海乘船去江宁府向两江总督
刘坤一禀明，拟在上海捐购基地筹款开办新式学堂——南洋公学及银行、铁路、纺织等事宜。
10月，盛宣怀向清朝政府正式上奏《条陈自强大计折》，附奏《请设学堂片》，禀明两江总督刘坤一，拟在上海捐地开办南洋公学，经费由轮电两局捐输，聘请
何嗣焜出任总理。12月得到
光绪准允。至此，标志南洋公学正式创立。因学堂地处南洋（当时称江、浙、闽、广等地为南洋），参考西方学堂经费“半由商民所捐，半由官助者为公学”，故定名为
南洋公学。
1897年3月6日，借上海徐家汇民房一所作校址，“南洋公学”正式开学；4月，委任何嗣焜为南洋公学总理（即校长）。
初建时以培养高端法政人才为办学目标，先设师范院、外院、中院、上院四院，继设铁路班、特班、政治班、译书院、东文学堂等，体制完备，规划宏远，创开了我国近代教育的新风气。
1905年，学校改隶商部，改校名为商部上海高等实业学堂，始以培养高级工程技术与管理人才为目标。1906年秋，学校工科之始——铁路工程班成立。
1907年改隶邮传部，易校名为邮传部上海高等实业学堂；10月，学校设立的第一个工程专科，即学制3年的铁路专科正式成立。1908年夏，增设电机专科，为中国高等学校最早设立之电机系科。
1909年，航海专科成立，且于1911年改为商船学校。
1910年，建立电机实验室。同年秋，定“勤、俭、敬、信”四字为校训。
1911年，在辛亥革命的高潮声中，唐文治宣布学校改名为南洋大学堂，监督改称校长。此时期学校经费困难，唐文治提出自己减薪一半，师生同心，以维持教学。唐文治还著《人格》一书作为国文教材。此时期孙中山莅校演讲，全校师生共同致力于兴建中国实业。
上海交通大学茁壮
1918年3月，学校又增设铁路管理科。
1920年12月14日，交通总长
叶恭绰以“交通要政极需专材”为由，提交国务会议议决，将
北京邮电学校、北京铁路管理学校、唐山工业专门学校及上海工业专门学校合并，改称“
交通大学”。
1922年4月8日，
叶恭绰校长电示“今日为交通大学成立纪念日，放假一天”。
1922年由于政局变动，叶恭绰出走；7月21日，交通大学正式分为两校，改名
交通部南洋大学和交通部唐山大学。此后校长多次变换，直到1924年底凌鸿勋再次任校长，学校才有了进一步的发展。此时期仍设置电机、机械和铁路管理三科，而土木科已调归唐山学校。学校在此期间又新建成体育馆和调养室，并创办了中国高校最早的工业研究所。
1927年，北伐胜利，北洋政府垮台，南京政府成立。国民政府交通部接管南洋大学。学校改组为第一交通大学，设立校务委员会。并第一次招收女生，实行男女同校。附中、附小脱离学校，另组私立南洋模范中小学。
1928年2月，国民政府任命
蔡元培为1927年9月7日改名为“第一交通大学”的校长。
1928年10月，南京国民政府改组，增设铁道部。学校移归铁道部管辖，将设在上海、唐山、北平三处的交通大学各学院合并，统称铁道部交通大学，分上海本部、北平铁道管理学院和唐山土木工程学院。1928年，时任南京国民政府交通部部长王伯群让三校再一次合并，定名“国立交通大学”。校长由铁道部部长
孙科兼任，副校长由
黎照寰兼任。不久，黎又被任命为专职校长。这样就把“部（铁道部）、路（铁路）、校（交大）联成一贯”，形成“部校合作”体系和“建教合作精神”，“校中师生均得安心教读，勤求学业，蔚成良善校风”。
这一时期学校经费充裕，校舍建设和系科建设都得到较快发展，校园面积也扩大到近500亩。期间，先后成立了科学学院、管理学院、土木工程学院、机械工程学院、电机工程学院和中国文学系、外国文学系，由此形成了以工为重点，理为基础，兼重管理的教学体系。这一时期学校发展迅速，特色明显，成绩显著，影响深远，广大校友称之为新中国成立前学校发展历史上的“黄金时期”。
1937年8月1日，学校划归教育部。
八·一三事变爆发后学校迁至上海法租界继续办学。
日军侵占上海租界后，交通大学总部从上海转移到重庆九龙坡。此时期，交大开展院系建设。重庆商船专科学校并入交大组建造船等新专业，创办电讯研究所。学校规模扩大，教学设施、条例逐步完善。
1945年10月，抗战胜利后，重庆交大总校师生分批复员上海。
1946年，国民党挑起内战，沪校与渝校会合，增设电信管理、电信技术两专修科。 广大师生投入到反对内战的斗争之中。在通货膨胀、经济困难与白色恐怖之中，学校仍坚持改进教学，并增设电信管理、电信技术两专修科。
1949年5月27日，中国人民解放军解放上海，并于同年6月15日接管交通大学。交通大学部分校友迁至台湾后“复校”，这就是后来位于新竹的“
国立交通大学”。
上海解放后，交大师生员工以极大的热情投入到教学以及中华人民共和国的建设事业之中。学校在华东教育部领导下，明确交大是理、工、管理类大学，其任务是为新中国培养建设人才。1952年全国进行大规模院系调整，交大由10个系、1个专修科调整为机械、电机、造船3大类、7个系；开办工农速中和工农调干生班、开展学习苏联经验的教学改革，走按专业培养专门人才的道路。
1953年恢复招收研究生。
1955年，交通大学迁往西安。
1957年6月，国务院、高教部批准交大分设西安、上海两部分。
上海交通大学新程
1959年7月31日，国务院批准交通大学上海部分、西安部分分别独立为两所学校。1959年，经国务院批准，交通大学上海部分正式定名为上海交通大学。
1961年2月6日，中央决定上海交大划归国防科委直接领导，同时受教育部及上海市委领导。
1970年2月15日，学校划归第六机械部领导。
1982年9月17日，教育部、中国船舶工业总公司下达通知：国务院已正式批准，将中国船舶工业总公司所属上海交通大学移交给教育部领导，实行教育部与上海市双重领导以教育部领导为主。
1984年，邓小平同志亲切接见了上海交通大学学校领导和师生代表。
1984年6月10日，上海交大列为国务院批准的第一批国家重点发展的高等院校。
1999年7月，进入
985工程；同年9月1日，学校隆重举行庆祝上海农学院并入上海交通大学暨上海交通大学农学院成立大会。
2005年，上海第二医科大学并入。
