山西大学创办于1902年（清光绪二十八年），最初称山西大学堂，设中学专斋和西学专斋，由英国人李提摩太和山西巡抚岑春煊共同创办。校址在太原市侯家巷（现太原师范专科学校）。

民国元年（1912年）初改名为山西大学校。

民国七年（1918年）确定为国立山西大学。

1931年改名为山西大学，抗战期间，曾迁至晋南、陕西三原、秋林等地，于1937年至1939年停办。

1949年春，中国大学理学院并入山西大学。中华人民共和国成立初期，山西大学设有文、理、医、工、法五个学院，进步学者邓初民任校长。山西大学法学院法律系于1949年并入北京大学。

1952—1953年，全国高校进行院系调整，山西大学院系调整如下：

①取消山西大学建制；

②文、理两院（含中文、历史、外语、教育、数学、化学、生物7个系及中文、史地、数学、理化、生物、体育5个专修科）合并，改称山西师范学院；

③工学院（含土木工程、采矿工程、冶金工程、化工工程、机械工程、电机工程、纺织工程7个系）中冶金工程系参与组建新成立的北京钢铁工业学院（今北京科技大学），纺织工程系和采矿工程系并入西北工学院（今西北工业大学）；工学院其余部分（机械工程、电机工程、土木工程、化工工程4个系）独立建校，后发展成为太原理工大学。

④医学院（含医学系）独立建院（今山西医科大学）；

⑤法学院改称财经学院（含经济、工商管理、会计3个系），后划归入中国人民大学；

1954年，山西师范学院（山西大学前身）由太原市侯家巷迁入太原市坞城路。

1959年，再度恢复山西大学建制。

1961年，与山西师范学院合并，仍定名为山西大学。

1962年，山西体育学院、山西艺术学院并入山西大学。

1998年，成为山西省重点大学。

2001年，山西大学成立研究生学院。

2002年5月，学校举行建校100周年庆典大会。时任联合国秘书长安南发来贺信，感谢山西大学对联合国的支持。

2005年5月，成为山西省唯一一所由山西省人民政府与教育部共同重点建设的省部共建大学，是我国最早一批省部共建大学。

2008年11月，学校与亚美尼亚“布留索夫”埃里温国立语言大学组建埃里温国立语言大学孔子学院。

2009年11月，学校与美国北卡州费佛尔大学联合组建费佛尔大学孔子学院

2011年6月，山西大学研究生学院正式更名为“山西大学研究生院”。

2012年5月，入选“中西部高校基础能力建设工程”高校。

2012年11月，成为山西省唯一一所国家“中西部高校综合实力提升工程”入选高校，进入“一省一校”国家建设有特色、高水平大学的新平台。

2013年9月13日，山西省发展和改革委员会发布“关于山西大学东山校区项目建议书（总体规划）的批复”，标志着山西大学东山校区的建设已通过政府的审批。

2014年2月，太原电力高等专科学校并入山西大学，成为山西大学大东关校区。

2015年1月28日，学校“极端光学协同创新中心”成立。

2017年6月，学校被认定为山西省首批省级双创示范基地。

2017年8月，学校入选教育部“高校教师考核评价改革示范校”。

2018年，在省部共建和“一省一校”建设基础上，学校成为教育部和山西省政府合建的部省合建高校。

办学条件

院系专业

据学校官网2018年5月信息显示，学校有32个学院（系）、以及1个独立学院、1个继续教育学院和国际教育交流学院，涵盖哲学、经济学、法学、教育学、文学、历史学、理学、工学、农学、医学、管理学、艺术学等全部学科门类，设93个本科专业以及10个本科双学位招生专业。