1907年，孔祥熙先生创办私立铭贤学堂。1916年，学校增设大学预科。1928年，学校开办农科。1931年，学校开办工科。1937年，七七事变后，学校被迫南迁。1939年，学校辗转到达四川金堂县。

1940年，学校经国民政府教育部批准立案 ，成立铭贤农工专科学校。1943年，学校改建为铭贤学院，由专科改为本科。

1947年，铭贤学院由金堂迁往成都办学。1950年11月，铭贤学院迁返山西太谷原铭贤学堂旧址。

1951年10月1日，山西省人民政府接管了铭贤学院，改私立为公办，正式成立山西农学院，其中，机械工程系、纺织工程系、工商管理系分别被并入山西大学工学院和财经学院 。

1971年5月15日，山西农业劳动大学归并该山西农学院。

1975年，学校在昔阳、雁北、运城组建了3个分院，分别为大寨、雁北、运城农学院。

1979年7月27日，经国务院批准大寨农学院并入山西农学院，同年山西农学院更名为山西农业大学，被列为全国重点高等学校。此后，山西省人民政府批准撤销雁北、运城农学院，将其并入山西农业大学。 

2012年全国农业科技教育工作会议上，山西省人民政府与农业部正式签署共建山西农业大学的协议。 

2016年，学校被列为山西省高等教育综合改革试点高校  。

2017年6月25—26日，由中国科学院主办、山西农业大学等单位协办的第五届战略与决策高层论坛在北京举办，论坛主题为“科技促进农业供给侧结构性改革”，山西将功能农业列为省级战略，在山西农业大学建立山西功能农业研究院、开设全国首个功能农业专业受到与会代表热切关注 

院系专业

截至2018年5月，学校设有学院、动物科技学院、林学院、园艺学院、资源环境学院、工学院、经济管理学院、食品科学与工程学院、文理学院、生命科学学院、公共管理学院、信息科学与工程学院、软件学院、城乡建设学院、体育学院、马克思主义学院（思想政治理论教学研究部）、中德学院、信息学院等教学单位，开设本科专业65个；成人函授本科专业11个，成人函授专科专业6个；主考的自学考试本科专业4个。 [4]