1948年9月，华东大学教育学院创建。后改为山东教育学院，校址位于山东益都（青州市）。

1949年1月，山东教育学院更名为山东教育行政干部学校，迁至济南杆石桥附近。

1950年9月，山东教育行政干部学校更名为山东省中等学校教员训练班，先迁至东关外花园庄，后迁至北园菜市庄贾家楼。原山东教育行政干部学校部分并入山东行政学院（现山东政法学院）。

1953年夏，山东省中等学校教员训练班更名为山东省中学教师进修学校，迁至千佛山下。

1955年夏，迁至趵突泉前街，后迁回解放桥北花园庄。

1956年，山东省中学教师进修学校分成山东省速成师范专科学校和山东省教育干部学校。

1957年，山东省速成师范专科学校更名为山东省教师进修学院。

1958年2月，山东省教师进修学院与山东省教育干部学校合并为山东省教育干部学校，校址位于花园庄。

1960年，山东省教育干部学校更名为山东省教师进修学院，后改为山东教育学院。

1961年，山东教育学院更名为山东省教师进修学校。

1966年，山东省教师进修学校更名为山东省教育干部学校。

1970年，山东省教育干部学校部分人员和物资调往费县，参与合并组建临沂师范学校（现临沂大学）。

1970年6月至1977年上半年，学校停办。

1978年6月，山东省教育学院恢复重建。

1981年，山东省教学研究室、山东省教育科学研究所并入山东省教育学院。 

2010年3月，中华人民共和国教育部同意在山东省教育学院基础上建立齐鲁师范学院