1978年，山西师范学院吕梁师专班在汾阳师范创办，开设三个专业：物理、数学、英语。

1979年，学校迁至离石，由地区教师进修学校代管，开设汉语言文学，数学两个专业，在校生101人。

1980年，该校在东川河乱石滩上，以春苗包款方式圈住81亩地开辟新校址，制定建校方案。

1981年秋，新校址上第一批学生入学住进。

1984年6月2日，山西省人民政府批准吕梁师范专科学校建校。

1984年，该校颁布校训“高瞻远瞩，博览多思”，校歌《我们是创新的一代》，确立了办学指导思想，培养人才规格和改革的内容、目标、方法、步骤、措施。

1989年6月23日，经国家教委批准，吕梁理工专科学校（筹）和吕梁师范专科学校合并改办为吕梁地区高等专科学校，设理工部和师专部，由省教委主管。

2000年，该校扩大招生规模。

2003年，新一届领导班子提出“强校升本”奋斗目标，决定以吕梁高等专科学校为依托筹建吕梁学院。

2008年，该校通过山西省教育厅高职高专人才培养工作水平评估并获得优秀。

2009年，学校实现部分搬迁，学校通过教育部专家升本评估验收。

2010年，该校升格为本科层次的吕梁学院。 [2] 

2017年3月18日，按照山西省教育厅统一安排部署，学校参加了在太原理工大学举行的“山西省新增博士、硕士学位授予单位立项答辩会”。学校答辩小组由校党委书记闫保平带队，党委副书记周富国汇报并总体答辩。根据通知要求，学校还向专家组提交了《吕梁学院“十三五”事业发展规划（草案）》。

院系设置

根据2014年11月学校官网显示，该校设有18个教学系（部），35个本科专业和14个专科专业。