學校創辦於1978年,原稱山西師範學院呂梁專科班;1984年山西省人民政府批准建立呂梁師範專科學校;1990年教育部批准呂梁師範專科學校與籌建中的呂梁理工專科學校合併建立呂梁高等專科學校;2010年3月經教育部批准學校升格為本科高校。
截至2020年11月,學校佔地面積111.06萬平方米,建築面積66.53萬平方米;設有15個教學系(部),開辦44個本科專業;有全日制本科在校生19451人,專任教師888人;館藏紙質圖書123.58萬冊、電子圖書247萬冊。