呂梁市位于山西省中部西側，因呂梁山脈由北向南縱貫全境而得名。西隔黃河同陜西榆林相望，東北與省會太原市相連，東部、東南部分別和晉中、臨汾接壤。全市基本屬于溫帶大陸性季風氣候區，冬寒夏暑，四季分明。市境總面積2.1萬平方千米，下轄1個市轄區、10個縣，代管2個縣級市，市政府駐離石區。

呂梁是革命老區，革命戰爭時期是紅軍東征主戰場、晉綏邊區首府和中央后委機關所在地。

呂梁是發展新區，于2003年撤地設市，是山西省最年輕的地級市，代管的孝義市是山西省縣域經濟發展的排頭兵。