山西会馆坐落在多伦城区的西南部,占地一万多平方米,建筑面积为四千多平方米,院分三进,院中有院,大殿四座,附跨殿六座,还有牌楼、山门、配门、戏台、钟楼、鼓楼、神像殿等建筑,楼、阁、厅、殿、廊、台、舍、阁、亭、榭错落有致,乃一规模宏大的建筑群体。可谓方圆数百里坝上草原的一大景观。
山门的建筑为中原文化风格,悬山式、釉下彩,三层斗拱,绘有山水,朱红大门上方为楷书“山西会馆”匾额,苍劲有力,大门两侧两头石狮巍然矗立,大门上几排茶碗口粗细的铁钉漆成黑色,一对浑铁大门环下倒扣着大锣似的铜饰,古朴威严。
会馆临街座北朝南,一座庙宇式的过厅山门,山门前是一偌大广场,广场南侧距山门大约50米处建有三座牌楼,中间一座大的,悬挂着“伏魔宫”牌匾,两旁两座小的,全部为木质结构,以山水花草为主的彩绘鲜艳夺目,颇为壮观。
门厅两旁各有两间厢房,西厢房旁有一高大便门,又称“耳门”、“仪门”,拱形门楣上方镶嵌着“晋省胜地” 四个大字。
二过殿(也称前殿)的左边是钟楼,右边是鼓楼,都约有10米高,钟有一人高,两围多粗,其声洪亮清越,十几里外均能听到。二过殿的门口矗立着一对石狮子,东边的为雄狮,口含石滚珠,脚踩石绣球;西边为雌狮,脚踩小狮子。石狮子的外侧有两个旗杆座,是由两片内圆外方的、两米高的大石条构成,固定在旗杆底座中的旗杆是两根笔直的圆木,约15米高,顶端有大铜帽,悬挂商会的旗帜。
原来各殿门前均有木匾楹联,书写着为晋商和关公歌功颂德的内容以及“为人师表”之类的内容,“文化大**”中亦全部毁坏。现在的木匾楹联是修建时仿的。