说到存在感，山西省似乎比江苏、广东、浙江、山东弱了些。不过山西有天下之脊太行山，壶口瀑布（山西一侧）闻名天下，省会太原也是大名鼎鼎。
山西省与内蒙古、河北省、河南省、陕西省接壤，面积约15.67万平方公里。山西省和其他省级行政区的接壤非常有特点，不是大山就是大河，不是大河就是大城墙。山西与内蒙古的边界非常好划分，基本上是以明长城为界，北属内蒙古，南属山西。和河北省的边界也非常简单，以巍巍太行山为界，东属河北，西属山西。和河南省的边界山水相连，晋豫交界的西头是黄河，黄河北岸是属于山西的中条山，东头是王屋山和太行山。
山西省是个山地高原省份，全省基本处在黄土高原的东翼，大部分地区的平均海拔都在1000米以上。在全省面积中，80％是山地和丘陵，剩下的20％多是盆地（含台地）。山西地形一个非常显著的特点，就是盆地较多，而且山西的盆地差不多呈一条线，从北至南狭长分布。另外就是，每一条狭长的盆地基本上都会流经一条大河。
北有大同盆地，面积约有5100平方公里，桑干河贯穿盆地。大同盆地的南侧是恒山，恒山又是忻定盆地的北侧，南侧是五台山。忻定盆地北窄南宽，忻州主城区坐东在南端，滹沱河贯穿盆地。忻定盆地的南端，又是太原盆地的北端，省会太原坐落在盆地北端，贯穿盆地的是汾河，是山西的母亲河之一。太原盆地稍“胖”一些，面积约5000平方公里。太原盆地的南端，接壤临汾盆地的北端，北部狭长，汾河继续往南流淌，在侯马改成由东向西流淌，最终汇入黄河。因为汾河东端还有一个支流浍河，南端还有一条涑水河，临汾盆地又和南端的运城盆地相连，形成一个盆地十字架。另外，在山西省的东南方，还有一个“孤零零”的长治盆地，面积较小，约2000平方公里，浊漳河西源和浊漳河南源经此北上汇入浊漳河。
山西省地形高险，又东对华北平原有居高临下之势，自古以来就是兵家必胜之险地。唐末五代有三个半王朝是从河东太原南下最终统一中原（不含南方）的，比如李存勖的后唐、石敬瑭的后晋、刘知远的后汉。以及出身河东系统的郭威所建立的后周。这还不包括后汉灭亡后，刘知远弟弟刘崇在山西建立的北汉小王朝。
正因为地势复杂，历代战争不断，山西的人口不是很多。清高宗乾隆四十一年（公元1776年），山西省的人口约有1200万，而到了1953年，山西省人口1600万人。一百六十多年间，山西人口的增长幅度并不大，这和晚清以来的战乱有关，大量山西人口外流，比如著名的走西口。
1953年至今的近七十年间，山西发生了翻天覆地的变化，这种变化也体现在人口增长上。山西总人口有3400多万，比1953年翻了一番多。但受限于复杂的地理和其他条件，山西人口还是很难实现像福建、广东、浙江等沿海发达地区人口的大规模增长。山西的交通条件相对于其他省份来说不是很便捷，再加上山西没有像杭州、厦门、深圳这样能虹吸大量外来人口的发达城市，山西对外省人员的吸引力不是很大。
像合肥之于安徽，郑州之于河南，武汉之于湖北一样，省会太原在山西也是强省会的地位。就省内地理条件来说，太原有一定优势，处在山西省中部，还是纵贯山西全省的几个盆地的中间位置。不过太原人口的绝对数量并不算很多，只有530多万人，占全省人口约15％。2010-2020年，太原的城市规模相对外省几个强省会来说，还不算很大，人口增长率也不是很高，26.24％。但太原的人口增长率已是全省最高的，比第二名晋中市的4％高了约六倍。晋中的人口增长率之所以不是负数，和晋中主城区与太原主城区几乎连在一起有一定关系。
山西省共有十一个地级市，除了太原和晋中，其他城市的人口增长率全是负数。古都之一的煤城大同，面积1.41万平方公里，人口只有约310万，人口增长率-6.4％。
夹在大同与太原之间的朔州市、忻州市，太原以西的吕梁市，以及晋南四市临汾、长治、运城、晋城，都可以说是“地广人稀”。太原东边的阳泉市，情况稍微好一些，4500多平方公里的面积，人口有130多万。
山西的经济结构相对有些单一，这既是山西人口无法吸引外来人口，也是本省人口外流的重要原因之一。很多资源型城市的资源枯竭之后，人口增长率降低是很难避免的。