中国古代文化的中心位于黄河流域，山西位于黄河中游土壤肥沃，质地松散。优越的自然资源为原始经济的起源提供了条件。此外，黄土具有柱节理或垂直节理的特点。在生产力极低的原始社会，最容易先用于民用。挖洞藏身，挖土建房，促进了原始聚落的形成和发展，成为中华文明最早的发源地之一。
据目前所知，山西旧石器时代已有200多处文化遗址。其中，距今170万年的山西南部芮城县西侯度遗址，是华北最古老的文化遗址，也是世界上最早已知的文化遗址之一。20世纪80年代中期，山西和顺、陵川发现了距今约4万年的旧石器时代晚期洞穴遗址。洞穴居住在冬暖夏凉，既能防风防雨，又能避免野兽的攻击，非常适合生活在寒冷地区的古人。
这些洞穴遗址成为后来人工穴居的先声。虽然洞穴居址有很大的优势，但由于山西地质结构有限，分布不均匀，当时更多的原始人类使用露天居址。根据世界古代文物考试，距今28000年前的山西朔县石峪遗址为露天居址。石峪人在平坦的砾石海滩上用大石头围成一堵直径约4~5米的圆形矮墙，用树枝建造，用草或兽皮建造一个简单的卧室。根据考古学和当时人类生产力的分析，在旧石器时代的后期，人类已经模拟了洞穴的地址，并在黄土上人工挖洞。可以说，在旧石器时代晚期，山西至少有两种建筑形式：土穴和石头。
在新石器时代，人类已经从食品收集转向了食品生产阶段。随着定居生活和生产力水平的提高，人工穴位已成为当时山西人类的主要生活类型。早期穴位形状简单，其剖面形式为喇叭口垂直穴，平面为不规则圆形或椭圆形。仰韶文化时期，住宅已进入半穴位，顶部采用树枝等植物茎叶形成围护结构。
龙山文化时期是山西土窑洞的建立和定型时期。从龙山文化时期山西襄汾陶寺遗址的建筑遗迹来看，土窑洞的建筑形式已经初创。在此期间，房间很小，没有摆脱小底部大袋圆形土穴模式的局限性。只能沿着黄土坡的悬崖进入门口：狭窄低矮的隧道更多地利用自然地形：房间周围没有人工加固。
从山西夏县东下冯遗址、山西太谷白燕等窑洞遗址可以看出土窑洞的进一步发展。这一时期的土窑洞，无论是土方工程的挖掘技术，还是建筑装饰处理技术，都不断出现阶段性的局部变化和新的发展。突出成就体现在建筑形式、平面布局和结构多样，初步具有中国古代独特的民居格局。山西曲沃县方城的双土窑洞和石楼倒岔沟的土窑洞建筑群表明，土窑洞的建筑和装饰技术已经规范化，非常讲究。
卧室显著增加，生土墙装饰草泥白灰墙皮，在墙裙、炉子等部位画彩色，用木柱加固顶部表明这一时期的土窑洞已逐渐成熟⑴。土窑洞的进一步发展，大约在夏初，人们利用土壤的力学性能，周围的墙壁承受顶部荷载，拱顶跨度更合适，木柱支撑被取消。这种格局已经定型并使用至今。龙山文化时期除土窑洞建筑外，还有大量的地洞和地表建筑。石灰抹面住宅已广泛使用。
在夏季和商业时期，夯实技术已经普遍出现。在东下冯遗址，发现夏季有回字形沟和长方形井，其次是许多地面建筑洞穴和洞穴。
据考古资料及上古的一些记载，先秦时期，山西南部汾浇水流域，晋东南沁河流域，忻定盆地与五台山系森林植被茂盛。茂盛的森林植被为建造木制卧室提供了先决条件。虽然山西没有考古发现先秦时期的木结构建筑，但从山西侯马乔村战国墓出土的棺材炭末可以得出结论，当时有建造木结构建筑的技术。侯马发掘的东周烧陶窑址出土了板瓦或筒瓦等建筑材料，也说明当时有木瓦屋的居住类型。
元代以前的山西民居可以从壁画和石窟寺的雕刻中看出。高平市陈堰镇中庄村仍有元代民居。三间主房，南北两侧，大门在中间，但比两侧檐墙后1.5米。檐柱的侧脚很明显，.这种做法不同于明清民居。
明清两代，国家的统一为社会经济的发展创造了一个比较安定的环境，促进了农民生产的积极性，促使农业、手工业以及社会商品经济有了的较大发展。住宅建筑也呈现出前所未有的多种民居形式。突出反映在以下三个方面。
1.由于烧砖技术前所未有的发展和经济增长，砖在民居建筑中得到了广泛的应用。
2.创造了砖洞与木结构建筑相结合的新建筑形式。这种形式主要集中在山西晋中南部和临汾的盆地边坡上。这个地区最初是一个洞穴区。由于这些地区一直交通便利，经济发达，一些外部发达地区的木结构建筑形式对当地住宅建筑形式的影响和经济条件的可能性使当地住宅发展迅速。结合窑洞建筑的优点，人们创造了这种结合两种住宅建筑特点的住宅建筑形式。它从窑洞式住宅系统中脱胎出来，逐渐形成并发展成为一种新的独特体系。
3.商业繁荣促进了商业住宅的兴起。明清时期，山西的商业非常活跃。这些商人致富后，在家乡建了一栋大房子，住房比较大，追求美丽的装饰。例如，祁县乔家庭院、襄汾丁村住宅、平遥、太谷住宅都反映了高墙深院、雕刻精美的特点。
