大娄山位于贵州省北部，为东北—西南走向，呈现向南东凸出的弧形。大娄山西起毕节，东北延伸至四川，在贵州境内的一段长约300公里，宽约150公里，海拔1500—2000米，相对高度常达500米，是乌江水系和赤水河的分水岭，也是贵州高原与四川盆地的界山。

大娄山系由三支并列的山脉组成：西支位于桐梓与习水之间，呈东北—西南走向，南起四川古蔺，经贵州而北入四川綦江，海拔1300—1500米，在贵州境内的最高峰1661米，是习水河与桐梓河的分水岭。中支由仁怀经桐梓、松坎而向北延伸至四川，是綦江与芙蓉江的分水岭，海拔1400—1600米，常有1900米以上的高峰，在贵州境内的最高峰是箐坝大山，高2028米，山势南陡北缓而成不对称山岭，从箐河谷仰望娄山，悬崖绝壁，十分险峻。东支位于桐梓、遵义之间，由金沙向东北延伸至四川，是芙蓉江与洪渡河的分水岭，有一系列海拔在1600米以上的山峰，该支脉在贵州境内的最高峰仙人峰，高1795米。娄山关正处于大娄山主脉的脊梁上，是一个沿裂隙溶蚀而成的隘口，海拔1226米，关口周围悬崖绝壁，山峰均高达1400—1600米，东西两侧为大小尖山锁峙，南北是高差为400米的峡谷。

大娄山临近四川盆地边缘的北坡较陡，位于高原上的南坡较缓，山岭切割强，相对起伏常达500—700米，但山脉的构造脉络清晰，常有山间盆地分布。由于大娄山受长期侵蚀和多次间歇性构造抬升，还形成了800—1000米、1100—1250米和1400—1500米三级夷平面，大娄山期和山盆期两级是最显著的剥夷面。又因碳酸盐岩广布，喀斯特地貌发育，洼地、溶斗、暗河、溶洞普遍，以溶丘洼地、溶丘谷地、高原丘陵地貌景观最典型。