太白山的发育历史，根据地质资料，大概可以追溯到太古代。当时，秦岭地区为古海所占据。早期以类复理石建造的碎屑――碳酸盐沉积为主，而后仍以类复理石建造为主，但碎屑物较前为多，显示了海退的趋势，地槽趋于上升。由于嵩阳运动的结果，使太古代地槽开始褶皱回返，初步形成了一系列东西向的褶皱构造和断裂雏形。元古代初期，地壳再度下降，北侧形成了海槽，沉积了陆原碎屑――火山岩建造。后期因受吕梁运动的影响，地槽回返褶皱与太古代褶皱带一起构成了秦岭地轴。

长期的隆起剥蚀，致使震旦系和寒武系地层缺失，至奥陶纪初期，地轴局部地段急剧下降，沉积了一套细碧――石英角斑岩建造。加里东运动后地槽又回返，地层发生了轻微的变质，区内太古代褶皱带的背斜核部有一部分花岗岩侵入，并在一系列东西向的裂隙中充填了稀有元素矿化的伟晶岩脉。以后本区又不断处于长期的剥蚀状态，从而缺失了奥陶纪以后，中石炭纪以前的地层。到海西、印支运动期间，地壳发生南北差异性的活动，其南形成了秦岭印支地槽；其北侧为秦岭地轴。长期隆起，沿东西向区域断裂有超级性岩侵入。后期北侧则有大规模的中酸性岩浆侵入。秦岭山脉的骨架已经形成。

燕山运动时期，在长期隆起的地轴上，由于南侧断裂的复活，开始了以断块活动为主的运动形式，形成了白垩纪的断陷盆地，沉积了一套陆相地层。稍后就是燕山期的花岗岩侵入，形成太白岩基。中生带末或第三纪初期，气候温暖潮湿，秦岭隆起缓慢，发生了大规模的夷平作用，将秦岭夷平为准平原状态，在中新世的喜马拉雅运动中，块断运动增强，并具有掀升的性质，秦岭隆稓，渭河断陷盆地继续沉降，古老的夷平面遭到破坏，形成了北仰南倾的多级断块山地，太白断块就是其中的一个。正如张伯声教授说的：“整个北南倾的是这一地区的地壳运动的一般情况”。“……秦岭和渭河平原可以看作两大断块，一升一降，其垂直差距在3000米以上”。

在新构造运动中，太白山地区隆起强烈，位于鳌山北侧的太白盆地形成于早更新世末或中更新世初期，它是承袭早期的断裂而又复甦的新生盆地，第四系的松散沉积物厚度近400米。鳌山北部的平梁对太白盆地的比高在1200米以上。在新构造运动中，鳌山北侧断层错动的垂直差距在1600米以上。黑水是一个先成河，老在君岭剥蚀面形成以前，黑水就在第三纪初期形成的古剥蚀面上向北流动，在老君岭剥蚀面形成以后，继续北流，在老君岭剥蚀面掀升时，黑水深切，才把老君岭与终南山分开，终南山及老君岭对黑水的比高都在1500米以上。这就说明，在老君岭剥蚀期以后的一段时间，太白山地就至少升高了1500甚至可达2000米。在太白山北部各主要河流，如五里峡、白云峡、山岔峡、红河等的出山口处，在U形谷之下发育了深切的V形峡谷，峡谷深度多在150－200米以上。在这些深切的峡谷和南部太白河的峡谷两侧，普遍发育了季节性流水形成的悬沟，这说明在最近的地质时期中，直到目前太白山还在上升中。

喜马拉雅运动和新构造运动，在太白山地区表现为分阶段的振荡上升运动，使一度停顿于较低水平的地区遭到夷平，而后又在上升的过程中受到侵蚀剥蚀而被改变，剥蚀面残留部分组成巨大的峰海，高处代表当时的岗陵，低处代表辽阔的谷地。这种由峰陵组砀剥蚀面，在太白山顶面以下，在北坡可看到三级，即海拔2600－2800米，1800－2000米，1100－1300米。平安寺至斗母宫的长梁就是2600－2800米剥蚀面的残留部分，1100－1300米一级的剥蚀面，在中山寺以下表现较为明显。上面堆积了黄土状物质，并形成了多级河流阶地。以上三级剥蚀面，均受到多次抬升而引起的侵蚀剥蚀，普遍发育了套谷地貌。

由于中生代，特别是新生代以来不断地构造隆升，使太白山具有巨大的高度，又配合以全球性的气候变异，在第四纪时太白山发育了冰川。由于地貌形态具有多解性，同一形态可能具有不同的成因，一些地学工作者，对一些地貌形态的成因，在认识上存在分歧，因此对冰川发生的次数的看法也不一致。但对太白山顶部海拔3000米以上地区曾发生过冰川的认识是一致的，此次冰期发生于上更新世晚期，称为太白冰期，为小型的冰斗――山谷冰川。所形成的冰川对太白山顶部的古剥蚀面进行了强烈改造，而遗留下一套完整的典型的冰川地貌形态。它大致经历了前进――萎缩――再前进――消亡的演变过程，但第二次前进的范围要比第一次小。这可由二爷海――三清池槽谷内有两道终碛；二爷海――三清池槽谷、大爷海槽谷都有明显的谷肩和多级岩坎，三吕殿槽谷有上下之分，并有羊背石；大爷海冰斗位于大爷海槽谷南端的西半部，二爷海冰斗位于二爷海――三清池槽谷北端的西北隅以及大爷海冰斗、二爷海冰斗的大小与其槽谷极不适应为佐证。

冰期时，雪线以下至海拔2600米以上的地区，曾为冰缘气候所控制，普遍发育了冰缘地貌。

现在雪线虽已上升到拔仙台以上，但在海拔3300米以上的地区，仍为冰缘气候所控制，因而发育了现代冰缘地貌。