早期的山居道士，大多穴居山洞，或者在洞旁结茅舍，“置以土坛，戴以草屋”。
到了晋代，青城山始建宫观，计有洞天观、上清宫、上皇观、碧落观（后名长生宫）等。现在的上清宫正殿老君殿供有太上老君、纯阳祖师及张三丰塑像。
老君殿基宽四百平方米，共六层。下方上圆，寓意天圆地方；层有八角，以示八卦；外观呈塔形，顶接三圆宝，以昭天地人三才之意。其左配殿供奉的是孔子和关羽，在殿的左下方有麻姑池，池水一年四季都不干涸，据说是仙人麻姑浴丹的地方。宫后不远，就是青城第一峰彭祖峰，上有呼应亭，登高一呼，众山皆应。
隋唐两宋时期，青城山新建有大批宫观。
隋代建有常道观等，唐代建有建福宫、金华宫、冲妙观、玄都观、福唐观等。
常道观又名天师洞，据说当年张陵就在此“结茅传道”。观内还有黄帝祠和三皇殿，殿内供奉着伏羲、神农、黄帝。
观后的混元顶上有一个洞穴，相传是张陵曾经修炼的所在，俗称天师洞。
天师洞东有三岛石，巨石矗立，上有两条裂隙。
民间传说，张天师降魔时，见此石挡路，遂拔剑劈之，裂成三块，石上还刻