青云山古称敖山，位于青云湖东畔，清人孔贞宣称："青云，华岳之小影。"青云山之峻峭，在于拔地突兀而起，宛如擎天一柱立于新泰东部。文人名士过此者，无不赋诗填词，叹为观止。"敖山削壁"为新泰八景之一。现主要建筑有三官庙、玉皇庙、 揽波亭。三官庙位于主峰绝壁之下，创建于明代。台阶两侧雕有龙首、狮首，威严壮观。
青云山主要由四座山峰组成，四座奇峰从东南向西北沿山脊线呈一字形排列，依次为青云峰、翠云峰、晴云峰、彩云峰。其中最具代表性的为主峰青云峰与彩云峰，它们为崩塌后残留在山顶上的岩石，经长期风化形成集险、奇、俊、美于一身的花岗岩奇峰地貌。