太平宫初名太平兴国院，又称上苑。系宋太祖为华盖真人刘若拙敕建道场，金明昌年间(公元1190~1195年)重修。当时的正殿名三清殿，配殿为三官殿和真武殿，坐落在崂山东部上苑山北麓、仰口湾畔。
据说，在崂山现存的寺观中，太平宫是有史料可考的最古的道观。据明朝嘉靖四十五年(1566年)和清朝顺治十年(1653年)重修太平宫的碑文记载，太平宫是宋太祖赵匡胤(960年—976年)为华盖真人刘若拙建立的道场，因落成于太平 兴国年间，故初名太平兴 国院，后改名为太平宫。与此同时，又兴建或重建了太清宫和上清宫，作为它的别院。
刘若拙生于五代后唐同光二年(924年)，他自四川来崂山建一茅庵，名驱虎庵，潜心修行。赵匡胤称 帝后，即召见了他，封为华盖真人，为崂山著名道士之一。宋淳化二年(992年)，刘若拙逝于即墨，葬在城郊玄真宫，其墓至今犹存。
题刻“海上宫殿”，刻于太平宫迎门之石照壁正面，传为清代书法家华世奎所书。