三元宫是云台山区的主庙，也是花果山的主体建筑。“元”是开端、起始的意思。年初一可以称为“三元”，因为年、季、月都是序为第一。“三元”，也可用来表达封建时代科举所达到的名次，如“解元”、“会元”、“状元”，合称就是“三元”。而花果山三元宫名中之“三元”，则很明显是取自道家的思想。
如《云笈七箓》卷三《道教三洞宗元》中有：“三元”又有宇宙和道教经籍起源的意思，称“原夫道家由肇，起自无先，垂迹应感，生乎妙一，从乎妙一，分为三元，又从三元变成三气，又从三气变生三才。三才既滋，万物斯备。其三元者，第一混洞太无元，第二赤混太无元，第三冥寂玄通元”。
正如三元宫景点相关介绍中说的那样，三元信仰源远流长。早在1600年多年前东晋时代，干宝的《搜神记》上便载有东海人陈光蕊，生了三个儿子，得道升仙，而分管天、地、水三界的记叙。明代苏北鲁南三元信仰非常兴旺，万历十五年(1587年)淮安人谢淳破家扩建三元宫，奠定了三元宫建筑群的基础。