明代时东部的吐鲁番日渐强大，常引兵进犯河西走廊各城，嘉峪山隘口为必经之地。明洪武五年，宋国公、征虏大将军冯胜在班师凯旋途中，选址在河西走廊中部，东连酒泉、西接玉门、背靠黑山、南临祁连的咽喉要地建关。建成后的嘉峪关内城、外城、城壕三道防线组成重叠并守之势，形成五里一燧，十里一墩，三十里一堡，百里一城的防御体系，号称“天下第一雄关”。
城关两侧的城墙横穿沙漠戈壁，北连黑山悬壁长城，南接天下第一墩，是明长城最西端的关口，因地势险要，建筑雄伟，有连陲锁钥之称，历史上曾被称为河西咽喉，也是古代“丝绸之路”的交通要塞。自建成嘉峪关后，便为西部国防重地，对保障河西地区的安全起着重要作用。
从空中看，嘉峪关内城、外城、罗城、瓮城、城壕和南北两翼长城组成，全长约60千米。内城西宽东窄，略呈梯形，各筑有瓮城，城楼对称，三层三檐五间式，周围有廊。城四隅有角楼、南、北墙中段有敌楼，一层三间式带前廊，两门内北侧有马道达城顶。
午后到城外的北面沙地远眺等黄昏，看“光化楼”、“柔远楼”及“嘉峪关楼”三座高大建筑，同在一条中轴线上，南面是常年不化的祁连雪山，巍峨苍茫。
在雄伟的嘉峪关城脚下，有一汪清泉，名曰“九眼泉”，泉旁水草丰美，景色宜人，波澜不惊，是当时屯军养马、戍边防患的好地方。
内城西门，门额刻“柔远”二字，意思是明王朝对关外边陲各游牧民族实行“怀柔”政策，安抚边远地区，以实现长治久安的治国方略。
嘉峪关城墙高9米，还要在城墙之上修建数十座大小不同的楼阁和众多的垛墙，用砖数量之大是非常惊人的。当时修关城所用的砖，都是在40里以外的地方烧制而成。砖烧好后，用牛车拉到关城之下，再用人工往上背。由于城高，马道坡度大，上下很困难，尽管派了许多人往城墙上背砖，个个累得要死，但背上去的砖却仍然供不应求，工程进展受到了严重影响。
兰州的@一叶孤舟讲了一个故事：有一天，一个放羊的孩子来到嘉峪关修建现场放羊玩耍，看到这个情景，灵机一动，解下腰带，两头各捆上一块砖，搭在山羊身上，然后，用手拍一下羊背，身子轻巧的山羊，驮着砖一溜小跑就爬上了城墙。人们看了又惊又喜，纷纷仿效，大量的砖头就这样很快就运上了城墙。
嘉峪关的修建需要成千上万块长2米、宽0.5米、厚0.3米的石条，工匠们在黑山将石条凿好后，人却抬不起，车也拉不动，当时又没有吊运设备，且山高路远，工匠们是怎样运输的呢？
冬季到来后，众人从山上往关城修一条路，在路面上泼水，让其结成一条冰道，然后把石条放在冰道上滑行运输，非常顺利的把石条运到了嘉峪关城下，不但没有延误，反而节省了不少工期。可见古人的聪明才智。
看大漠的太阳从嘉峪关楼的飞檐一层一层地沉醉，感慨万千，嘉峪关防线明朝经营了200多年，充分利用得天独厚的讨赖河峡谷、黑山、新城草湖天险，长城、墩台、营堡倚凭天险，至明代万历时期有60里长城和边墙，近70座墩台，在河西和中亚范围，找不到这样一个最低成本、最高效率的国家防御工事。