悬空寺原名“玄空阁”，是取道家之“玄”，佛家之“空”，形如楼阁而得名，后人因“悬”与“玄”谐音，寺院又象悬挂在半崖之上，依其形貌俗称悬空寺。始建初期，最高处的三教殿离地面90米，看上去更加奇险，因历年河床淤积，现仅剩58米。
全寺面积仅152.5平米，却建有大小房屋40间。悬空寺的总体布局以寺院、禅房、佛堂、三佛殿、太乙殿、关帝庙、鼓楼、钟楼、伽蓝殿、送子观音殿、地藏王菩萨殿、千手观音殿、释迦殿、雷音殿、三官殿、纯阳宫、栈道、三教殿、五佛殿等，真可谓应有尽有。各殿楼自身都对称中有变化，彼此布局分散中有联络，曲折回环，虚实相生，小巧玲珑，空间丰富，层次多变，小中见大，徜徉其间，不觉为弹丸之地，布局紧凑，错落相依，其布局既不同于平川寺院的中轴突出，左右对称，也不同于山地宫观依山势逐步升高的格局，均依崖壁凹凸，审形度势，顺其自然，凌空而构，看上去，层叠错落，变化微妙，使形体组合井然有序，空间虽都不大，但靠对比方法而显大。远望悬空寺，像一付玲珑剔透的浮雕，镶嵌在万仞峭壁间，近处仰望悬空寺，大有凌空欲飞之势。登临悬空寺，更觉妙趣横生，攀悬梯，跨飞栈，穿石窟，钻天窗，走屋脊，步曲廊，几经周折，忽上忽下，左右回旋，俯首而视，峡水长流，叮咚成曲，一索桥摇曳于山涧之上，那是从外界通向悬空寺的唯一通道。真如置身于九天宫阙。
悬空寺不仅外貌惊险，奇特、壮观，建筑构造也颇具特色，形式丰富多彩，屋檐有单檐、重檐、三层檐，屋顶有正脊、垂脊、戗脊、贫脊。总体外观，重重叠叠，造成一种窟中有楼，楼中有穴的独特风格，它既融合了中国园林建筑艺术，又不失中国传统建筑的格局。
悬空寺是历代文人和要人的向往之处，公元735年，诗仙李白游览后，在岩壁上留下了“壮观”二个大字。并特意在“壮”字上多写一个点，以表其难以用此二字形容悬空寺的心情。明崇祯六年，徐霞客游历到此，称之为“天下巨观”。康熙大帝亦曾来此。
那么从技术角度讲，悬空寺又是如何悬于绝壁之上的呢？
这里山势陡峻，悬崖如同斧劈刀削一般，悬空寺就像是粘贴着建在这悬崖上。抬头望上去，但见层层叠叠的殿阁，只有十数根像筷子似的木柱把它撑住，木柱或长或短，而且仍然保持着天然的形态，并不是完全规则的圆柱形。柱子的长细比例也不符合常规。那大片的赭黄色岩石，好像微微向前倾斜，瞬间就要塌下似的，更让人感觉奇险。但古人正是利用了这样的山势，给悬空寺找到了一处天然的屋檐，使她少受风雨侵袭。加之寺院前面的山峰又起了遮挡烈日的作用。据说，在夏天的时候，每天只有３个小时的阳光照射悬空寺。俗语说：“平地起高楼”，可是，悬空寺却反其道而行之，悬空建在这绝壁之上。虽然悬空寺给人的第一个印象是一栋“危楼”，但凭借古人的智慧，她却安然立于今世。
但真正支撑建筑的主要结构并不是立柱，而是木挑梁。这些横木被当地人叫做“铁扁担”，是用当地的特产铁杉木加工成为方形的木梁，深深插进岩石里去。据说，木梁用桐油浸过，所以不怕被白蚁咬，还有防腐作用。但是如果按现在的力学计算，挑梁的埋入部分应该大于出挑部分，这些挑梁伸出的长度可不只是三峡古栈道的宽度，而是一座楼阁的进深。埋入悬崖的不可见部分想必短不了。古人没有现代化施工机械，是怎样在岩壁上凿出这种又细又深的洞的呢？古人也没有混凝土浇注技术，把木挑梁插进去又是怎么固定的呢？而且这些还是在八、九十米的高空中操作的。现在人们虽然进行了这样那样的推测，终难自圆其说。
无论从建筑艺术还是建筑技术上看，悬空寺都令人叹为观止。大同地区是地震多发区，可这座玄而又玄的悬空古寺却保存至今，给世人留下了一个千古之谜。