20世纪50年代，考古工作者曾对应天门遗址进行勘察20世纪80年代发掘出应天门门道基石、城门洞与城台墩基20世纪90年代探明应天门的阙形制为三出阙。考古人员据此判断，应天门是以门楼为主体，两侧辅以垛楼并向南伸出阙楼，中间有廊庑连接的建筑群。
应天门遗址平面呈“凹”字型，下部墩基东西长约130米以上，南北宽约60米，城门进深约25米。在这样的墩基上建起高约35米的城门，其雄伟程度让人叹为观止。考古人员发掘发现，应天门城门遗址大致分为早晚两期。早期城门遗址残存有墩台、门道、隔墙、东西飞廊、东西垛楼、东西两阙等遗迹晚期城门遗址即文献所记载的五凤楼遗址，残存有墩台、门道、东西飞廊、东西垛楼、东西两阙及东西马道等遗迹。
在隋唐洛阳城宫城内轴线西侧，考古人员还发现应天门遗址北侧有两排立砖，立砖南部有用小鹅卵石砌成的长约13米的排水沟，立砖和排水沟东面还有一石制柱础。
