不论位于何处的牌楼,从其形态可以看出,它具有建筑大门的性质,所以它的起源也和门不可分割。古代建筑一般以组群的形式出现,由大大小小的单栋建筑组合成具有围合感的院落,周边设以围墙,若想进入其中,只有通过院落的大门,由此, “门”这个元素对于古代建筑就具有特别重要的意义。早期的院门称作“衡门”,形式还比较简单,就是两根竖立的木柱,再在上面加一条横木。这种朴素的房屋在古代被称为“衡门茅屋”。陶渊明有诗云: “寝迹衡门下,邈与世相绝。”后来为了遮挡雨雪,这种简单的衡门就被加上木板屋顶,在《清明上河图》中,我们还能看到这种门出现在汴梁城的商户家中。