台北市孔廟參考曲阜本廟建築，樑柱門窗皆未刻字顯得樸實又莊嚴，其佈局依序為萬仞官牆、泮池、檽星門、儀門、大成殿及崇聖祠。另外可發現孔廟裡所有的柱子、門窗和其他寺廟不同，上面都沒有聯對，據說這表示沒人敢在至聖先師孔夫子門前賣弄文章。因為民間興築，亦加入了區域性裝飾風格，即閩南地區特有之交趾陶與剪粘裝飾。可在大成殿細細觀賞這一建築之美。
大成殿是孔廟的主殿，奉祀至聖先師孔子之牌位。正中央神龕奉祀至聖先師孔子牌位，上方高懸「有教無類」之黑底金字匾額，左右牆奉祀四配（復聖顏子、宗聖曾子、述聖子思子、亞聖孟子）與12哲等牌位，瀰漫著莊嚴肅穆的氣息。
每年的9月28日，是孔子誕辰紀念日，當天清晨會舉行隆重的祭孔大典，並在大成殿外的月台上，由學生表演八佾舞，來表達對孔子的崇敬。祭典過後，會有許多人爭著為子女或自己拔智慧毛（牛毛），象徵祈求子孫增長智慧、求學過程順利。