經過儀門,大成殿在望,屹立於寬廣的鋪石庭院中央。這片花崗石舖地在祭孔時,正獻官、分獻官及陪祭官遵照古禮即分列站在特定的位置,儀式非常莊嚴。大成殿是孔廟的主殿,供奉至聖先師孔子之牌位。大成殿面寬五開間,進深六開間,共用42根巨柱,四周設走馬廊,可沿屋簷迴廊繞行一周。形制宏偉而且結構嚴謹,為台灣有數的巨大建築。它立在很高的台基之上,有五級以上的階梯可上,這是尊貴的大殿才使用的制度。
大成殿的走馬廊皆使用泉州白石所雕的石柱,而中央的一對則為蟠龍柱,雕工精煉,被譽為傑作。這些石雕皆是聘自泉州惠安一帶的匠師所作,風格蒼勁古拙,與一般寺廟的繁瑣纖細不同。
在大成殿之前,有一座突出的台座,稱為月台,也稱為丹墀。祭孔時安置樂器並供佾生獻六佾舞之所。古制亦有八佾舞,共64人,但台北孔廟的丹墀面積有限,只舉行六佾舞,共36人。丹墀前又有御路,上面雕雲龍,龍首鋒芒畢露具有很高的藝術水準。
在丹墀前崁有御路,又稱為石陛,上面雕雲龍,龍首鋒芒畢露具有很高的藝術水準。此為古時斜坡轉變而來的構造,御路為尊貴之處,不能踐踏之。它上面精雕雲龍,一爪抓珠,一爪抓印,睥睨寰宇,氣勢非凡。
大成殿屋脊中央立七級寶塔,此乃是一種民間相沿已久的壓勝裝飾。屋脊上置小塔,來自印度彿教,但入土中原之後,已經轉變為中國建築。民間相傳寶塔有鎮殿群邪象徵,故大成殿安置小塔。
大成殿之斜脊以水龍及卷草裝飾,據說水龍可壓火神祝融,因而可避免火災。
大成殿屋脊兩端燕尾起翹處有兩支筒狀物,稱為通天柱或通天筒,立於鰲魚之上,筒身盤龍。據說宋朝朱熹感念孔子德配天地,道冠古今,乃於泉州孔廟屋頂立通天柱以示崇敬,後世閩南孔廟遂留下傳統。另一說為秦始皇焚書坑儒,士子為保經書,乃藏書於竹筒內,為紀念護書有功,乃豎立通天筒於屋脊上。
大成殿內上面裝置八角藻井,共有二十四支斗栱向中央集中,斗栱上升四層之後,再減為十六支斗栱收至頂心,有如輻射狀,至為壯麗。在藻井四角落尚有四隻蝙蝠彫飾,諧音為「賜福」。
走進大成殿,正中神龕供奉至聖先師孔子神位,上方高懸蔣中正總統所書「有教無類」之黑底金字匾額。左右牆供奉四配:復聖顏子、宗聖曾子、述聖子思子、亞聖孟子與十二哲等神位。大成殿內的空間高敞,氣氛莊嚴肅穆。在古代,孔廟原有孔子塑像,但因雕刻技術不同,有些塑像無法表現孔子神態,所以明太祖時,就下令以後新蓋的孔廟,都以牌位取代塑像;到明嘉靖皇帝,則下令撤消全國孔子像,完全使用牌位。從此以後,雖然改朝換代,卻都依循這項規定,使孔子因沒有神像的神化,相對地更突顯出人格的偉大。