日本治臺第一年，也就是西元1895年，制定了「臺灣總督府法院職制」，1896年始正式引進了西方式法院制度，並採行三級三審制，總督府法院設有地方法院、覆審法院、高等法院三個審級制度；至1919年~1927年，廢除「覆審法院」改設「高等法院」，採二級三審。

在法院建築方面，日人治臺開始至大正初期，由於政經尚未穩定，其營建行為為求快速，基本上以兩種模式呈現，一為以木構造或者磚木構造興建所謂的洋風建築，另一則為選擇清領時期所留下的建築，在正式興建「法院建築」之前，過度性使用。

南部僅存的「臺南地方法院」，曾經歷兩個地點、兩個階段的發展；因不同時間與不同區位，而產生第一代與第二代建築群，第一代廳舍，始於日治初期，暫用臺南縣學作為辦公廳舍運作，至1912年遷移到市區南部馬兵營遺址，並興建第二代臺南地方法院廳舍。為臺灣日治時期所建之最重要的建築之一[註1]。由於臺灣日治時期之各級法院都已拆除或改建，「臺南地方法院」為臺灣現存日治時期大型法院建築，已指定為國定古蹟。

第一代臺南地方法院使用清領時期的建築群，經歷了司法裁判制度三個階段，即「軍政時期之『一級終審』制」、「民政初期之『三級三審』制」、「民政中期之『二級二審』制」後漸感空間不敷使用，乃於1901年計畫遷建，最後選取與監獄相鄰的原清領時期馬兵營舊址，今府前路與永福路交接處，目前將規劃為司法博物館。