本監獄興建於民國五十九年十一月，因綠島與台東間交通常受到天候之限制，使得建材搬運不易，歷經艱難，至民國六十一年九月始告完成啟用。本監土地面積為三點七公頃，建築物有內外辦公室各一棟，日新堂一棟，獨居房一百七十間，雜居房四十八間，隔離舍二十間，鎮靜室三間，工場、炊場各一間。本監依分監管理之特性，收容台灣各監獄移禁頑劣、誣控濫告、最難以管教，甚至無法管教之收容人，係屬高度管理隔離監。當初設立之目的，即是利用外島與世隔絕之地理環境特色予以集中嚴格矯治，期能對症下藥，促使其改過遷善，重做新人，因此本監獄謂台灣各監獄的最後一道防線，除有助其他監獄順利推行矯治業務外，對國內治安、社會安寧實有莫大的貢獻。同時由於獄中所關皆為重刑犯以及如一清專案、治平專案的「大哥」級人物，因而充滿神秘色彩，中外人士常遠道慕名而來一睹其真面目。