Tại đây vào những ngày mới thành lập nhà tù, Pháp đã vùi chôn tập thể khoảng 107 người tham gia khởi nghĩa 6/1862 ở Côn Đảo nên khi nói về di tích Chuồng Bò, người ta còn nghĩ đến “Bãi sọ người”- là nghĩa địa đầu tiên ở nhà tù Côn Đảo, sau này tiếp theo đó là nghĩa địa Hàng Keo, Hàng Dương. 

Hình thành từ cuối thế kỷ XIX, với diện tích 7.029m2, Khu biệt lập Chuồng Bò còn có tên gọi khác : “Sở củi Chuồng Bò”, “Sở rẫy Chuồng Bò”, “Sở hướng nghiệp”. Theo tài liệu, vào những năm cuối thể kỷ thứ 19, sở Chuồng Bò là nơi chăn nuôi bò sữa, heo, gà, vịt, bồ câu,...

Thời thực dân Pháp, Chuồng Bò có 09 phòng giam để tạm giam tù nhân ở sở này. Nằm kề bên là 24 hộc nuôi heo và đối diện là 2 chuồng nuôi bò và 1 hầm chứa phân, nước thải từ chuồng nuôi bò.

Sang thời Mỹ - ngụy, khoảng cuối năm 1969 địch đã đưa tù chính trị chống chào cờ bị còng xiềng cấm cố lâu ngày bị teo cơ bại lết về giam ở đây.

Sau khi Chuồng Cọp bị phát hiện, Chuồng Bò được gấp rút sửa chữa, Mỹ - Ngụy đã sửa 24 hộc chứa heo thành 24 phòng giam và xây dựng lại gồm 3 khu: A, B, C. Tổng cộng thời Mỹ ngụy, Khu biệt lập Chuồng Bò có 33 phòng biệt giam.

Từ năm 1973, Khu biệt lập Chuồng Bò là văn phòng của tiểu Ban điều tra khai thác thuộc Ban chuyên môn. Những người tù bị tình nghi trong hoạt động đấu tranh bị đưa về đây để khai thác. Ban chuyên môn áp dụng nhiều hình thức điều tra tàn bạo như đánh đập bằng củi đòn, nẹp 2 thanh tre vào ống chân…nhiều tù nhân đã bị bại liệt, tàn phế bởi đòn tra tấn và chế độ đày ải ở Chuồng Bò.

Đây cũng là trại giam mở cửa giải phóng cuối cùng kết thúc 113 năm “Địa ngục trần gian Côn Đảo” vào khoảng 8 giờ sáng ngày 01/5/1975.

Ngày 29/4/1979, di tích Khu điều tra đã được Bộ Văn hóa - Thông tin đã ra Quyết định số 54-VHTT.QĐ đặc cách công nhận Khu di tích đặc biệt quan trọng của Quốc gia. Ngày 10/5/2012 Thủ tướng Chính phủ ký Quyết định số 548/QĐ-TT xếp hạng là Di tích Quốc gia đặc biệt.