Đình thần Long Hương tọa lạc trên một gò đất cao, với địa thế đẹp về phong thủy, phía Đông giáp sông Dinh, phía Tây giáp quốc lộ 51, phía Nam giáp sông Dinh và phía Bắc giáp núi Dinh.

Từ thành phố Vũng Tàu ngược theo quốc lộ 51 đến km 65, rẽ vào Trung tâm hành chính thành phố Bà Rịa và đi qua di tích lịch sử văn hóa Nhà Tròn, qua cầu Long Hương. Đến trước trụ sở Ủy ban Nhân dân phường Long Hương, rẽ phải theo con đường cấp phối vào khoảng 600m là đến ngôi đình.

Hoặc từ thành phố Biên Hòa theo quốc lộ 51 đến km 64, du khách rẽ trái vào ngã ba Long Hương đến trước trụ sở Ủy ban Nhân dân phường Long Hương, rẽ trái theo vào khoảng 600m là đến Đình thần Long Hương.

Trước đây đình làng có tên là Đình thần Phước An, Tổng An Phú Tân xưa. Sau năm 1975, đình được đổi tên Đình thần Long Hương, được khởi dựng từ 1850 để thờ Thần Hoàng Bổn Cảnh và là nơi hội họp của dân làng để bàn công việc làng. Đến năm 1852, Đình làng Long Hương được triều Nguyễn ban một sắc thần cho Thần Hoàng Bổn Cảnh (niên hiệu Tự Đức thứ 5 tháng 11 ngày 29). Các tư liệu này của ngành Bảo tàng cho biết sắc phong này phong cho Thần Hoàng Bổn Cảnh chức sắc "Đại Nguyên Soái Thủy Lục Binh Quân Đại Nguyên Soái". Tuy nhiên, chúng tôi chưa được chứng kiến đạo sắc phong này nên chưa biết thực hư.

Đình Thần Long Hương tọa lạc trên một gò đất cao ráo có phong cảnh đẹp nơi có lạch con sông Dinh chảy qua. Trong vườn Đình trồng nhiều loại cây cổ thụ như dầu, sao… là những loại cây cho bóng mát quanh năm. Kiến trúc Đình được xây theo kiểu dáng "chữ tam", lưng dựa vào núi Dinh, mặt hướng về sông Dinh. Đình Thần Long Hương ngày xưa lợp lá không có tường bao quanh. Ngoài ngôi chánh điện, sân khấu võ ca, chỉ có thêm một vài căn nhà bán kiên cố. Đến những năm đầu thế kỷ XX, Đình Thần Long Hương được cất lại gồm nhiều nhà vuông bằng gỗ liên kết với nhau theo kiểu dáng chữ "Tam". Tường bao xung quanh bằng chất liệu xi măng, đá xanh, mật mía, mái lợp ngói âm dương, nền lát gạch tàu. Năm 1925, ông Tô Tấn Hợi và các con Tô Thị Kính, Tô Xích Phụng đã ủng hộ Đình một số tiền lớn để tu bổ, sơn phết, xây cất, trang trí lại hoàn chỉnh ngôi Chánh Điện, ngôi Tiền Hiền, Hậu Hiền. Năm 1940 hai anh em Võ Văn Ngọ, Võ Văn Du cùng ông Lê Văn Tám ủng hộ tiền của sửa sang lại nhà võ ca và một số công trình phụ khác. 

Kiến trúc đình Đình Thần Long Hương là một quần thể liên kết nhiều nhà vuông, mỗi ngôi có 4 cột cái có vòng tròn trên 100cm, trên các cột có trạm trổ hình rồng nên dân làng ở đây gọi là "Long trụ", các ngôi có diện tích mở rộng ra bốn phía bằng bộ kèo đâm, kèo quyết đều nhau, phần đuôi các bộ kèo có chạm trổ hình rồng lúc ẩn lúc hiện gọi là "long ẩn". Đình muốn có diện tích bên trong rộng rãi nên đã ghép những ngôi nhà liền nhau theo kiểu "trùng thiềm điệp ốc". Mái đình lợp ngói âm dương, nóc đình được gắn những hình "lưỡng long tranh châu", "cá hóa long", "ông mặt trời", và "bà mặt trăng" bằng sứ tráng men. Các đồ vật trang trí ở nóc đình tượng trưng cho âm dương hòa hợp, sung túc, no đủ và thiêng liêng.

Qua cổng đình vào Đình cách chừng 20m, giữa sân có bệ xây bằng gạch gọi là Đàn Xã Tắc là nơi thờ Thần Nông được người dân nơi đây tôn thờ và kính trọng vì sơn hà luôn gắn liền với xã tắc. Tục lệ thờ Thổ Thần, Thần Nông luôn gắn liền với nông nghiệp, nên đằng sau đàn xã tắc có vẽ rồng vờn cọp, tượng trưng cho âm dương hòa hợp, mưa thuận gió hòa. Phía sau đàn xã tắc là nhà võ ca sân khấu. Ngày trước là nhà tứ trụ, không dựng vách, trống trải, không cửa. Đây là nơi để diễn hát bội và làm các nghi thức cúng thần. Vì vậy khu vực sân khấu võ ca được trang trí đẹp, có nhiều hoành phi, câu đối trang trí liên quan đến nghệ thuật sân khấu mang nhiều nội dung phóng khoáng.

Kế tiếp sân khấu võ ca là ngôi Chánh điện. Ngôi Chánh điện được chia làm 3 gian, gian giữa có diện tích lớn hơn gian kế bên. Chánh điện được mở cửa khi có hội hè, còn những ngày thường vào thắp nhang chỉ mở cánh cửa hông. Ngôi Chánh điện được trang trí lộng lẫy, trang nghiêm nhiều hoành phi câu đối ca tụng thuần phong mỹ tục, như câu đối: Gặp đời thuận trị dẫu bốn phương hỗn tạp cũng hòa đồng. Đề tài trang trí tứ linh, cá hóa long, long hổ, bát tiên, tứ quý, mây, hạc, long trụ, long ẩn là những tác phẩm nghệ thuật điêu khắc đồ sộ, sinh động. Giữa Chánh điện có một hương án chạm trổ tinh xảo, sơn son thiếp vàng, rực rỡ. Phía sau có bàn thờ lớn là nơi thờ chung các vị thần linh. Hai bên hương án có đôi hạc đứng trên lưng quy cao lớn cạnh có bày la liệt lọng, tàn, lỗ bộ. Sát vách hậu hiền là bàn thờ chính thờ thần ghi một chữ Thần, trên bàn thờ chính ngoài các tự khí thông thường đặc biệt còn có một cổ ngai bày 3 chiếc mũ thờ. Hai bên bàn thờ chính còn có bốn bàn thờ: tả ban, hữu ban nơi thờ các vị thần linh cận vệ thần thành hoàng.

Ngôi tiền hiền, hậu hiền là nơi thờ những người có công quy dân, lập ấp và những người có công xây dựng kiến thiết những công trình đặc biệt trong làng, nên thường thấy các câu đối, hoành phi trang trí tại ban Tiền hiền, Hậu hiền đều thể hiện nội dung uống nước nhớ nguồn. Hiện nay, trong đình có hương án thờ 51 anh hùng liệt sĩ. Chiến sĩ trận vong được đặt ngay ngôi Tiền hiền trong đó có 28 liệt sĩ thời kỳ chống Pháp, 23 liệt sĩ thời kỳ chống Mỹ đã anh dũng hy sinh trong các năm (1960 - 1962), số liệt sĩ hy sinh từ năm 1963 trở về sau đình chưa quy tập về.

Trong 9 năm kháng chiến chống thực dân Pháp, Đình Thần Long Hương là nơi che chở, nuôi giấu các cán bộ hoạt động cách mạng như đồng chí Phạm Văn Công, Lê Văn Trương, Trần Văn Sáu. Khuôn viên Đình có nhiều cây Dầu cổ thụ cao lớn được lực lượng du kích tận dụng làm nơi quan sát, canh gác kẻ địch từ nhiều phía tạo mọi điều kiện thuận lợi cho cán bộ hoạt động, gây dựng cơ sở cách mạng, chủ động tiến công kẻ địch. 

Tại Đình Thần Long Hương mỗi năm có 4 lễ cúng: Lễ cúng Bầu Ông được tổ chức vào ngày 10 tháng giêng. Lễ cúng Miếu Bà Thiên Hậu và Ngũ Hành vào ngày 23 tháng 3 âm lịch. Lễ cúng Tiền hiền nhằm vào ngày 11 tháng 5 âm lịch năm. Lễ Kỳ yên tổ chức trong 03 ngày 15, 16, 17 tháng 11 âm lịch hàng năm.

Đình Thần Long Hương là nơi để người dân trong làng tổ chức Đại lễ cầu an, cầu cho quốc thái dân an mưa thuận gió hòa, mùa màng tươi tốt bội thu, con cháu đoàn tụ sum vầy. Là nơi mang những giá trị, biểu tượng của tâm linh nên Đình mãi mãi trường tồn trong dân gian. Là nơi hội tụ những nét văn hóa làng xã của Miền Đông Nam Bộ nói chung và Bà Rịa - Vũng Tàu nói riêng.