Vào cuối thế kỷ XVIII (1781), trên đảo tạo lập ngôi miếu nhỏ thờ Thủy Long thần nữ – người giữ vai trò điều hòa khí hậu sao cho mưa thuận gió hòa để ngư dân yên ổn làm ăn, ra khơi đánh cá được thuận lợi và nhiều may mắn. Bởi vậy, miếu có tên là miếu Bà, hay còn gọi là Hòn Bà. Bà ở đây ý chỉ vị Thủy Long thần nữ. Trải qua hơn 200 năm, dân làng Thắng Tam đã nhiều lần đóng góp kinh phí, sửa chữa trùng tu tôn tạo trở thành nơi thờ phụng khang trang.

Kiến trúc miếu Hòn Bà gồm cổng và tòa chánh điện. Cổng là 2 trụ thẳng bằng bê tông cốt sắt đỡ toàn bộ mái lợp ngói, phía trên bờ nóc của mái trang trí mô típ “Lưỡng long chầu nhật” (cặp rồng chầu hình mặt trời), kiểu cách điệu. Du khách đi tham quan miếu Hòn Bà men theo con đường bậc tam cấp được làm bằng bê tông từ cổng lên tới tòa chánh điện rồi vòng lại cổng. Toà chánh điện mở cửa nhìn ra hướng đông nam, theo kiểu kiến trúc tứ trụ, gồm hai tầng tám mái (tượng trưng), lợp ngói, sơn màu đỏ, trên các bờ nóc và bờ diềm mái đều trang trí hình chim phượng cách điệu. Tầng trên được thu nhỏ rồi mở rộng ra bốn hướng, rồi nhô hẳn trên cao để tạo một khối kiến trúc hình vuông theo tỷ lệ nhỏ hơn tầng dưới, để mục đích vừa chống nóng và vừa trang trí. Loại hình kiến trúc này gồm 4 mái ở dưới và bốn mái ở trên, đều dốc ra bốn phía… Tòa chánh điện thờ chính là Thủy Long thần nữ còn có tên là Mẫu Thoải, vị nữ thần dân gian Việt Nam chịu trách nhiệm quản lý các miền biển, sông nước. Mẫu Thoải có mặt ở khắp mọi nơi để giúp đỡ mọi người mỗi khi đi qua các vùng sông nước. Mỗi khi vùng nào gặp hạn hán, mẫu phái tướng sĩ đi lo việc làm mưa. Còn vùng nào gặp bão lụt, mẫu lại hóa phép để gió yên, mưa tạnh. Các loài thủy quái, thủy tặc, do có các thần tướng của Mẫu Thoải canh chừng, nên cũng không thể tùy tiện tác oai, tác quái. Trong quan niệm tâm linh tín ngưỡng dân gian truyền thống lâu đời của người Việt, Thủy Long thần nữ luôn đồng nghĩa là hình ảnh của bà mẹ hiền lành, đảm đang, suốt đời lo lắng, giúp đỡ, phù hộ độ trì cho cư dân sinh sống ở các vùng ven biển hay sông nước.

Bên trong miếu thờ tại trung tâm, bài trí bàn thờ đặt bài vị và năm pho tượng Ngũ Hành Nương Nương với mỹ danh Ngũ Đức Thánh Phi gồm: Kim Đức Thánh Phi, Mộc Đức Thánh Phi, Thủy Đức Thánh Phi, Hỏa Đức Thánh Phi và Thổ Đức Thánh Phi. Theo quan niệm của hệ thống triết học Phương Đông cổ đại, đây là năm vị nữ thánh tượng trưng cho 5 yếu tố vật chất cơ bản là (Kim, Mộc, Thủy, Hỏa, Thổ) để hình thành vũ trụ. Ý nghĩa của tín ngưỡng thờ Ngũ Đức Thánh Phi tại miếu thờ Hòn Bà mang giá trị tưởng niệm, tri ân và nhân văn, nơi đây có thể gọi là ngôi đền về vũ trụ…

Trong tương lai, dự kiến nơi đây sẽ xây dựng một cây cầu mỹ thuật, phù hợp với cảnh quan, điều kiện môi trường, vị trí địa lý để nối liền từ chân núi Nhỏ ra tận phía đảo và trùng tu, tôn tạo chỉnh trang miếu Hòn Bà. Nơi đây sẽ trở thành điểm tham quan du lịch thưởng ngoạn kết hợp tâm linh của thành phố biển Vũng Tàu.