Goa Jepang dibangun pada tahun 1942 pada masa penjajahan Jepang. Seperti goa pada umumnya, goa Jepang tidak memiliki penerangan sama sekali. Dulunya, goa ini dipergunakan sebagai tempat persembunyian serta menjadi gudang amunisi dan persenjataan bagi tentara Jepang. Untuk membangun goa seluas 350 meter, Jepang memperkerjakan secara paksa sekitar 300 penduduk laki-laki. Para pekerja paksa atau Romusha ini hanya diberi upah 5 sen dan beras 1/4 cangkir setiap harinya. Konon, proses pembuatan goa ini memakan korban yang tidak sedikit.