Kuriste Jumalasünnitaja sündimise kirik on ehitatud maakividest ja kollastest tellistest. Kirikut ümbritseb sammaldunud maakiviaed. Pühakoja ehitajateks olevat olnud kogenud Saaremaa ehitusmeistrid, kes 1888-nda aasta kevadel kirikule nurgakivi paigaldasid.

Kirik pühitseti 1890-nda aastal Jumalasünnitaja sündimise kirikuks. Vastvalminud kiriku kõrvale rajati surnuaed ja ehitati koolimaja ning elamu preestrile.

Kuriste Jumalasünnitaja sündimise kirik on esimene ja ainuke, tänase päevani katkematult tegutsenud õigeusu pühakoda Hiiumaal.